Сергей Иванов родился 31 января 1953 года в Ленинграде. В 1975 году окончил филфак ЛГУ, затем высшие курсы КГБ СССР в городе Минске. В 1981 году - 101-ю школу Первого Главного управления КГБ (ныне Академия Службы внешней разведки РФ). С 1981 по 1998 год прошел путь от оперуполномоченного Первого Главного управления КГБ СССР до первого заместителя начальника одного из управлений Службы внешней разведки Российской Федерации.
Был в трех длительных зарубежных командировках в скандинавских странах и Африке. После реорганизации КГБ продолжил работу в Службе внешней разведки Российской Федерации, а затем в Федеральной службе безопасности РФ.
С августа 1998 года - заместитель директора ФСБ - начальник Департамента анализа, прогноза и стратегического планирования ФСБ. С 15 ноября 1999 года - секретарь Совета Безопасности Российской Федерации. Генерал-полковник запаса.
Указом Президента РФ от 28 марта 2001 года №353 назначен Министром обороны Российской Федерации. Указом Президента РФ от 14 ноября 2005 года №1321 назначен заместителем председателя Правительства Российской Федерации - Министром обороны Российской Федерации. Член Совета Безопасности РФ.
Указом Президента РФ от 14 ноября 2005 года №1321 назначен заместителем Председателя Правительства Российской Федерации - Министром обороны Российской Федерации.
Указом Президента РФ от 16 февраля 2007 года назначен Первым заместителем Председателя Правительства Российской Федерации.
Владеет английским и шведским языками. Женат, имеет двоих детей. Жена, Ирина 1953 года рождения, москвичка, имеет высшее экономическое образование.