Primakow urodził się w Kijowie, dzieciństwo spędził w Tbilisi, a na resztę życia związał się z Moskwą. Przed wiele lat jako korespondent gazety "Prawda" pracował w krajach Bliskiego Wschodu, najdłużej w Egipcie i Iraku.
Niektóre źródła twierdzą, że zajmował się wtedy również działalnością wywiadowczą, co w przyszłości mogło mu pomóc w zrobieniu kariery - w służbach specjalnych ZSRR i we współczesnej Rosji.
Zajmował między innymi stanowiska szefa pierwszego Zarządu Głównego KGB ZSRR, a następnie dyrektora Służb Wywiadu Zagranicznego Federacji Rosyjskiej. W 1996 roku został ministrem spraw zagranicznych, aby dwa lata później objąć tekę premiera. Rosjanie wspominają jego rządy jako okres gospodarczej i politycznej stabilności. Nie zakończył jednak na tym zawodowej kariery.
Najpierw wybrano go na deputowanego Dumy Państwowej, a później przez dwie kadencje, do 2011 roku, przewodniczył Izbie Przemysłowo-Handlowej Federacji Rosyjskiej. Ostatnia lata życie spędził przewodnicząc radzie nadzorczej holdingu RTI zajmującego się nowoczesnymi systemami łączności i bezpieczeństwa.