Urodził się w 1900 roku. Studiował literaturę angielską. Specjalistą od spraw ZSSR został dzięki biegłej znajomości języka rosyjskiego i niemieckiego. W 1939 roku został wicekonsulem w Kownie. Do jego zadań należało m.in. obserwowanie ruchów wojsk niemieckich i sowieckich.
Nagły zwrot w jego karierze nastąpił w 1940 roku, kiedy po zajęciu Litwy przez ZSRR zaczęli się do niego zgłaszać Żydzi chcący opuścić Europę. Wysłał list do swojego rządu z prośbą o pomoc. Po trzykrotnej odmowie, wbrew decyzji japońskich władz, rozpoczął wydawanie wiz tranzytowych. Dzięki nim Żydzi mogli koleją transsyberyjską udać się do Japonii, a stamtąd część z nich wyjechała potem do USA i brytyjskiej Palestyny. W ciągu niecałych sześciu tygodni, wg. The Independent, Sugihara razem z żoną wypisał ręcznie prawie 6 tysięcy dokumentów.
Po zwolnieniu z pracy w 1947 roku pracował m.in. jako obnośny sprzedawca żarówek. Pamięć o jego osobie przywrócił pracownik izraelskiej ambasady w Tokio Jehoshua Nishiri, który odnalazł go w 1968 roku. W 1985 roku został odznaczony tytułem "Sprawiedliwego wśród Narodów Świata".
Mimo usilnych starań dyplomaty, na Litwie pozostało ponad 125 tysięcy Żydów, którzy w kolejnych latach zostali zamordowani przez Niemców.
Chiune Sugihara zmarł 31 lipca 1986 roku. Dziś został uhonorowany w internecie specjalną grafiką Google Doodle.
