Podľa vyjadrenia jeho manželky Klose zomrel doma v spánku, pričom v uplynulých rokoch trpel Alzheimerovou chorobou.
Klose mal len 37 rokov, keď ho v roku 1974 zvolili za predsedu vlády v mestskom štáte Hamburg po ľavicovej kampani, ktorá spochybňovala v meste prevládajúcu politiku úsporných opatrení. Stal sa tak najmladším lídrom nemeckej spolkovej krajiny a funkciu vykonával do roku 1981.
Náhle odstúpil, keď jeho kampaň proti neďalekej jadrovej elektrárni Brokdorf odmietli ostatní členovia jeho strany. O dva roky neskôr ho zvolili do Bundestagu (Spolkového snemu), kde sa stal lídrom frakcie sociálnych demokratov (SPD) a hlavným hlasom strany v otázkach zahraničnej politiky. V parlamente zostal až do roku 2013.
V rokoch 1998-2002 pôsobil ako predseda výboru Bundestagu pre zahraničné záležitosti. Bol tiež vplyvnou osobnosťou v SPD, keď v niektorých obdobiach zastával funkciu pokladníka strany.
