Scholz var fra 2011 til 2018 førsteborgermester og dermed regjeringssjef i delstaten Hamburg, og fra 2007 til 2009 Tysklands arbeids- og sosialminister. Han var en periode av 2018 fungerende leder for SPD. Han tapte ledervalget i 2019.[6] Han ble i august 2020 valgt som SPDs kanslerkandidat foran valget til Forbundsdagen i 2021.[7]
Olaf Scholz ble født i Osnabrück og tilbakte sin barndom i Hamburg.[8] Hans far arbeidet seg opp fra selger til daglig leder i tekstilbransjen. Foreldrene og besteforeldrene som var jernbaneansatte, kom fra Hamburg.[9]
Scholz er utdannet jurist, og fikk advokatbevilling i 1985. Hans spesialfelt er arbeidsrett.
Scholz ble medlem av SPD i 1975, og var aktiv i ungdomsorganisasjonen Jusos, bl.a. som føderal nestleder (1982–1988). Han var leder for SPD i Hamburg fra 2000 til 2004, og ble innvalgt i SPDs føderale styre i 2001. Fra 2005 til 2007 var Scholz parlamentarisk forretningsfører for SPDs Forbundsdagsfraksjon. Fra mai til oktober 2001 var han senator for innenrikssaker i bystaten Hamburg og mellom 2002 og 2004 generalsekretær i SPD.
Han var medlem av Forbundsdagen fra 1998 til 2001 og har igjen vært innvalgt i Forbundsdagen siden 2002. Han er direktevalgt i parlamentet fra valgkretsen Altona.