Narodil se 12. září 1959 v Goslaru do rodiny úředníka a zdravotní sestry. Na Göttingenské univerzitě vystudoval němčinu, politologii a sociologii pro středoškolské učitele. Během studií pracoval jako noční vrátný v hotelu.

Do Sociálnědemokratické strany Německa (SPD) vstoupil v roce 1977. Nejprve se angažoval v dolnosaské organizaci strany. Do vrchních pater politiky v Dolním Sasku mu pomohl Gerhard Schröder, který osm let předsedal zemské vládě Dolního Saska.

Gabrielovi se podařilo v roce 1990 získat mandát poslance dolnosaského zemského sněmu a podržel si ho až do roku 2005. Od prosince 1999 do března 2003 byl ministerským předsedou Dolního Saska.

Od roku 2005 zasedá za sociální demokraty ve Spolkovém sněmu. V rámci SPD nepatří k vyhraněným stoupencům žádného z vnitrostranických křídel. Od listopadu 2009 je předsedou SPD.

V první vládě kancléřky Angely Merkelové zastával post ministra pro životní prostředí, ochranu přírody a jadernou bezpečnost. Od 17. prosince 2013 je vicekancléřem Německa a zároveň Spolkovým ministrem hospodářství a energetiky.

Gabriel si vysloužil pověst tvrdého vyjednavače, když ve vládě velké koalice si i přes odpor CDU/CSU vynutil zachování slibu uzavřít do roku 2021 všechny německé jaderné elektrárny.

V současné době patří Sigmar Gabriel mezi přední německé politiky, začátky měl velmi komplikované. Jeho dětství poznamenaly neuspořádané rodinné poměry, učitel v základní škole dokonce navrhoval jeho přeřazení do zvláštní školy. Když byly Sigmarovi Gabrielovi tři roky, rodiče se rozvedli. Jeho starší sestra Gudrun zůstala u matky, on sám do svých deseti let vyrůstal u otce a později u babičky. Po několika letech právních tahanic získala v roce 1969 chlapce do výhradní péče jeho matka.

Na konci 70. let vyplavala napovrch neslavná minulost jeho otce Waltera Gabriela - přesvědčeného nacisty. Syn s ním přerušil veškeré kontakty a na jeho adresu se omezil na suché konstatování: „Můj otec byl nenapravitelný nacista a popírač holokaustu.“

Sigmar Gabriel je podruhé ženatý se zubní lékařkou a je otcem dvou dcer.