Narodil se 12. září 1959 v Goslaru do rodiny úředníka a zdravotní sestry. Na Göttingenské univerzitě vystudoval němčinu, politologii a sociologii pro středoškolské učitele. Během studií pracoval jako noční vrátný v hotelu.

Do Sociálnědemokratické strany Německa (SPD) vstoupil v roce 1977. Nejprve se angažoval v dolnosaské organizaci strany. Do vrchních pater politiky v Dolním Sasku mu pomohl Gerhard Schröder, který osm let předsedal zemské vládě Dolního Saska.

Gabrielovi se podařilo v roce 1990 získat mandát poslance dolnosaského zemského sněmu a podržel si ho až do roku 2005. Od prosince 1999 do března 2003 byl ministerským předsedou Dolního Saska.

Od roku 2005 zasedá za sociální demokraty ve Spolkovém sněmu. V rámci SPD nepatří k vyhraněným stoupencům žádného z vnitrostranických křídel. V listopadu 2009 byl zvolen předsedou SPD. Z funkce odstoupil 13. března 2017 a předal jí bývalému předsedovi Evropského parlamentu Martinu Schulzovi.

V první vládě kancléřky Angely Merkelové zastával post ministra pro životní prostředí, ochranu přírody a jadernou bezpečnost. Od 17. prosince 2013 je vicekancléřem Německa a zároveň Spolkovým ministrem hospodářství a energetiky.

Gabriel si vysloužil pověst tvrdého vyjednavače, když ve vládě velké koalice si i přes odpor CDU/CSU vynutil zachování slibu uzavřít do roku 2021 všechny německé jaderné elektrárny.

Začátky měl Gabriel, který je řazený mezi přední německé politiky, velmi komplikované. Jeho dětství poznamenaly neuspořádané rodinné poměry, učitel v základní škole dokonce navrhoval jeho přeřazení do zvláštní školy. Když byly Sigmarovi Gabrielovi tři roky, rodiče se rozvedli. Jeho starší sestra Gudrun zůstala u matky, on sám do svých deseti let vyrůstal u otce a později u babičky. Po několika letech právních tahanic získala v roce 1969 chlapce do výhradní péče jeho matka.

Na konci 70. let vyplavala napovrch neslavná minulost jeho otce Waltera Gabriela, přesvědčeného nacisty. Syn s ním přerušil veškeré kontakty a na jeho adresu se omezil na suché konstatování: „Můj otec byl nenapravitelný nacista a popírač holokaustu.“

Sigmar Gabriel je podruhé ženatý se zubní lékařkou a je otcem dvou dcer.