Rex Tillerson se narodil 23. března 1952 ve Wichita Falls v Texasu. Jeho kariéra započala v Exxonu, kde roku 1975 nastoupil jako výrobní inženýr. Tillersonova kariéra je s touto ropnou společností pevně spjata. První z větších úspěchů byl pro Tillersona post generálního ředitele ústřední divize výroby společnosti Exxon v USA.

V roce 1995 se stal prezidentem společnosti Exxon Yemen Inc. a společnosti Esso Exploration and Production Khorat Inc. O tři roky později v roce 1998 se stal viceprezidentem společnosti Exxon Ventures a prezidentem firmy Exxon Neftegas Limited, která je zodpovědná za podíly společnosti Exxon v Rusku a Kaspickém moři.

V roce 2004 dokonce získal post prezidenta v nově vytvořeném holdingu ExxonMobil. Vzhledem k jeho kariérnímu růstu o něm Donald Trump hovořil jako o „ztělesnění amerického snu“.

Působení Exxonu v zemích bývalého Sovětského svazu mu zajistilo pevné pouto s Ruskem. Mimo jiné také Exxon uzavřel dohodu s vládní ropnou společností Rosněfť, kterou v té době vlastnila ruská vláda ze 75 %. Jejich společná spolupráce byla přerušena až uvalením sankcí na Rusko v roce 2014 kvůli anexi Krymu, Tillerson byl velkým kritikem tohoto kroku.

V roce 2013 Tillerson získal od ruského prezidenta Vladimira Putina Řád přátelství, jedno z největších ruských vyznamenání pro cizince.

Kvůli svým vazbám na Rusko byl Tillerson při nástupu do funkce velice ostře kritizován. Senátor John McCain například reagoval takto: „Nechci nikoho, kdo by mohl být kamarádem bývalého agenta KGB. Putin je tyran, zločinec a vrah a kdokoli, kdo jej popisuje jinak, lže.“

Z důvodu nástupu do funkce ministra zahraničí musel Tillerson z Exxon Mobilu odejít. Do funkce nastoupil 1. února 2017.

Tillerson je ženatý a má čtyři děti.