Han försöker inte bara medla en lösning på en visceral fejd bland USA:s arabiska allierade i Gulfstaterna som hotar USA:s nationella säkerhetsintressen. Han har också undergrävts av president Trump, som offentligt har tagit ställning i tvisten och kan till och med ha hjälpt till att utlösa den.
Det handlar om anklagelserna - riktade av Saudiarabien, Förenade Arabemiraten, Bahrain och Egypten - om att Doha stöder terrorister. De har skurit av diplomatiska band och reseband och utfärdat en omfattande uppsättning krav som Qatar hävdar är så "orealistiska" att de verkligen syftar till att tvinga den att "överlämna sin suveränitet".
Mr Trump har delegerat röran till Mr Tillerson, men det hindrade inte presidenten från att kasta Qatar på en presskonferens i Vita huset för att ha finansierat terrorism "på en mycket hög nivå".
Han gjorde kommentaren kort efter ett besök i Saudiarabien att så välvilligt omfamnade Riyadh några regionala observatörer tror att det sporrade riket att vidta radikala åtgärder mot långvariga klagomål mot Doha.
"Vi kände att vi hade Trump vid vår sida", tänkte en saudisk säkerhetsexpert, "så låt oss avsluta detta lilla land som har buggat oss i åratal."
Qatar har "buggat" sina grannar med sin maverick utrikespolitik.
De anklagar den för att hysa sina motståndare och ge dem en plattform på dess Al Jazeera satellitkanal, särskilt politiska islamister som Muslimska brödraskapet, som ses som ett särskilt hot av de absoluta monarkierna.
Vita huset har kallat stormen en "familjefråga", men det händer inte i en tekanna; med USA Mideast militära tillgångar utspridda bland Gulfstaterna, kan det inte undvika att dras in.
USA: s al-Udeid flygbas i Qatar är inte bara högkvarteret för luftkriget mot Islamiska Statsgruppen i Irak och Syrien, men viktigt för dess förmåga att projicera makt i Indiska oceanen.
Och fejden har kastat en nyckel i USA:s Mellanösternpolitik och krossat en enad arabisk front som syftar till att bekämpa terrorism och konfrontera Iran.
"Det här är inte en lokal regional sak", säger Hussein Ibish vid Arabiska golfen States Institute. "Det här är ingen lek."
Den här veckan var Washington fullsatt med utrikesministrar i Gulfstaterna och mr Tillerson har varit i ögonen på stormen.
Hans intensiva engagemang har stöd av Vita huset, en tjänsteman insisterade.
"Vad som får uppmärksamhet är tweets och offentliga uttalanden", sade han, men på den underliggande politiken, "Vita huset och utrikesdepartementet är på samma sida."
Men ibland har det verkat som om de inte ens läste samma bok.
Mr Tillerson uppges ha varit blind och rasande av president Trumps Rose Garden fördömande av Qatar, levereras bara timmar efter att utrikesministern hade krävt ett slut på blockaden.
Hans medhjälpare var uppenbarligen övertygade om att den sanna författaren till Trumps uttalande var UAE-ambassadören Yousef Al Otaiba, en nära vän till Trumps svärson Jared Kushner, enligt Mark Perry från den amerikanska konservativa.
Qatari kommunikationer, å andra sidan, har kanaliserats helt genom departementet, säger utrikesminister Sheikh Mohammed bin Abdulrahman al-Thani, med undantag för några inledande telefonsamtal från Vita huset tjänstemän.
Tillerson har tagit på sig en del skarpa ord vid Qatars Gulf-förtal, vilket tyder på att politiska tvister drev fram anklagelserna om terrorism, och förklarar att vissa av deras krav skulle vara svåra för Qatar att möta.
Hans strategi har dock varit att underlätta, fokuserad på att hjälpa Qataris förbereda sitt svar på listan över krav. Han hoppas att detta kan ligga till grund för förhandlingarna, även om saudierna har sagt att det inte finns något att förhandla om.
"Zerotolerans" har utrikesministern Adel al-Jubeir förklarat.
Men det är oklart hur långt administrationen är villig att använda sitt betydande inflytande för att ens få alla runt bordet, än mindre muskel alla sidor i en resolution.
Det är upp till mr Tillerson att argumentera för en väg framåt. Men den före detta oljechefen har ännu inte hittat ett sätt att förvandla sin verksamhet till ett politiskt nous, vilket omvandlar hans till synes starka förhållande till presidenten till en stark politisk roll.
Och den offentliga kontakten med Vita huset har försvagat hans hand.
– Jag tror att han har mindre behörighet att tala i den amerikanska regeringens namn än andra statssekreterare har haft tidigare, säger Jon Alterman vid Centrum för strategiska och internationella studier.
"Det är en farlig position för en utrikesminister att vara i när man inte kan tala i presidentens namn."
Rex Tillerson står inför sitt största prov som utrikesminister över krisen med den lilla nationen Qatar.