W 1995 roku Tenet objął po admirale Williamie Studemanie stanowisko zastępcy dyrektora CIA, które sprawował do mianowania go dyrektorem. Zrezygnował 3 czerwca 2004 roku, lecz sprawował je jeszcze do 11 lipca 2004 roku oświadczając, że powodem jego rezygnacji są problemy personalne. Rezygnacja Teneta i jego zastępcy ds. operacyjnych, Jamesa Pavitta była wynikiem zmasowanej krytyki braku rzetelnych informacji wywiadowczych dotyczących zamiarów siatek terrorystycznych i ataków terrorystycznych z 11 września 2001 roku na World Trade Center i Pentagon oraz niedokładnego rozeznania rzeczywistych zasobów irackiej broni masowej zagłady. Administracja prezydenta Busha powoływała się na informacje dostarczone przez amerykański wywiad CIA usprawiedliwiając swoją decyzję inwazji na Irak. Stanowisko dyrektora CIA objął po nim jego dotychczasowy zastępca, John E. McLaughlin.