新平尉。至德初年，江都采访使李希言上书，请求让元载担任自己的副官，擢祠部员外郎、洪州刺史。入为度支郎中，唐肃宗惊异于他对答敏捷；之后累迁户部侍郎，充度支、江淮转运等使。在肃宗朝，因与掌权宦官李辅国之妻元氏同族而受到重用，管理漕运。宝应元年（762年）代宗执政，宰相萧华罢官，元载由户部侍郎接任为中书侍郎同平章事（即宰相）加集贤殿大学士，修国史。又加银青光禄大夫，封许昌县子。因先后助代宗杀了李辅国以及后来的鱼朝恩两个掌权宦官而更加受到皇帝信任，“志气骄溢，每众中大言，自谓有文武才略，古今莫及，弄权舞智，政