1877年1月23日（清光绪二年十二月初十），曹汝霖生于上海。幼年入私塾，继往汉阳铁路学堂读书。1900年留学日本，在日本东京法学院学习，曾参加译书汇编社，亦曾协助法政大学举办「一年速成班」。1904年归国，任职商部商务司，后被调入外务部。1913年被袁世凯指派为第一届参议院议员。同年8月任外交部次长。1915年，曹汝霖接受袁世凯的命令，代表政府跟日本签署了二十一条，损害民国主权。1916年2月28日，袁世凯特派曹汝霖兼充外交官领事官资格审查委员会委员长。4月任交通总长，后兼署外交总长，并任交通银行