본적은 경상남도 동래군이나 부친이 관리로 집무하던 중 태어난 출생지는 강원도 홍천군이다. 노론 중신인 김상로, 김재로, 김치인, 김종수 등의 방계 후손이다. 언더우드 선교사의 비서, 경신학교의 교수와 학감 등을 지내고 미국에 유학하였다. 1918년 파리 강화회담에 신한청년당의 대표로 파견되어 이후 10여년간 외교 무대에서 종횡무진으로 활약하며 한국의 독립운동이 국제 승인을 받도록 하기 위하여 심혈을 기울였다. 1919년부터 상해 임시 정부 외무총장, 파리위원부 위원장, 대한민국 임시 정부(임정) 학무총장, 구미위원부 위원장과 부위원장 등을 역임하였다. 1921년 임정의 창조파와 개조파를 놓고 갈등할 때는 창조파의 입장에 섰다. 그 뒤 임정을 떠나 독립운동단체의 통합노력과 교육 활동 등을 하다가 1933년 외무부장으로 복귀하였다. 좌우합작의 일환으로 1935년 조선민족혁명당 재창당을 주도하였고, 그 뒤 다시 임정을 떠났다가 1942년 선전부장으로 복귀하였고 1944년부터 1947년까지 대한민국 임시 정부 부주석을 역임하였으며 주로 외교독립활동을 전개하였다.