大学旁听，1942年毕业于东京帝国大学法学部法律学科。1960年至1963年任日本驻香港总领事，1966年至1968年任外务省亚洲局局长，1968年11月13日至1972年1月11日任日本驻丹麦大使，从丹麦回到日本后任外务省研修所所长，任内恰逢日本首相田中角荣访华并与中国国务院总理周恩来签署《中日联合声明》。1973年2月8日，小川平四郎被任命为日本驻华大使，2月16日前往首相官邸拜会田中角荣，同年3月29日从东京乘日本航空班机赴香港，3月31日从香港抵京赴任，同年4月3日向中华人民共和国代主席董必武递