潟县五泉市，毕业于新潟县立新潟南高中及东京教育大学（现在的筑波大学）。他总共夺得12面奥运奖牌，其中8面是金牌，成为奥运史上最成功的运动员之一，也是夺得最多金牌的男子体操运动员。
运动员生涯.加藤泽男首次参加奥运是1968年墨西哥奥运，帮助日本夺得男子体操团体金牌，完成男子体操的3连霸。他也赢得个人全能与自由体操的金牌及吊环铜牌。在4年之后，加藤泽男继续参加1972年的慕尼黑奥运，总共夺得5面奖牌。他夺得双槓金牌、鞍马及单槓银牌，并在个人全能与团体赛分别完成2连霸及4连霸。