51年4月28日，他的母亲伊丽莎白尝试了写信给约瑟夫·斯大林请求这位苏联领导人释放自己的儿子。1952年，他的父亲老阿尔弗雷德去世。1954年，西德的经济走上了高速发展的轨道，当时的总理康拉德·阿登纳在亲自回复了伊丽莎白的信件后，并开始为换回不少在第二次世界大战中被遗留下来的俘虏与苏联开始了外交和贸易谈判。身为提前释放的战俘之一，哈特曼被告知可以领取全新的衣裳并且准备好自己的行李，监狱的指挥官与每个人握了手后祝了他们各自好运。1955年10月15日，哈特曼重新回到了阔别十年的祖国，在波昂机场受到了英雄式的欢