焦刘洋出生于黑龙江哈尔滨,父亲焦春松曾是校队110米栏选手,因父亲要求学习游泳项目,5岁时焦刘洋被送到黑龙江交通学校游泳班,此后又辗转来到哈尔滨体校,师从教练童宇星。2004年,广州军区部队游泳队招收运动员,父母经过协商,13岁的焦刘洋在进入广州军区部队游泳队。2005年,焦刘洋在十运会200米蝶泳中获得银牌,跻身中国游泳新星行列;11月,焦刘洋进入国家队,成了刘海涛教练的弟子,每天进行将近2万米的训练。