2004年4月接下第一部古装武侠剧《天下第一》，饰演痴情孤傲的「地字第一号」密探 -- 归海一刀，并演唱主题曲〈你的第一〉。该剧播出后，受到观众喜爱，霍建华凭此剧迅速走入中国大陆观众的视线，成为其演艺事业的一个重要转折点。2005年3月，首部电影《做头》上映，与关之琳合演“姐弟恋”。同年9月主演都市偶像剧《屋顶上的绿宝石》并获得2007年新浪第三季电视男演员候选，他本人亦表示此乃其演技开窍之作。2006年5月主演功夫喜剧《武十郎》，是他的首部喜剧作品，与杨千嬅合作。2007年6月主演由范冰冰首