Hedman wechselte nach dem verpassten Wiederaufstieg mit Coventry City innerhalb Großbritanniens zum schottischen Klub Celtic Glasgow. Beim Traditionsverein unterschrieb er einen Vier-Jahres-Kontrakt. Verletzungsbedingt blieb ihm jedoch hinter Robert Douglas die Rolle des Ersatzmannes, nur vereinzelt kam er zum Einsatz. In der Zwischenzeit profitierte Andreas Isaksson in der Nationalmannschaft vom Verletzungspech Hedmans und etablierte sich als Stammtorhüter der Landesauswahl. Um ihm Spieleinsätze und damit die Teilnahme am Europameisterschaftsturnier 2004 zu ermöglichen, verlieh ihn der Klub Ende Januar 2004 auf eigenen Wunsch an den italienischen Klub AC Ancona in die Serie A. Hier kam er allerdings auch lediglich sporadisch zu Spielzeit, so dass er zwar im EM-Kader stand, sich jedoch mit der Reservistenrolle begnügen musste. Im Anschluss an das Turnier kehrte er zu Celtic zurück, im Dreikampf mit Robert Douglas und David Marshall konnte er sich nicht durchsetzen und blieb über weite Strecken der Spielzeit Reservist. Im Sommer 2005 löste er daher seinen Vertrag beim schottischen Verein in gegenseitigem Einvernehmen auf.