Веднага след като прекратява кариера си, Колман поема бившия си отбор. Под негово ръководство отборът завършва изненадващо на девето място. Много от ключовите играчи на отбора биват продадени, и отбора не успява да повтори успехите си. На 10 април 2007, след 7 поредни мача без победа, Колман е уволнен. След това застава начело на изпадналия в Сегунда дивизион Реал Сосиедад, наследявайки сънародника си Джон Тошак, но в началото на 2008 е уволнен поради конфликт с ръководството. В начолото на следващия сезон е назначен за треньор на Ковънтри Сити, където през 2010 е уволнен след като отборът завършва на 19-о място. На 26 май 2011 става треньор на гръцкия АЕЛ 1964, но през януари 2012 напуска поради финансовата криза, царяща в клуба. Почти веднага след това е назначен за треньор на националния отбор на Уелс, наследявайки своя бивш съотборник Гари Спийд. Под негово ръководсто отборът претърпява провал в световните квалификации, но успява да се класира на Европейското първенство през 2016.