Faits: A. Le 31 août 2009, aux alentours de 16h15, A._, circulait au volant de sa voiture sur la route du Golf en direction du centre de Crans-Montana. A la hauteur de l'immeuble "le Dom", le car qui le précédait s'est arrêté sur l'espace réservé à cet effet pour décharger des passagers, pour la plupart des enfants rentrant de l'école. Les photographies versées au dossier de police montrent qu'à cet endroit deux passages pour piétons équipés d'un îlot refuge sont situés de part et d'autre de la place d'arrêt aménagée en encoche. Alors qu'il doublait le car à l'arrêt, A._ "se trouva soudainement en présence" de B._, fillette de 7 ans qui traversait la route devant le bus quelques mètres avant le passage pour piétons. Celle-ci est venue heurter le véhicule de A._ à la hauteur du rétroviseur droit et s'est également fait rouler sur les pieds. B. Le 24 août 2010, le Service de la circulation routière et de la navigation du canton du Valais (SCN) a retiré le permis de conduire de A._ pour une durée de trois mois dès le dépôt. Saisi d'un recours de l'intéressé, le Conseil d'Etat a confirmé cette décision le 11 janvier 2012. Par arrêt du 28 juin 2012, la Cour de droit public du Tribunal cantonal du Valais a rejeté le recours formé par A._ contre la décision du Conseil d'Etat. En substance, les juges cantonaux ont considéré que A._ avait sérieusement mis en danger la sécurité d'autrui et n'avait pas fait preuve de l'attention accrue que la présence d'un autocar aux heures de sortie des écoles, stationné à proximité directe de deux passages pour piétons, requérait. Le Conseil d'Etat, en retenant une faute grave, avait fait preuve de sévérité compte tenu de l'allure réduite (10 km/h) à laquelle circulait l'automobiliste, mais n'avait pas abusé de son pouvoir d'appréciation. C. Par acte du 5 septembre 2012, A._ recourt contre cet arrêt auprès du Tribunal fédéral. Il conclut à ce que la durée du retrait de permis soit réduite de trois à un mois. Le Tribunal cantonal et le Service de la circulation routière et de la navigation renoncent à se déterminer. Le Conseil d'Etat et l'Office fédéral des routes se réfèrent aux considérants de l'arrêt attaqué et concluent au rejet du recours.