Faits: A. Le 11 mars 2011, X._ a fait l'objet d'un rapport de dénonciation de la gendarmerie vaudoise pour avoir commis, le 6 mars 2011, un contournement par la droite, alors qu'il circulait au guidon d'un motocycle sur l'autoroute A1 entre Genève et Lausanne. Par ordonnance pénale du 17 mars 2011, X._ a été condamné par le Ministère public de l'Arrondissement de la Côte à une peine de 10 jours-amende à 40 fr. avec sursis pendant deux ans et à une amende de 320 fr. pour violation grave des règles de la circulation routière (art. 90 ch. 2 LCR en corrélation avec les art. 35 al. 1 LCR et 8 al. 3 OCR). X._ a fait opposition à cette ordonnance. Après avoir entendu le prévenu, le Ministère public de l'Arrondissement de la Côte a considéré que l'intéressé avait commis un dépassement par la droite plutôt qu'un contournement par la droite et l'a condamné, par ordonnance pénale du 19 mai 2011, à une amende de 500 fr. pour violation des règles de la circulation routière (art. 90 ch. 1 LCR). B. Par décision du 30 juin 2011, confirmée sur réclamation le 26 octobre suivant, le Service des automobiles et de la navigation du canton de Vaud (SAN) a ordonné le retrait du permis de conduire de X._ pour une durée de trois mois en application de l'art. 16c al. 1 let. a et al. 2 let. a LCR. C. Par arrêt du 23 avril 2012, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud a admis le recours formé par X._ et réduit la durée du retrait de permis de conduire à un mois. Elle a considéré que l'intéressé avait commis, en procédant à un dépassement par la droite et au regard des circonstances particulières du cas, une faute moyennement grave au sens de l'art. 16b al. 1 let. a LCR. D. X._ interjette un recours en matière de droit public contre cet arrêt en concluant à ce qu'aucune mesure administrative ne soit prononcée à son encontre. Le Tribunal cantonal et l'Office fédéral des routes concluent au rejet du recours, tandis que le SAN a renoncé à présenter des déterminations.