Faits : A. A._, né en 1990, est détenteur du permis de conduire pour les catégories G et M depuis le 22 décembre 2004, pour la catégorie A1 depuis le 17 mars 2008 et pour les catégories B, B1 et F depuis le 3 février 2009. Selon le fichier fédéral des mesures administratives en matière de circulation routière (ADMAS), le prénommé a fait l'objet de trois mesures de retrait du permis de conduire, les deux premières pour infraction moyennement grave et la troisième pour infraction grave: un premier retrait d'un mois prononcé le 8 décembre 2006 (20 décembre 2006 au 19 janvier 2007; conduite d'un cyclomoteur dont la puissance avait été modifiée pour atteindre les 60 km/h au lieu des 30 km/h admis); un retrait de quatre mois prononcé le 16 janvier 2008 (26 mai 2008 au 25 septembre 2008; perte de maîtrise d'un véhicule en raison d'une vitesse inadaptée à la configuration des lieux); enfin, un retrait de sept mois prononcé le 14 mai 2013 (4 novembre 2013 au 3 juin 2014; excès de vitesse de 58 km/h [marge de sécurité déduite] sur une autoroute où la vitesse était limitée à 120 km/h). Par jugement du 9 novembre 2016, la Juge de police du Tribunal d'arrondissement de la Broye (ci-après: la Juge de police) a reconnu A._ coupable de violation grave des règles de la circulation routière au sens de l'art. 90 al. 2 de la loi fédérale du 19 décembre 1958 sur la circulation routière (LCR; RS 741.01). Selon ce jugement, alors que A._ conduisait un tracteur, auquel étaient attelés deux faucheuses, le 8 septembre 2015 vers 18h15 à Prévondavaux sur la route d'Estavayer-le-Lac, il a entamé le dépassement d'un cycliste dans une courbe à droite, endroit où la visibilité était insuffisante pour effectuer cette manoeuvre; surpris par un véhicule arrivant en sens inverse, le prénommé s'est rabattu précocement sur la droite, serrant ainsi le cycliste contre le mur se trouvant dans cette courbe sur le bord de la chaussée et il a ensuite brusquement freiné. La Juge de police a souligné que l'intéressé avait adopté un comportement dangereux dans le seul but de gagner quelques secondes sur son temps de trajet et qu'il n'avait pas montré, durant la procédure, avoir pris conscience de la dangerosité de sa manoeuvre. A._ a été condamné à une peine pécuniaire de 60 jours-amende dont 30 jours fermes, pour avoir effectué un dépassement malgré une visibilité restreinte, sans égard aux autres usagers de la route et sans observer une distance suffisante envers un cycliste (cf. art. 90 al. 2 LCR, en lien avec les art. 34 al. 4 et 35 al. 2 et 3 LCR). B. Au vu des faits précités, le Service des automobiles et de la navigation du canton de Vaud (SAN) a considéré, par décision du 28 avril 2017, confirmée sur réclamation le 15 juin 2017, que l'intéressé avait commis une infraction grave (art. 16c al. 1 let. a LCR) et a prononcé, au vu de ses antécédents, une mesure de retrait de sécurité du permis de conduire d'une durée indéterminée mais d'au minimum vingt-quatre mois (cf. art. 16c al. 2 let. d LCR). Le retrait portait sur toutes les catégories et catégories spéciales. Dans sa décision sur réclamation, le SAN a précisé que la mesure pouvait être révoquée sur présentation de conclusions favorables d'une expertise réalisée auprès d'un psychologue agréé, et non pas auprès de l'Unité de médecine et de psychologie du trafic (UMPT) comme initialement exigé dans son prononcé du 28 avril 2017. C. A._ a formé un recours contre cette décision devant la Cour de droit administratif et public du Tribunal cantonal vaudois, qui l'a rejeté par arrêt du 4 septembre 2017. Celle-ci a considéré que l'argumentation développée par le SAN, dans sa décision sur réclamation, était certes succincte, mais néanmoins suffisante au regard des exigences de motivation déduites du droit d'être entendu garanti par l'art. 29 al. 2 Cst. Le SAN n'avait par ailleurs pas violé le principe de la proportionnalité en étendant la mesure de retrait à tous les permis de conduire de l'intéressé. D. A._ forme un recours en matière de droit public contre cet arrêt cantonal, en demandant au Tribunal fédéral d'admettre son recours et de prononcer le retrait de son permis de conduire des catégories spéciales G, F et M pour une durée indéterminée en application de l'art. 16c al. 2 let. d LCR, à l'exclusion des autres permis de catégorie "normale" ou sous-catégorie au sens de l'art. 3 OAC. Le Tribunal cantonal se réfère à son arrêt. Le SAN ne s'est pas déterminé et l'Office fédéral des routes conclut au rejet du recours, sans autres observations.