Faits: A. Le 2 juin 2008, vers 11h35, A._ a suivi sur 700 mètres le véhicule qui le précédait à une distance de l'ordre de 7 à 10 mètres sur l'autoroute A1 près de Rothrist, alors qu'il roulait à une vitesse de 100 km/h. Devant la police argovienne, il a reconnu les faits, expliquant qu'il était pressé. Par ordonnance du 30 juin 2008, le Tribunal du district de Zofingue dans le canton d'Argovie a condamné A._ à 25 jours-amende avec sursis pendant trois ans ainsi qu'à une amende de 1'000 francs pour violation grave des règles de la circulation routière. Par décision du 21 janvier 2009, le Service des automobiles et de la navigation du canton de Vaud (ci-après: le SAN) a ordonné le retrait des permis de conduire dont A._ est titulaire - à l'exception de ceux relatifs aux catégories G et M - pour une durée d'un an, l'infraction étant qualifiée de grave. Sur recours du prénommé, il a confirmé cette décision le 6 mars 2009. Par arrêt du 27 novembre 2009, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours formé par l'intéressé contre cette décision. Le 24 novembre 2005, A._ s'était déjà vu retirer son permis de conduire pour trois mois suite à un excès de vitesse, l'infraction ayant été qualifiée de grave. B. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral principalement de réformer l'arrêt du Tribunal cantonal, en ce sens que la faute de circulation commise soit sanctionnée par un retrait de permis de deux mois. Il conclut subsidiairement à l'annulation de l'arrêt attaqué et au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants. Le Tribunal cantonal, le SAN et l'Office fédéral des routes concluent au rejet du recours en se référant à l'arrêt attaqué.