Faits:
A. Le 2 juin 2008, vers 11h35, A._ a suivi sur 700 mètres le véhicule qui le précédait à une distance de l'ordre de 7 à 10 mètres sur l'autoroute A1 près de Rothrist, alors qu'il roulait à une vitesse de 100 km/h. Devant la police argovienne, il a reconnu les faits, expliquant qu'il était pressé.
Par ordonnance du 30 juin 2008, le Tribunal du district de Zofingue dans le canton d'Argovie a condamné A._ à 25 jours-amende avec sursis pendant trois ans ainsi qu'à une amende de 1'000 francs pour violation grave des règles de la circulation routière.
Par décision du 21 janvier 2009, le Service des automobiles et de la navigation du canton de Vaud (ci-après: le SAN) a ordonné le retrait des permis de conduire dont A._ est titulaire - à l'exception de ceux relatifs aux catégories G et M - pour une durée d'un an, l'infraction étant qualifiée de grave. Sur recours du prénommé, il a confirmé cette décision le 6 mars 2009. Par arrêt du 27 novembre 2009, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours formé par l'intéressé contre cette décision.
Le 24 novembre 2005, A._ s'était déjà vu retirer son permis de conduire pour trois mois suite à un excès de vitesse, l'infraction ayant été qualifiée de grave.
B. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral principalement de réformer l'arrêt du Tribunal cantonal, en ce sens que la faute de circulation commise soit sanctionnée par un retrait de permis de deux mois. Il conclut subsidiairement à l'annulation de l'arrêt attaqué et au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants.
Le Tribunal cantonal, le SAN et l'Office fédéral des routes concluent au rejet du recours en se référant à l'arrêt attaqué.

Considérant en droit:
1. Dirigé contre une décision finale (art. 90 LTF) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) au sujet d'une mesure administrative de retrait du permis de conduire (art. 82 let. a LTF), le recours est en principe recevable comme recours en matière de droit public selon les art. 82 ss LTF, aucune des exceptions mentionnées à l'art. 83 LTF n'étant réalisée. Le recourant est particulièrement touché par la décision attaquée, qui confirme le retrait de son permis de conduire pour une durée d'un an; il a un intérêt digne de protection à son annulation. Il a donc qualité pour recourir au sens de l'art. 89 al. 1 LTF. Les autres conditions de recevabilité du recours sont réunies, de sorte qu'il convient d'entrer en matière.
2. Le recourant ne conteste pas les faits qui lui sont reprochés. Il s'en prend à leur qualification juridique et estime qu'en raison des bonnes conditions de circulation et du court laps de temps pendant lequel il a suivi le véhicule le précédant (selon lui, 25 secondes), une infraction grave (art. 16c al. 1 let. a) ne saurait être retenue.
2.1 La loi fédérale sur la circulation routière du 19 décembre 1958 (LCR; RS 741.01) distingue les infractions légères, moyennement graves et graves (art. 16a-c LCR). Commet une infraction grave selon l'art. 16c al. 1 let. a LCR la personne qui, en violant gravement les règles de la circulation, met sérieusement en danger la sécurité d'autrui ou en prend le risque. Conformément à l'art. 16c al. 2 let. b LCR, le permis d'élève conducteur ou le permis de conduire est retiré pour six mois au minimum après une infraction grave, si au cours des cinq années précédentes, le permis a été retiré une fois en raison d'une infraction grave ou à deux reprises en raison d'infractions moyennement graves. Si des circonstances telles que la gravité de la faute, les antécédents ou la nécessité professionnelle de conduire un véhicule automobile doivent être prises en compte pour fixer la durée du retrait, la durée minimale ne peut pas être réduite à teneur de l'art. 16 al. 3 LCR.
2.2 Selon l'art. 34 al. 4 LCR, le conducteur observera une distance suffisante envers tous les usagers de la route, notamment pour croiser, dépasser et circuler de front ou lorsque des véhicules se suivent. L'art. 12 al. 1 de l'ordonnance sur les règles de la circulation routière du 13 novembre 1962 (OCR; RS 741.11) prévoit que lorsque des véhicules se suivent, le conducteur se tiendra à une distance suffisante du véhicule qui le précède, afin de pouvoir s'arrêter à temps en cas de freinage inattendu.
Il n'existe pas de règle absolue sur ce qu'il faut entendre par "distance suffisante" au sens de ces dispositions; cela dépend des circonstances concrètes, notamment des conditions de la route, de la circulation et de la visibilité, de même que de l'état des véhicules impliqués. La jurisprudence n'a pas fixé de distances minima à respecter au-delà desquelles il y aurait infractions, simple, moyennement grave ou grave, à la LCR. La règle des deux secondes ou du "demi compteur" (correspondant à un intervalle de 1,8 seconde) sont des standards minima habituellement reconnus (<ref-ruling> consid. 3.1 p. 135). Prenant en compte la pratique allemande et la doctrine, la jurisprudence du Tribunal fédéral a considéré que le cas peut être grave lorsque l'intervalle entre les véhicules est inférieur à 0,8 voire 0,6 seconde (<ref-ruling> consid. 3.2.2 p. 137 et les références citées). Ainsi, une faute grave a été retenue lorsqu'un automobiliste a, sur une distance de 800 mètres environ et à une vitesse supérieure à 100 km/h, suivi le véhicule le précédent sur la voie de gauche de l'autoroute avec un écart de moins de 10 mètres, correspondant à 0,3 seconde de temps de parcours (<ref-ruling>), ou encore lorsque, à une vitesse de 100 km/h, il suit le véhicule précédent sur 330 mètres, à une distance de 10 mètres (arrêt 1C_356/2009 du 12 février 2010). En revanche, le conducteur commet en tout cas une faute moyennement grave lorsque, à une vitesse de 85 km/h, il suit un autre usager à une distance de 8 mètres (<ref-ruling>), ou lorsqu'à une vitesse de 87 km/h, il suit un véhicule à une distance de 5 à 10 mètres (arrêt 6A.54/2004 du 3 février 2005).
2.3 Le cas présent est plus grave que les deux derniers arrêts cités et est en tous points comparable aux deux premiers. Selon les constatations liant l'autorité administrative, le recourant a suivi à une vitesse de 100 km/h environ, sur 700 mètres, le véhicule qui le précédait, à une distance située entre 7 et 10 mètres. Dans le cas le plus favorable, l'intervalle est de 0,36 seconde, soit moins du quart de l'intervalle à respecter en vertu des règles de prudence rappelées ci-dessus. Contrairement à ce que soutient le recourant, rouler derrière un véhicule à un tel intervalle constitue une faute grave, même lorsque les conditions de visibilité et de trafic sont favorables. Le recourant estime également à tort qu'il est "moins grave de suivre de manière proche un véhicule sur l'autoroute, notamment car si une raison inattendue impose à l'automobiliste se trouvant devant freiner brutalement, l'automobiliste le suivant doit normalement constater en même temps l'existence du problème et donc freiner en même temps". En effet, la vitesse élevée augmente en principe la distance de freinage et il est illusoire de penser que les automobilistes puissent freiner simultanément en cas de problème, compte tenu du temps de réaction de chacun. Ainsi que l'a retenu le Tribunal cantonal, le laps de temps de 0,36 seconde est beaucoup trop court pour permettre au conducteur de réagir en cas de besoin et l'infraction doit être considérée comme grave. Ce grief doit par conséquent être rejeté.
2.4 S'agissant de la durée du retrait de permis, l'autorité s'en est tenue au minimum légal de douze mois, applicable compte tenu de la faute grave et des antécédents du recourant (art. 16c al. 2 let. b LCR). La conclusion tendant au prononcé d'un retrait pour deux mois doit par conséquent être écartée.
3. Le recourant reproche également au Tribunal cantonal de ne pas s'être écarté de la qualification juridique retenue sur le plan pénal.
3.1 En principe, l'autorité administrative statuant sur un retrait du permis de conduire ne peut pas s'écarter des constatations de fait d'un jugement pénal entré en force. La sécurité du droit commande en effet d'éviter que l'indépendance du juge pénal et du juge administratif ne conduise à des jugements opposés, rendus sur la base des mêmes faits (<ref-ruling> consid. 1 p. 204; <ref-ruling> consid. 4 p. 774). L'autorité administrative ne peut s'écarter du jugement pénal que si elle est en mesure de fonder sa décision sur des constatations de fait inconnues du juge pénal ou qui n'ont pas été prises en considération par celui-ci, s'il existe des preuves nouvelles dont l'appréciation conduit à un autre résultat, si l'appréciation à laquelle s'est livré le juge pénal se heurte clairement aux faits constatés, ou si le juge pénal n'a pas élucidé toutes les questions de droit, en particulier celles qui touchent à la violation des règles de la circulation (<ref-ruling> consid. 2.4 p. 315; <ref-ruling> consid. 3c/aa p. 104; <ref-ruling> consid. 3c/aa p. 164; <ref-ruling> consid. 1a p. 19; <ref-ruling> consid. 1b p. 273 s.; <ref-ruling> consid. 5 p. 774 s.). Cela vaut non seulement lorsque le jugement pénal a été rendu au terme d'une procédure publique ordinaire au cours de laquelle les parties ont été entendues et des témoins interrogés, mais également, à certaines conditions, lorsque la décision a été rendue, comme en l'espèce, à l'issue d'une procédure sommaire (Strafbefehlsverfahren), même si la décision pénale se fonde uniquement sur le rapport de police. Il en va notamment ainsi lorsque la personne impliquée savait ou aurait dû prévoir, en raison de la gravité des faits qui lui sont reprochés, qu'il y aurait également une procédure de retrait de permis. Dans cette situation, la personne impliquée est tenue, en vertu des règles de la bonne foi, de faire valoir ses moyens dans le cadre de la procédure pénale, le cas échéant en épuisant les voies de recours à sa disposition. Elle ne peut pas attendre la procédure administrative pour exposer ses arguments (ATF <ref-ruling> consid. 3c/aa p. 104; <ref-ruling> consid. 3a p. 217 s.).
3.2 En l'occurrence, selon les faits constatés par le Tribunal de district de Zofingue, et non contestés, le recourant a suivi à une vitesse de 100 km/h environ, sur 700 mètres, le véhicule qui le précédait, à une distance située entre 7 et 10 mètres. L'intervalle entre les véhicules étant de 0,36 seconde, le Tribunal cantonal a estimé que le recourant avait commis une infraction objectivement grave (cf. consid. 2.3). L'instance précédente est arrivée à cette qualification, en procédant à sa propre appréciation juridique des faits pertinents. Elle n'a aucunement retenu qu'il y avait impérativement infraction grave sur le plan administratif lorsqu'il y avait faute grave sur le plan pénal ou encore que, comme le juge pénal avait appliqué l'art. 90 ch. 2 LCR, l'art. 16 let. c LCR trouvait forcément application, ainsi que le soutient le recourant. Les critiques de celui-ci manquent donc de pertinence et tombent à faux.
4. La mesure confirmée par le Tribunal cantonal apparaît ainsi conforme au droit fédéral. Le recours doit être rejeté, aux frais de son auteur (art. 66 al. 1 LTF). Il n'est pas alloué de dépens (art. 68 al. 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Service des automobiles et de la navigation et à la Cour de droit administratif et public au Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des routes.
Lausanne, le 11 mai 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Féraud Tornay Schaller