Faits:
A. Selon un rapport de la Police cantonale vaudoise, X._ circulait le 24 octobre 2008, vers 21h50, au volant d'un véhicule automobile sur la route de Cugy à Payerne. A la hauteur du cimetière de Payerne, sur un tronçon rectiligne limité à 80 km/h, il a dépassé deux véhicules qui le précédaient. Pour effectuer cette manoeuvre, il a roulé, sur une distance d'environ 100 mètres, à gauche de la ligne de sécurité. Après ce dépassement, il n'a pas immédiatement rejoint le côté droit de la route, mais a négocié "à la corde" le virage à gauche. Un gendarme, présent au moment des faits, a notifié sur-le-champ une contravention au conducteur, qui en a admis le bien-fondé. Le rapport de police précise qu'à l'endroit de l'infraction la visibilité était étendue, il faisait beau, la route était sèche, le trafic de faible densité et personne n'a été gêné par le comportement de l'automobiliste.
Le Préfet de la Broye-Vully a condamné l'intéressé, le 6 novembre 2008, à une amende de 250 fr. pour infraction simple à la loi fédérale du 19 décembre 1958 sur la circulation routière (LCR; RS 741.01).
Le 23 décembre 2008, la Commission des mesures administratives en matière de circulation routière du canton de Fribourg (ci-après: la Commission cantonale) a avisé X._ de l'ouverture d'une procédure, en lui signalant qu'une mesure administrative (annulation du permis de conduire à l'essai) allait devoir être prise à son encontre, et lui a donné la possibilité de présenter ses remarques. L'intéressé a présenté ses observations le 18 mars 2009. Il a conclu au prononcé d'un avertissement, considérant, en substance, que la faute commise devait être qualifiée de légère et qu'il n'avait pas d'antécédent au niveau juridique. A cet égard, il a relevé que la décision du 2 octobre 2008, par laquelle la Commission cantonale lui avait retiré son permis de conduire pour une inattention et une perte de maîtrise de son véhicule, lui avait été notifiée le 15 octobre 2008. Elle n'était par conséquent pas encore entrée en force au moment de l'incident du 24 octobre 2008. Dès lors, l'<ref-law> (annulation du permis de conduire à l'essai) ne trouvait pas application.
B. Par décision du 23 mars 2009, la Commission cantonale a annulé le permis de conduire à l'essai de X._. Elle a considéré que l'événement du 24 octobre 2008 représentait une infraction moyennement grave au sens de l'<ref-law>. L'intéressé ayant déjà fait l'objet d'un retrait de son permis de conduire avec prolongation de la période probatoire le 2 octobre 2008, la Commission cantonale a appliqué l'<ref-law>.
L'intéressé a porté sa cause devant le Tribunal cantonal du canton de Fribourg (ci-après: le Tribunal cantonal) qui, par arrêt du 23 avril 2010, a rejeté le recours et confirmé la décision du 23 mars 2009 de la Commission cantonale.
C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral de modifier l'arrêt du Tribunal cantonal du 23 avril 2010 en ce sens que la décision de la Commission cantonale du 23 mars 2009 est annulée et un avertissement est prononcé à son encontre. Subsidiairement, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants. Il se plaint pour l'essentiel d'une constatation inexacte et incomplète des faits et d'une mauvaise application du droit fédéral.
Le Tribunal cantonal se réfère au dispositif et aux considérants de son arrêt. La Commission cantonale conclut au rejet du recours. Invité à présenter des observations, l'Office fédéral de la circulation routière a proposé le rejet du recours. Le recourant a répliqué le 30 juillet 2010; il conclut à l'admission de son recours. La Commission cantonale n'a pas de remarques particulières à formuler sur le contenu des observations de l'Office fédéral de la circulation routière et le Tribunal cantonal ne s'est pas exprimé à ce sujet.
Par ordonnance du 11 juin 2010, le Président de la Ire Cour de droit public a rejeté la requête d'effet suspensif présentée par le recourant.

Considérant en droit:
1. La voie du recours en matière de droit public, au sens des <ref-law>, est ouverte contre une décision de dernière instance cantonale au sujet d'une mesure administrative de retrait ou d'annulation du permis de conduire. Le recourant a qualité pour agir au sens de l'art. 89 al. 1 let. a et b LTF. Le recours est formé en temps utile contre une décision finale prise en dernière instance cantonale non susceptible de recours devant le Tribunal administratif fédéral; il est recevable au regard des art. 42, 86 al. 1 let. d, 90 et 100 al. 1 LTF.
2. Le recourant reproche tout d'abord au Tribunal cantonal d'avoir constaté les faits de façon manifestement inexacte et incomplète.
2.1 Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Quant au recourant, il ne peut critiquer la constatation de faits, susceptibles d'avoir une influence déterminante sur l'issue de la procédure, que si ceux-ci ont été établis de manière manifestement inexacte ou en violation du droit au sens de l'<ref-law>, en particulier en violation de l'interdiction constitutionnelle de l'arbitraire (<ref-law>; <ref-ruling> consid. 4.3 p. 62; Message concernant la révision totale de l'organisation judiciaire fédérale du 28 février 2001, FF 2001 p. 4135).
2.2 Le recourant fait valoir que le Tribunal cantonal n'a pas tenu compte, dans la pesée des intérêts, de ses besoins du permis de conduire pour la pratique de son activité professionnelle. Cette critique ne relève pas de l'établissement des faits mais plutôt de leur appréciation juridique. Il s'agit dès lors d'une question de droit qui sera examinée avec le fond (cf. consid. 7 ci-dessous).
Le recourant allègue ensuite que la Cour cantonale n'a pas retenu que le retrait du permis de conduire de la première infraction, réalisée le 15 juillet 2008 (décision du 2 octobre 2008), a été purgé du 15 décembre 2008 au 14 janvier 2009; or, cet élément serait important pour démontrer que la mesure a effectivement été exécutée après la seconde infraction du 24 octobre 2008. Il ressort de l'arrêt attaqué que le Tribunal cantonal n'a pas ignoré ce fait mais en a bien tenu compte (arrêt attaqué consid. 4d). Il a toutefois considéré qu'il n'était pas déterminant dans le cadre de l'<ref-law>. Il n'y a dès lors pas lieu de compléter ou corriger les faits retenus dans l'arrêt attaqué et le Tribunal fédéral est lié par ceux-ci conformément à l'<ref-law>. Le grief du recourant doit être rejeté.
3. Sur le fond, le recourant se plaint d'une violation et d'une application arbitraire des art. 16a, 16b et 16c LCR en relation avec une violation de l'<ref-law>. Il considère que l'infraction du 24 octobre 2008 doit être qualifiée de légère au sens de l'<ref-law>. Il souligne qu'il n'a gêné personne par sa manoeuvre, n'a pas commis d'excès de vitesse et disposait d'une visibilité étendue sur une route sèche où la densité du trafic était faible; les risques d'accident étaient donc minimes. Il estime en outre que l'autorité administrative n'aurait pas dû s'écarter du jugement pénal, qui a considéré que sa faute était légère.
3.1 Le jugement pénal ne lie en principe pas l'autorité administrative. Afin d'éviter dans la mesure du possible des décisions contradictoires, la jurisprudence a admis, s'agissant de se prononcer sur l'existence d'une infraction, que l'autorité administrative ne devait pas s'écarter sans raison sérieuse des faits constatés par le juge pénal ni de ses appréciations juridiques qui dépendent fortement de l'établissement des faits, en particulier lorsque le jugement pénal a été rendu au terme d'une procédure publique ordinaire au cours de laquelle les parties ont été entendues et des témoins interrogés (<ref-ruling> consid. 1c/bb p. 106; <ref-ruling> consid. 3c/aa p. 100; <ref-ruling> consid. 3a p. 217; <ref-ruling> consid. 3c/aa p. 164). L'autorité administrative ne peut dès lors s'écarter du jugement pénal que si elle est en mesure de fonder sa décision sur des constatations de fait que le juge pénal ne connaissait pas ou qu'il n'a pas prises en considération, s'il existe des preuves nouvelles dont l'appréciation conduit à un autre résultat, si l'appréciation à laquelle s'est livré le juge pénal se heurte clairement aux faits constatés ou si ce dernier n'a pas élucidé toutes les questions de droit, en particulier celles qui touchent à la violation des règles de la circulation (<ref-ruling> consid. 2.4 p. 315 et les arrêts cités). Cette dernière hypothèse recouvre notamment le cas où le juge pénal a rendu sa décision sur la seule base du dossier, sans procéder lui-même à des débats (<ref-ruling> consid. 4b p. 315).
En l'espèce, l'ordonnance du préfet du 6 novembre 2008, qui a reconnu le recourant coupable de violation simple des règles de la cir-culation routière, s'appuie uniquement sur la dénonciation de la gendarmerie vaudoise; le préfet n'a entendu ni les parties, ni des témoins, et n'a pas procédé à de plus amples mesures probatoires. Son appréciation juridique ne dépend donc pas étroitement de faits qu'il connaîtrait de manière plus approfondie que l'autorité administrative. La Commission cantonale, qui disposait du même dossier, ainsi que le Tribunal cantonal, étaient dès lors libres de procéder à leur propre appréciation juridique des faits pertinents.
3.2 La LCR distingue les infractions légères, moyennement graves et graves (art. 16a - c LCR). Selon l'<ref-law>, commet une infraction légère la personne qui, en violant les règles de la circulation, met légèrement en danger la sécurité d'autrui et à laquelle seule une faute bénigne peut être imputée. En cas d'infraction particulièrement légère, il est renoncé à toute mesure administrative (<ref-law>). Dans les autres cas, il ne peut être renoncé au retrait du permis du conducteur fautif au profit d'un avertissement seulement si, au cours des deux dernières années, le permis ne lui a pas été retiré et qu'aucune autre mesure administrative n'a été prononcée (art. 16a al. 2 et 3 LCR). Commet une infraction moyennement grave selon l'<ref-law> la personne qui, en violant les règles de la circulation, crée un danger pour la sécurité d'autrui ou en prend le risque. Dans cette hypothèse, le permis est retiré pour un mois au minimum (<ref-law>). Commet une infraction grave selon l'<ref-law> la personne qui, en violant gravement les règles de la circulation, met sérieusement en danger la sécurité d'autrui ou en prend le risque. Conformément à l'<ref-law>, le permis de conduire est retiré pour trois mois au minimum après une infraction grave.
Le législateur conçoit l'<ref-law> comme l'élément dit de regroupement. Cette disposition n'est ainsi pas applicable aux infractions qui tombent sous le coup des art. 16a al. 1 let. a et 16c al. 1 let. a LCR. Dès lors, l'infraction est toujours considérée comme moyennement grave lorsque tous les éléments constitutifs qui permettent de la privilégier comme légère ou au contraire de la qualifier de grave ne sont pas réunis. Tel est par exemple le cas lorsque la faute est grave et la mise en danger bénigne ou, inversement, si la faute est légère et la mise en danger grave (<ref-ruling> consid. 2.2.2 p. 141; arrêt 6A.16/2006 du 6 avril 2006 consid. 2.1.1, in JdT 2006 I 442).
Par ailleurs, l'<ref-law> prévoit que les véhicules tiendront leur droite et circuleront, si la route est large, sur la moitié droite de celle-ci. Ils longeront le plus possible le bord droit de la chaussée, en particulier s'ils roulent lentement ou circulent sur un tronçon dépourvu de visibilité (al. 1). Les véhicules circuleront toujours à droite des lignes de sécurité tracées (al. 2). L'art. 73 al. 6 let. a de l'ordonnance du 5 septembre 1979 sur la signalisation routière (OSR; RS 741.21) précise qu'il est interdit aux véhicules de franchir les lignes de sécurité ou d'empiéter sur elles.
3.3 En l'espèce, il n'est pas contesté que le recourant a franchi une ligne de sécurité. Du point de vue objectif, pareille manoeuvre représente une violation grave des règles de la circulation routière en raison du danger notoirement important qu'elle comporte pour la sécurité du trafic et, en particulier, des usagers de la route circulant en sens inverse (<ref-ruling> consid. 3d/bb p. 247; arrêt 1C_294/2008 du 18 novembre 2008 consid. 3.1). Il ne peut être dérogé à l'interdiction de franchir les lignes de sécurité que pour des motifs impérieux, par exemple lorsqu'un véhicule en panne ou momentanément abandonné par le conducteur bloque le passage pour une certaine durée de sorte que l'on ne saurait exiger du conducteur d'un véhicule gêné dans sa progression qu'il attende que la voie soit dégagée (<ref-ruling> et les arrêts cités), ou encore lorsque cette manoeuvre est la seule qui permette d'éviter un accident ou d'en rendre les conséquences moins graves (<ref-ruling> consid. 3d/bb précité; 63 I 53 consid. 2 p. 58/59; 63 II 209 consid. 2b/bb p. 215; 61 I 218 consid. 4 p. 222; 38 II 487 consid. 2 p. 488). Or, dans le cas particulier, le Tribunal cantonal a retenu que le conducteur avait commis cette infraction de manière délibérée, sans autres motifs justificatifs que la convenance personnelle. Il ne pouvait en particulier se prévaloir d'aucune erreur d'appréciation explicable par des circonstances particulières ou d'un état de nécessité provoqué par les conditions du trafic. Le recourant ne remet pas en cause cette appréciation. Dans ces circonstances, c'est à juste titre que la Cour cantonale a considéré que l'infraction ne pouvait être qualifiée de légère, même si la manoeuvre n'a pas créé de mise en danger concrète. Il est au demeurant sans incidence de déterminer si l'infraction est grave ou moyennement grave car, dans un cas comme dans l'autre, le permis de conduire doit être retiré en application de l'art. 16b al. 2 ou 16c al. 2 LCR. Mal fondé, le grief doit être rejeté.
4. Il reste à examiner si le permis de conduire à l'essai du recourant doit être annulé en vertu de l'<ref-law>.
4.1 Selon l'<ref-law>, le permis de conduire est tout d'abord délivré à l'essai pour trois ans (al. 1). Le permis de conduire définitif est délivré après cette période probatoire si le titulaire a suivi les cours de formation complémentaire (al. 2). En cas de retrait du permis en raison d'une infraction, la période probatoire est prolongée d'un an (al. 3). Le permis de conduire à l'essai est caduc si son titulaire commet une seconde infraction entraînant un retrait (al. 4). Un nouveau permis peut être délivré au plus tôt un an après l'infraction, sur la base d'une expertise psychologique attestant l'aptitude à conduire (al. 5). Après avoir passé avec succès l'examen de conduite, la personne concernée obtient un nouveau permis de conduire à l'essai (al. 6).
4.2 Contrairement au Tribunal cantonal, le recourant est d'avis que l'<ref-law> ne s'applique que lorsque le retrait du permis de conduire de la première infraction a été purgé. Une deuxième infraction ne saurait donc entraîner l'annulation du permis avant que le précédent retrait ait été entièrement exécuté. Ceci découlerait de l'interprétation téléologique et systématique de la disposition, laquelle poursuivrait un but de prévention et d'éducation. Le but du législateur serait ainsi de rendre caduc le permis du jeune conducteur qui n'a pas fait ses preuves après avoir purgé un premier retrait et qui démontrerait par là sa dangerosité accrue pour la sécurité routière. Subsidiairement, le recourant soutient que la seconde infraction ne peut déclencher l'annulation du permis de conduire à l'essai seulement si elle est commise après l'entrée en force de la décision relative au précédent retrait.
5. 5.1 La révision législative portant notamment sur l'adjonction de l'<ref-law> avait pour but d'améliorer la formation à la conduite automobile en vue d'aider les groupes les plus "accidentogènes" à s'intégrer plus sûrement dans la circulation. Il était prévu d'inviter les conducteurs à un comportement plus respectueux des règles de la circulation et de diminuer les risques d'accident en sanctionnant par des mesures plus sévères - pouvant aller jusqu'à l'annulation du permis de conduire - ceux et celles qui compromettent la sécurité de la route par des infractions (Message du 31 mars 1999 concernant la modification de la LCR, FF 1999 4106 [ci-après: Message], p. 4108).
Le législateur indique en outre que l'introduction du permis de conduire à l'essai en sus de la formation complémentaire obligatoire a largement été plébiscitée lors de la procédure de consultation. Le pro-jet de révision prévoyait que si l'intéressé compromettait la sécurité de la route par une infraction aux règles de la circulation et faisait l'objet d'un retrait de son permis à l'essai, la durée de la période probatoire serait prolongée et qu'il serait astreint à suivre un cours d'éducation routière. La majorité des milieux consultés s'est prononcée en faveur d'une prolongation d'un an de la période probatoire, mais elle a rejeté en revanche l'idée du cours d'éducation routière, craignant que la matière enseignée soit identique à celle des cours de perfectionnement dispensés dans le cadre de la deuxième phase de la formation obligatoire, ce qui serait inefficace. Si une deuxième infraction entraînant le retrait du permis de conduire est commise pendant la période probatoire, l'autorisation de conduire échoira, vu le résultat négatif, et le permis définitif ne se sera pas délivré. Les milieux consultés ont nettement rejeté l'idée d'une prolongation supplémentaire de la période probatoire (Message p. 4129 s.).
5.2 Certains auteurs considèrent que l'<ref-law> décrit implicitement un cas de récidive (André Demierre / Cédric Mizel / Luc Mouron, Les mesures administratives liées au nouveau permis de conduire à l'essai, in AJP/PJA 2007 p. 729 ss, 735). Or, en droit des mesures administratives, le délai de récidive débute généralement à partir de l'échéance du retrait précédent. Les auteurs précités se sont donc posé la question de savoir si une seconde infraction "entraînant un retrait de permis" déclenchait l'annulation du permis uniquement si le retrait précédent avait été entièrement purgé, ou déjà lorsque la décision y relative était entrée en force, voire éventuellement avec une interprétation littérale de l'<ref-law> si la première décision de retrait avait été prise mais pas encore notifiée. Se référant à la logique du système, qui n'utilise pas le terme de récidive mais qui requiert toutefois une gradation des sanctions, comme à la sévérité particulière liée à la période d'essai, ils ont émis l'hypothèse, sans grande conviction toutefois, que le critère déterminant pourrait être l'entrée en force de la décision relative au premier retrait (Demierre/Mizel/Mouron, op. cit., p. 736).
5.3 D'un point de vue technique, la récidive consiste à commettre une nouvelle infraction après avoir encouru antérieurement une condamnation définitive pour une autre infraction (cf. art. 67 aCP et 42 al. 2 CP). Ainsi, en droit de la circulation routière, un conducteur se trouve en état de récidive lorsqu'il commet un délit qui entraîne un retrait du permis obligatoire dans les deux ans - voire cinq ans - depuis la fin de l'exécution d'un précédent retrait (cf. art. 17 al. 1 let. c aLCR; arrêt 6A.29/1993 du 17 mai 1993, SJ 1993 p. 533, consid. 2b). Les dispositions actuelles relatives au retrait du permis, modifiées par la loi fédérale du 14 décembre 2001 et en vigueur depuis le 1er janvier 2005 (RO 2002 2767, 2004 2849), n'ont pas introduit de changement quant au point de départ du calcul du délai (cf. René Schaffhauser, Die neuen Administrativmassnahmen des Strassenverkehrsgesetzes, Jahrbuch zum Strassenverkehrsrecht 2003, p. 161 ss, n. 85 p. 206).
Les termes employés pour décrire la récidive dans le cadre du retrait du permis définitif se réfèrent explicitement à la précédente mesure (cf. <ref-law> : "... au conducteur qui a fait l'objet d'un retrait de permis ou d'une autre mesure administrative..."; art. 16b al. 2 et 16c al. 2 LCR : "... si, au cours des deux [ou cinq] années précédentes, le permis a été retiré une fois..."). L'<ref-law>, en revanche, met l'accent sur l'infraction elle-même ("... lorsque son titulaire commet une seconde infraction..."). Ainsi, d'après la lettre et l'esprit de cette disposition, la caducité du permis à l'essai n'est pas liée au fait que le précédent retrait ait été exécuté ou que la décision y relative soit entrée en force. Il ne s'agit dès lors pas d'un cas de récidive au sens technique ("Rückfall"), mais plutôt d'une simple réitération ("Wiederholung"). Au surplus, comme le relève à juste titre le Tribunal cantonal, le Message ne fait nullement référence au système du retrait du permis définitif et les différents éléments susmentionnés imposent de penser que le système employé, et voulu par le législateur, pour le permis de conduire définitif ne doit pas s'appliquer directement au permis à l'essai; ce dernier poursuit en effet une fonction éducative et son but est notamment de diminuer les accidents en sanctionnant de manière plus sévère ceux qui compromettent la sécurité routière.
Par ailleurs, pour les nouveaux conducteurs, l'annulation du permis à l'essai ne dépend pas de la gravité de l'infraction. L'élément déterminant est plutôt la présence d'une première infraction ayant entraîné le retrait du permis (et la prolongation de la période d'essai) et d'une seconde infraction qui conduit elle aussi à un retrait. En effet, selon la ratio legis, une seule infraction grave ou moyennement grave commise pendant la période probatoire ne provoque pas la caducité du permis, alors que celui qui se rend coupable d'une deuxième infraction pendant cette période montre qu'il ne dispose pas de la maturité nécessaire pour conduire un véhicule. Une seconde infraction conduit ainsi à l'annulation du permis à l'essai même si le retrait prononcé pour la première infraction n'est pas encore entré en force et/ou n'a pas été exécuté. La question peut rester indécise en l'espèce de savoir si le conducteur peut également se voir opposer l'<ref-law> lorsque la décision administrative relative à la première infraction ne lui a pas été notifiée, voire n'a pas encore été prise.
6. Dans le cas particulier, le recourant a commis une première infraction entraînant le retrait du permis à l'essai le 15 juillet 2008. Celle-ci a été sanctionnée tant sur le plan pénal, le 7 août 2008, que sur le plan administratif, le 2 octobre 2008. Cette dernière décision lui a été notifiée le 15 octobre 2008. Aucun de ces prononcés n'a été contesté. Le 24 octobre 2008, le recourant a commis une seconde infraction qui a également fait l'objet d'une ordonnance pénale, à laquelle il n'a pas fait opposition. Cette seconde infraction, qui doit être qualifiée de grave ou moyennement grave, provoque le retrait du permis de conduire. Par conséquent c'est à juste titre que le Tribunal cantonal a confirmé l'annulation du permis du recourant. Il importe peu que la décision administrative liée à la première infraction du 15 juillet 2008 n'était pas encore entrée en force et que le retrait n'avait pas encore été purgé; la première mesure prononcée à son encontre, notifiée peu avant de commettre la seconde infraction, aurait dû lui servir d'avertissement.
7. Finalement, c'est en vain que le recourant fait valoir qu'il a besoin de son permis pour des raisons professionnelles. En effet, si des circonstances telles que la gravité de la faute, les antécédents ou la nécessité professionnelle de conduire un véhicule automobile doivent être prises en compte pour fixer la durée du retrait (cf. <ref-law>), elles n'entrent pas en considération lorsqu'il s'agit d'une annulation du permis à l'essai au sens de l'<ref-law>.
8. Les considérants qui précèdent conduisent au rejet du recours. Le recourant, qui succombe, doit supporter les frais judiciaires (art. 65 et 66 LTF) et n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, fixés à 2'000 fr., sont mis à la charge du recou-rant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, IIIe Cour administrative, et à l'Office fédéral des routes.
Lausanne, le 31 août 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Féraud Mabillard