Faits:
A. M._, né en 1970, a travaillé en qualité de gestionnaire de produits auprès de l'entreprise X._, à partir du 1er août 1993. Le 18 novembre 2003, il a été victime d'un accident de la circulation de type « coup du lapin », lequel a entraîné des cervicalgies. Dans un rapport du 16 mars 2004, le docteur O._, généraliste et médecin traitant de l'intéressé, a indiqué que son patient ne ressentait plus de douleurs et que la mobilité de la colonne cervicale était excellente. Il a attesté une reprise de l'activité lucrative à 100 % depuis le 5 janvier 2004.
Dans un rapport du 27 août 2004, le docteur O._ a posé le diagnostic de lombalgies récidivantes, existant depuis le 23 janvier 2004. Il a noté un taux d'incapacité de travail de 50 % du 9 février au 13 mai 2004 et de 25 % du 14 juin au 6 juillet 2004.
Le 26 avril 2005, M._ a déposé une demande de prestations de l'assurance-invalidité auprès de l'office AI du canton de Fribourg (ci-après: l'OAI). Ce dernier a recueilli l'avis du docteur B._, chef de la Clinique rhumatologique de l'Hôpital Y._, lequel a posé comme diagnostic ayant des répercussions sur la capacité de travail, un syndrome lombo-vertébral chronique invalidant sur dessiccation du disque intervertébral L2-L3 et L5-S1 depuis juillet 2004. Selon ce médecin, M._ présentait une personnalité plutôt anxieuse, mais il était tout à fait motivé à se reconvertir dans une autre profession. Pour influencer le pronostic à long terme, toutes mesures de réinsertion professionnelle devaient être accompagnées par une psychothérapie cognitivo-comportementale (cf. rapport du 7 juillet 2005). Le docteur B._ a attesté les périodes d'incapacité de travail suivantes:
- 25 % du 6 au 11 juillet 2004,
- 100 % du 12 juillet au 8 août 2004,
- 50 % du 9 au 16 août 2004,
- 25 % du 19 au 30 août 2004,
- 100 % du 31 août au 1er septembre 2004,
- 30 % du 2 septembre 2004 au 23 janvier 2005,
- 100 % du 24 janvier au 9 février 2005 (hospitalisation),
- 30 % du 10 février au 21 mars 2005,
- 100 % du 22 au 31 mars 2005,
- 30 % du 1er avril au 31 mai 2005.
Dès cette date, il n'y avait plus eu d'incapacité de travail.
Dans un formulaire annexe au rapport médical précité concernant la réinsertion professionnelle, le docteur B._ a indiqué que l'activité exercée jusque-là par l'assuré était encore exigible car les limitations étaient principalement dues à la douleur dorso-lombaire sans corrélat patho-anatomique. Son activité de gestionnaire n'était pas lourde mais requérait parfois de remplir les rayons, ce qui pouvait entraîner des recrudescences des douleurs dorso-lombaires. Il estimait la diminution du rendement dans cette activité entre 20 et 30 %. En tant qu'employé de commerce travaillant dans un bureau avec une place de travail adaptée et la possibilité d'alterner les positions assise et debout, l'assuré était en mesure de travailler 8 heures par jour, avec une diminution de rendement comprise entre 10 et 20 % (cf. annexe au rapport médical du 7 juillet 2005).
M._ a été licencié avec effet au 31 août 2005, en raison de ses problèmes de santé.
Dans un rapport du 4 janvier 2006, le Service médical régional de l'AI (SMR) a retenu que les lombalgies dont souffrait l'assuré n'avaient pas de corrélation avérée avec l'accident survenu en novembre 2003. Les séquelles de maladie de Scheuermann et les deux dessiccations discales constatées par le docteur B._ ne suffisaient pas à expliquer les plaintes. L'assuré avait une personnalité plutôt anxieuse mais ne présentait pas de troubles psychiques. Enfin, les médecins du SMR ont estimé qu'il n'y a avait pas lieu de procéder à une expertise psychiatrique et qu'aucun trouble somatoforme n'avait été diagnostiqué.
Dans un rapport médical ultérieur du 18 janvier 2006, le docteur B._ a noté que l'on se trouvait toujours face à un syndrome lombo-vertébral chronique invalidant probablement d'origine discogène avec évolution vers un syndrome douloureux somatoforme persistant. En ce qui concerne la diminution de rendement de l'assuré dans son activité antérieure et dans une activité adaptée, il a confirmé le contenu de son rapport du 7 juillet 2005.
Par décision du 10 mars 2006, confirmée sur opposition le 16 mai suivant, l'OAI a rejeté la demande de prestations présentée par M._. En bref, l'administration a retenu qu'il n'existait pas d'atteinte à la santé l'empêchant d'exercer son activité habituelle de gestionnaire de produits ou une activité dans la vente à 100 %.
B. Par acte du 16 juin 2006, M._ a déféré la décision sur opposition du 16 mai 2006 au Tribunal administratif du canton de Fribourg en concluant à son annulation ainsi qu'à l'octroi d'une demi-rente d'invalidité. Complétant son recours par écriture du 17 janvier 2007, il a fait valoir une aggravation de son état de santé au cours du premier semestre de l'année 2006, en se fondant sur un rapport médical du docteur B._, du 28 juillet 2006, produit à l'appui de son recours. En outre, il a sollicité la mise en oeuvre d'une expertise psychiatrique.
Par jugement du 21 décembre 2006, la Cour des assurances sociales du Tribunal administratif du canton de Fribourg a rejeté le recours.
C. M._ a interjeté un recours de droit administratif contre ce jugement dont il a demandé l'annulation, en concluant derechef à l'octroi d'une demi-rente, subsidiairement à la mise en oeuvre d'une expertise psychiatrique.
Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.

Considérant en droit:
1. La loi sur le Tribunal fédéral du 17 juin 2005 (LTF; RS 173.110) est entrée en vigueur le 1er janvier 2007 (RO 2006 1205, 1242). L'acte attaqué ayant été rendu avant cette date, la procédure reste régie par l'OJ (<ref-law>; <ref-ruling> consid. 1.2 p. 395).
2. Le litige porte sur des prestations de l'assurance-invalidité, de sorte que le Tribunal fédéral examine uniquement si l'autorité cantonale de recours a violé le droit fédéral, y compris l'excès et l'abus du pouvoir d'appréciation, si les faits pertinents ont été constatés de manière manifestement inexacte ou incomplète ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 132 al. 2 OJ [dans sa teneur selon le ch. III de la loi fédérale du 16 décembre 2005 portant modification de la LAI, en vigueur depuis le 1er juillet 2006], en relation avec les art. 104 let. a et b, ainsi que 105 al. 2 OJ).
3. Le jugement entrepris expose correctement les dispositions légales et la jurisprudence sur la notion d'invalidité, son évaluation chez les assurés actifs, l'échelonnement des rentes selon le taux d'invalidité et la valeur probante des rapports médicaux, de sorte qu'il suffit d'y renvoyer sur ces points.
4. 4.1 Se fondant sur les rapports des docteurs O._ et B._, la juridiction cantonale a constaté que les limitations décrites par ces médecins n'étaient pas expliquées d'un point de vue mécanique mais découlaient uniquement de la manière dont le recourant percevait ses douleurs. Par ailleurs, il ne souffrait d'aucun trouble psychique, de sorte qu'on pouvait exiger de lui qu'il mette pleinement en valeur sa capacité de travail, soit dans son ancienne activité, soit dans une activité adaptée. En conclusion, les juges cantonaux ont retenu que le recourant ne pouvait prétendre à l'octroi d'une rente d'invalidité dès lors qu'il disposait d'une capacité de travail de 100 %.
4. 4.1 Se fondant sur les rapports des docteurs O._ et B._, la juridiction cantonale a constaté que les limitations décrites par ces médecins n'étaient pas expliquées d'un point de vue mécanique mais découlaient uniquement de la manière dont le recourant percevait ses douleurs. Par ailleurs, il ne souffrait d'aucun trouble psychique, de sorte qu'on pouvait exiger de lui qu'il mette pleinement en valeur sa capacité de travail, soit dans son ancienne activité, soit dans une activité adaptée. En conclusion, les juges cantonaux ont retenu que le recourant ne pouvait prétendre à l'octroi d'une rente d'invalidité dès lors qu'il disposait d'une capacité de travail de 100 %.
4.2 4.2.1 L'appréciation des premiers juges repose à la fois sur une constatation manifestement inexacte et incomplète des faits pertinents au sens de l'art. 105 al. 2 OJ. En effet, il ressort sans équivoque des rapports du docteur B._, des 7 juillet 2005 et 18 janvier 2006, que le recourant présente une diminution de rendement de 20 à 30 % dans son activité de gestionnaire de produits et de 10 à 20 % dans une activité de bureau, en raison de ses troubles lombaires. Contrairement à ce qu'on retenu les premiers juges, le recourant présente donc une incapacité de travail, laquelle n'entraîne toutefois pas une incapacité de gain de 40 % au moins, nécessaire pour ouvrir droit à une rente d'invalidité.
4.2.2 En outre, il ressort du rapport du docteur B._ du 28 juillet 2006, que le recourant a subi une aggravation de son état de santé, laquelle consiste, selon ce médecin, en une augmentation des douleurs ainsi que de la kinésiophobie. Au niveau cognitif, l'assuré présenterait toujours plus une fixation sur les douleurs et au niveau affectif, une aggravation de la composante dépressive. Le médecin ajoutait que la douleur chronique continue, qui commençait à détruire psychologiquement et socialement le recourant, entraînait une diminution de sa capacité de travail dans la mesure où l'activité exercée jusqu'à son licenciement n'était exigible qu'à raison de 6 heures par jour avec une diminution du rendement d'environ 20 %.
4.2.3 Le juge des assurances sociales apprécie la légalité des décisions attaquées, en règle générale, d'après l'état de fait existant au moment où la décision sur opposition litigieuse a été rendue (<ref-ruling> consid. 1b; RAMA 2001 no U 419 p. 101; cf. aussi <ref-ruling> consid. 2.1). Or, il n'est pas établi, au degré de la vraisemblance prépondérante, que l'aggravation de l'état de santé du recourant attestée par le docteur B._ le 28 juillet 2006 était déjà survenue avant la décision sur opposition de l'OAI du 16 mai 2006 et encore moins qu'elle ait une incidence sur le droit aux prestations jusqu'à cette date. L'appréciation de la juridiction cantonale ne repose pas, en ce qui concerne les faits déterminants dans le temps, sur une constatation manifestement inexacte. Dans la mesure où l'aggravation de l'état de santé du recourant et la diminution de sa capacité de travail sont en revanche établis à partir du 28 juillet 2006, il se justifie de transmettre sans autre la cause à l'OAI afin qu'il reprenne l'instruction du dossier à partir de cette date puis statue sur le droit aux prestations.
5. La procédure est onéreuse (art. 132 OJ dans sa teneur en vigueur dès le 1er juillet 2006). Représenté par un avocat, le recourant, qui succombe, ne saurait prétendre de dépens (art. 159 al. 1 en relation avec l'art. 135 OJ).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais de justice, d'un montant de 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal administratif du canton de Fribourg, à la Caisse de compensation du canton de Fribourg et à l'Office fédéral des assurances sociales.
Lucerne, le 10 décembre 2007
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Fretz