Faits:
A. B._, né en 1949, a travaillé depuis 1972 en qualité de chauffeur-livreur au service de la société R._ SA. A ce titre, il était assuré obligatoirement contre le risque d'accident auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA).
Le 20 janvier 2005, il a été victime d'un accident au cours de son activité professionnelle. Alors qu'une grue soulevait une palette de briques, celle-ci est venue coincer l'assuré contre une barrière qui a cédé sous la pression. L'intéressé a alors fait une chute en arrière. Le docteur M._, spécialiste en chirurgie orthopédique, a posé le diagnostic de discopathie traumatisée aux niveaux C4-C5 et C3-C4 avec distorsion de la colonne Grad I (rapport du 21 février 2005). Il a fait état d'une incapacité de travail entière. La CNA a pris en charge le cas.
Dans un rapport du 12 mai 2005, le docteur H._, spécialiste en neurologie, a exclu la présence de lésions traumatiques disco-ligamentaires et osseuses, mais fait état d'altérations dégénératives disco-vertébrales pluri-étagées de C2 à C7, prédominant en C3-C4 et C5-C6, asymptomatiques jusqu'au moment de l'accident. De son côté, le docteur C._, spécialiste en chirurgie orthopédique et médecin d'arrondissement de la CNA, a indiqué que les troubles persistant au-delà du 31 août 2005 ne découlaient pas de l'accident mais relevaient essentiellement de l'état dégénératif de la colonne vertébrale (rapport du 12 juillet 2005).
Aussi, par décision du 10 août 2005, confirmée sur opposition le 11 janvier 2006, la CNA a-t-elle supprimé le droit de l'assuré à des prestations d'assurance (indemnité journalière et frais de traitement) à partir du 1er septembre 2005.
B. Saisi d'un recours contre la décision sur opposition, le Tribunal administratif du canton de Fribourg l'a rejeté par jugement du 21 décembre 2006.
C. B._ interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation, en concluant, sous suite de dépens, au maintien de son droit, au-delà du 31 août 2005, à la prise en charge du traitement médical, ainsi qu'à une indemnité journalière fondée sur une incapacité de travail de 100 %, ou à l'octroi d'une rente d'invalidité. A l'appui de son recours, il produit un certificat de son médecin traitant, le docteur W._, du 26 février 2007.
La CNA conclut au rejet du recours, tandis que l'Office fédéral de la santé publique a renoncé à présenter des déterminations.

Considérant en droit:
1. La loi sur le Tribunal fédéral du 17 juin 2005 (LTF; RS 173.110) est entrée en vigueur le 1er janvier 2007 (RO 2006 1205, 1242). L'acte attaqué ayant été rendu avant cette date, la procédure reste régie par l'OJ (<ref-law>; <ref-ruling> consid. 1.2 p. 395).
2. Le recourant requiert l'organisation de débats devant le Tribunal fédéral, afin d'exposer par oral certains éléments de fait telles la gravité de l'accident du 20 janvier 2005 et l'importance des séquelles dont il souffre encore, et permettre à un témoin, L._, d'attester de la véracité de ses dires.
Une telle demande constitue à l'évidence une requête de preuves. Le droit d'être entendu découlant de l'art. 29 al. 2 Cst. ne comprend pas le droit d'être entendu oralement (cf. <ref-ruling> consid. 2.1 p. 428 s., 125 I 209 consid. 9b p. 219, 122 II 464 consid. 4c p. 469), ni celui d'obtenir l'audition de témoins. En effet, l'autorité peut mettre un terme à l'instruction lorsque, comme en l'espèce, les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (cf. <ref-ruling> consid. 6c/cc in fine p. 135, 417 consid. 7b p. 430, 124 I 208 consid. 4a p. 211).
Le droit à des débats ne peut pas non plus se déduire de l'art. 6 par. 1 CEDH. L'obligation d'organiser des débats dans une procédure de deuxième instance ne s'impose pas lorsque le recours ne soulève aucune question de fait ou de droit qui ne puisse être jugée de manière appropriée sur la base des pièces du dossier (RSAS 2004 p. 150, K 56/04; Ruth Herzog, Art. 6 EMRK und kantonale Verwaltungsrechtspflege, thèse Berne 1995 p. 338; Frowein/Peukert, EMRK-Kommentar, 2ème éd. 1996, p. 245 s. ch. 118).
Cela étant, il n'y a pas lieu de donner suite à la demande formée par le recourant.
3. Le litige porte sur le point de savoir si la CNA était fondée, par sa décision sur opposition du 11 janvier 2006, à supprimer le droit du recourant à des prestations d'assurance (indemnité journalière et frais de traitement) à partir du 1er septembre 2005.
4. Selon l'<ref-law>, les prestations d'assurance sont allouées en cas d'accident professionnel, d'accident non professionnel et de maladie professionnelle.
Le droit à des prestations découlant d'un accident assuré suppose d'abord, entre l'événement dommageable de caractère accidentel et l'atteinte à la santé, un lien de causalité naturelle. Cette exigence est remplie lorsqu'il y a lieu d'admettre que, sans cet événement accidentel, le dommage ne se serait pas produit du tout, ou qu'il ne serait pas survenu de la même manière. Il n'est pas nécessaire, en revanche, que l'accident soit la cause unique ou immédiate de l'atteinte à la santé; il faut et il suffit que l'événement dommageable, associé éventuellement à d'autres facteurs, ait provoqué l'atteinte à la santé physique ou psychique de l'assuré, c'est-à-dire qu'il se présente comme la condition sine qua non de celle-ci. Savoir si l'événement assuré et l'atteinte à la santé sont liés par un rapport de causalité naturelle est une question de fait, que l'administration ou, le cas échéant, le juge examine en se fondant essentiellement sur des renseignements d'ordre médical, et qui doit être tranchée en se conformant à la règle du degré de vraisemblance prépondérante, appliquée généralement à l'appréciation des preuves dans l'assurance sociale. Ainsi, lorsque l'existence d'un rapport de cause à effet entre l'accident et le dommage paraît possible, mais qu'elle ne peut pas être qualifiée de probable dans le cas particulier, le droit à des prestations fondées sur l'accident assuré doit être nié (<ref-ruling> consid. 3.1 p. 181, 402 consid. 4.3.1 p. 406, 119 V 335 consid. 1 p. 337, 118 V 286 consid. 1b p. 289 et les références).
En cas d'état maladif antérieur, s'il y a lieu d'admettre que l'accident n'a fait que déclencher un processus qui serait de toute façon survenu sans cet événement, le lien de causalité entre les symptômes présentés par l'intéressé et l'accident doit être nié lorsque l'état maladif antérieur est parvenu au stade d'évolution qu'il aurait atteint sans l'accident (cf. RAMA 1992 no U 142 p. 75 consid. 4b; Jean-Maurice Frésard/Margit Moser-Szeless, L'assurance-accidents obligatoire, in: Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, 2ème éd. no 80).
5. 5.1 La CNA a supprimé le droit aux prestations d'assurance à partir du 1er septembre 2005, motif pris qu'il existait un état pathologique antérieur sous la forme d'une atteinte dégénérative de la colonne vertébrale et qu'à cette date, l'accident ne jouait plus de rôle dans la persistance des troubles. Elle s'est fondée pour cela sur les conclusions du docteur C._ (rapport du 12 juillet 2005), confirmées par le docteur M._ dans un rapport du 17 août 2005.
La juridiction cantonale a confirmé ce point de vue, en précisant que la petite hernie discale médiane et paramédiane gauche au niveau C5-C6, diagnostiquée par le docteur H._ (rapport du 12 mai 2005), n'avait pas été provoquée, mais seulement déclenchée par l'accident, de sorte que l'assureur-accidents devait uniquement prendre en charge le syndrome douloureux lié à l'accident, ce que la CNA avait fait en allouant ses prestations jusqu'au 31 août 2005. En ce qui concerne l'existence éventuelle d'un trouble psychique, la juridiction cantonale est d'avis non seulement que son influence sur la capacité de travail n'est pas établie, mais encore que l'événement du 20 janvier 2005 - qualifié d'accident de peu de gravité - n'était pas de nature à entraîner un tel trouble.
5.2 Par un premier moyen, le recourant soutient qu'il existe un lien de causalité naturelle entre ses troubles à la colonne vertébrale et l'accident. Selon lui, en effet, la condition sine qua non est réalisée dans la mesure où il n'a jamais ressenti de douleurs cervicales auparavant ni subi d'incapacité de travail pour cette raison.
Ce moyen est mal fondé. On ne peut, en effet, admettre l'existence d'un lien de causalité naturelle du seul fait que le syndrome douloureux est apparu après l'accident. Cela revient à se fonder sur l'adage « post hoc, ergo propter hoc », raisonnement qui n'est pas admissible selon la jurisprudence (<ref-ruling> consid. 2b/bb p. 341 s.).
5.3 Par un deuxième moyen, le recourant s'en prend à la suppression du droit aux prestations d'assurance à partir du 1er septembre 2005 en faisant valoir qu'elle n'est pas conforme à la jurisprudence récente. Il se réfère pour cela à un arrêt F. du 14 février 2006 (U 351/04), qui, selon lui, concerne un état de fait comparable et où le Tribunal fédéral des assurances a admis l'existence d'un lien de causalité quand bien même l'accident avait seulement aggravé un processus dégénératif pourtant dominant.
L'arrêt invoqué n'est toutefois d'aucun secours à la thèse du recourant. Dans ce prononcé, le Tribunal fédéral des assurances a simplement considéré que l'assureur-accidents était tenu d'allouer ses prestations jusqu'au rétablissement du statu quo sine vel ante, ce qui n'était pas encore le cas un mois après l'accident, moment auquel l'assureur-accidents avait supprimé le droit aux prestations. Dans la présente cause, l'intimée a supprimé ce droit à compter du 1er septembre 2005, soit plus de sept mois après l'accident et le recourant n'invoque aucun argument de nature à mettre en cause le point de vue de la CNA et de la juridiction cantonale - fondé sur l'ensemble des avis médicaux versés au dossier - selon lequel le statu quo sine était atteint à cette date. En particulier, il ne fait pas valoir d'élément permettant de considérer que la petite hernie discale au niveau C5-C6 est due principalement à l'accident du 20 janvier 2005 et n'a pas été seulement déclenchée par cet événement (cf. RAMA 2000 no U 378 p. 190 consid. 3, U 149/99, no U 379 p. 193 consid. 2a, U 138/99).
Vu ce qui précède, l'existence d'un lien de causalité naturelle entre les troubles à la colonne cervicale perdurant au-delà du 1er septembre 2005 et l'accident doit être niée. Cela suffit pour exclure, dès cette date, un droit aux prestations pour les troubles en question, sans qu'il soit nécessaire d'examiner la pertinence des arguments du recourant en ce qui concerne la causalité adéquate.
5.4 Par un troisième moyen, le recourant critique le point de vue de la juridiction cantonale au sujet du trouble psychique. Selon lui, un tel trouble existe bel et bien, dans la mesure où l'accident l'a rendu « vulnérable, inquiet, fragile » et où il apparaît dès lors « perturbé psychologiquement ». En outre, soutient l'intéressé, il est indéniable que ses troubles sont en relation de causalité naturelle et adéquate avec l'accident étant donné l'ensemble des circonstances du cas.
Ces allégations ne sont pas de nature à mettre en cause le jugement entrepris. Non seulement les avis médicaux invoqués par le recourant à l'appui de son point de vue (rapports des docteurs W._, du 23 février 2006 et 26 février 2007, et M._, du 19 décembre 2005) n'établissent pas que l'intéressé souffre de troubles ayant le caractère d'une maladie invalidante, mais encore l'existence d'un lien de causalité adéquate entre ses troubles et l'accident devrait être niée sur le vu des critères objectifs développés par la jurisprudence (<ref-ruling> consid. 6c/aa p. 140 et 403 consid. 5c/aa p. 409) pour juger du caractère adéquat du lien de causalité entre un accident - en l'occurrence de gravité moyenne - et une atteinte à la santé psychique.
5.5 Vu ce qui précède, la CNA était fondée, par sa décision sur opposition du 11 janvier 2006, à supprimer le droit du recourant à des prestations d'assurance à partir du 1er septembre 2005. Le jugement entrepris n'est dès lors pas critiquable et le recours se révèle mal fondé.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours de droit administratif est rejeté.
2. Il n'est pas perçu de frais de justice.
3. Le présent arrêt sera communiqué aux parties, à la Cour des assurances sociales du Tribunal administratif du canton de Fribourg et à l'Office fédéral de la santé publique.
Lucerne, le 8 janvier 2008
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Ursprung Beauverd