Faits:
A. A._ est domicilié à Fribourg. Par ordonnance de mesures provisionnelles du 16 juillet 1999, le Président du Tribunal administratif du canton de Fribourg (ci-après: le Tribunal administratif) a confié la garde de ses deux enfants, B._, née le 23 septembre 1982, et C._, née le 31 août 1984, à son épouse. Il a en outre fixé les contributions d'entretien dues par A._ pour l'entretien de sa femme, à 3'900 fr. par mois, et de ses filles, à 1'300 fr. pour B._ et 1'100 fr. pour C._.
B. Dans sa déclaration pour les impôts fédéral, cantonal et communal de la période fiscale 2001, A._ a revendiqué la déduction de 103'946 fr. au titre de "pensions alimentaires versées au conjoint divorcé ou séparé et/ou pour enfants". En outre, sous la rubrique "déductions sociales pour enfants à charge", il a indiqué le montant de 4'700 fr. pour chacune de ses filles. Le Service cantonal des contributions du canton de Fribourg (ci-après: le Service cantonal des contributions), dans son avis de taxation du 20 février 2003, a fixé le revenu imposable pour l'impôt cantonal à 116'756 fr. et pour l'impôt fédéral direct à 118'286 fr. Ce Service n'a admis qu'un montant de 10'000 fr. comme déduction des aliments versés à l'épouse. En ce qui concerne les déductions sociales, l'autorité de taxation n'a retenu qu'un montant de 4'700 fr., en précisant que, selon le dossier fiscal de la mère, les deux filles étaient à la charge de celle-ci. A._ avait toutefois droit à la déduction sociale en raison de la contribution d'entretien qu'il versait à sa fille majeure.
Dans sa décision sur réclamation du 2 avril 2003, cette même autorité a accepté, sur le total des 87'047 fr. payés à son épouse, deux montants supplémentaires de 3'800 fr. chacun, versés en 2001, ce qui portait la déduction totale admise, pour les pensions alimentaires, à 17'600 fr. Les 69'447 fr. restants ayant été payés en 2002, ils n'étaient pas déductible pour la période fiscale 2001. Il en allait de même du montant de 16'900 fr. payé en faveur de la fille aînée, puisque celle-ci était majeure.
Le nouvel avis de taxation du 23 mai 2003 mentionnait un revenu imposable pour l'impôt cantonal de 109'156 fr. et pour l'impôt fédéral direct de 110'686 fr.
C. Par arrêt du 26 septembre 2003, le Tribunal administratif a pris acte du fait que le Service cantonal des contributions admettait que la fille cadette de A._ vivait avec celui-ci et que le recourant avait droit au splitting - soit au taux correspondant à 60% du revenu imposable - pour personnes séparées ou divorcées faisant ménage commun avec des enfants ou personne nécessiteuse dont ils assurent pour l'essentiel l'entretien, les autres griefs étant devenus sans objet. Pour le surplus, il a rejeté le recours de A._ contre la décision sur réclamation susmentionnée. Il a considéré en substance que les pensions en faveur d'un enfant majeur, soit la somme de 16'900 fr. versée à B._, n'étaient pas déductibles du revenu. Ne l'étaient pas non plus, les montants payés à sa conjointe en 2002, soit 69'447 fr.
D. Agissant par la voie du recours de droit administratif, A._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du Tribunal administratif du 26 septembre 2003 et d'admettre le montant de 103'946 fr. comme déduction de pensions alimentaires. Il invoque une constatation manifestement inexacte et incomplète des faits pertinents. En outre, il fait valoir que les pensions versées à des enfants majeurs ne sont pas imposables chez le bénéficiaire et ne sont pas déductibles chez le débiteur ce qui violerait l'interdiction de l'arbitraire.
Le Tribunal administratif et le Service cantonal des contributions concluent au rejet du recours sous suite de frais. L'Administration fédérale des contributions conclut dans le même sens.

Le Tribunal fédéral considère en droit:
1. Le présent recours de droit administratif s'en prend à la décision attaquée en tant qu'elle concerne l'impôt fédéral direct ainsi que l'impôt cantonal et communal de la période fiscale 2001.
I. Impôt fédéral direct
2. Déposé en temps utile et dans les formes prescrites par la loi contre une décision rendue par une autorité judiciaire statuant en dernière instance cantonale et fondée sur le droit public fédéral, le présent recours est recevable en vertu des art. 97 ss OJ, ainsi que de la règle particulière de l'art. 146 de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (ci-après: LIFD ou la loi sur l'impôt fédéral direct; RS 642.11), en vigueur depuis le 1er janvier 1995.
3. Conformément à l'art. 104 lettre a OJ, le recours de droit administratif peut être formé pour violation du droit fédéral, y compris l'excès et l'abus du pouvoir d'appréciation (<ref-ruling> consid. 1.2.1 p. 150). Le Tribunal fédéral revoit d'office l'application du droit fédéral qui englobe notamment les droits constitutionnels du citoyen (<ref-ruling> consid. 3.4 p. 188; <ref-ruling> consid. 2b p. 60; <ref-ruling> consid. 1a p. 254). Toutefois, selon l'art. 191 Cst., le Tribunal fédéral est tenu d'appliquer les lois fédérales et le droit international (art. 113 al. 3 et 114bis al. 3 aCst.; <ref-ruling> consid. 2f p. 5; <ref-ruling> consid. 2d p. 124; <ref-ruling> consid. 2c p. 15). Comme il n'est pas lié par les motifs que les parties invoquent, il peut admettre le recours pour d'autres raisons que celles avancées par le recourant ou, au contraire, confirmer l'arrêt attaqué pour d'autres motifs que ceux retenus par l'autorité intimée (art. 114 al. 1 in fine OJ; <ref-ruling> consid. 3.4 p. 188; <ref-ruling> consid. 1b p. 12, 264 consid. 1b p. 268; <ref-ruling> consid. 1b/aa p. 500 et les arrêts cités).
En revanche, lorsque le recours est dirigé, comme en l'occurrence, contre la décision d'une autorité judiciaire, le Tribunal fédéral est lié par les faits constatés dans l'arrêt, sauf s'ils sont manifestement inexacts ou incomplets, ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 104 lettre b et 105 al. 2 OJ; <ref-ruling> consid. 1.2.1 p. 150; <ref-ruling> consid. 1 p. 198). Aussi la possibilité d'alléguer des faits nouveaux ou de faire valoir de nouveaux moyens de preuve est-elle très restreinte (<ref-ruling> consid. 1.2.1 p. 150; <ref-ruling> consid. 3a p. 221; <ref-ruling> consid. 3a p. 420 et les arrêts cités; Fritz Gygi, Bundesverwaltungsrechtspflege, 2e éd., 1983, p. 286/287). Selon la jurisprudence, seules sont admissibles dans ce cas les preuves que l'instance inférieure aurait dû retenir d'office, et dont le défaut d'administration constitue une violation de règles essentielles de procédure (<ref-ruling> consid. 1.2.1 p. 150; <ref-ruling> consid. 1 p. 457; <ref-ruling> consid. 3a p. 420).
4. 4.1 L'art. 33 al. 1 let. c LIFD prévoit que sont déduits du revenu la pension alimentaire versée au conjoint divorcé, séparé judiciairement ou de fait, ainsi que les contributions d'entretien versées à l'un des parents pour les enfants sur lesquels il a l'autorité parentale, à l'exclusion toutefois des prestations versées en exécution d'une obligation d'entretien ou d'assistance fondée sur le droit de la famille. L'art. 23 let. f LIFD précise que sont imposables la pension alimentaire obtenue pour lui-même par le contribuable divorcé ou séparé judiciairement ou de fait, ainsi que les contributions d'entretien obtenues par l'un des parents pour les enfants sur lesquels il a l'autorité parentale. Quant à l'art. 24 let. e LIFD, il mentionne que sont exonérées de l'impôt les prestations versées en exécution d'une obligation fondée sur le droit de la famille, à l'exception des pensions alimentaires et des contributions d'entretien mentionnées à l'art. 23 let. f LIFD.
4.2 Le recourant s'en prend à la constitutionnalité de ces dispositions, dans la mesure où il ne peut pas déduire les montants qu'il verse à sa fille majeure (art. 33 al. 1 let. c LIFD), bien qu'elle-même ne serait pas imposable sur ceux-ci (art. 24 let. e LIFD).
Le Tribunal fédéral est tenu d'appliquer les lois fédérales (cf. consid. 3). Le grief est dès lors irrecevable.
5. 5.1 Le recourant soutient que les contributions d'entretien d'un montant de 103'946 fr. ont été versées à son épouse et à ses deux filles à l'époque où celles-ci étaient mineures. En outre, les pensions concerneraient la période où la fille cadette vivait encore avec sa mère. Le recourant ne précise toutefois pas quand ces prestations auraient été effectuées.
5.2 Il ressort du dossier que les prestations ont été payées de la façon suivante:
- contribution en faveur de la fille aînée: 2000 5'200 fr.
2001 9'100 fr.
2002 2'600 fr.
sous-total 16'900 fr.
- prestations en faveur de l'épouse: 2001 17'600 fr.
2002 69'447 fr.
sous-total 87'047 fr.
Total 103'947 fr.
Les contributions pour la fille aînée ont été faites entre le 23 octobre 2000 et le 6 mars 2002, période où elle était déjà majeure.
Le dossier permet de constater que le recourant n'avait jamais prétendu, avant son recours au Tribunal fédéral, qu'une partie du montant en question avait été versé en faveur de sa fille cadette et que ceux payés à son aînée concernaient une époque où elle était encore mineure. Le recourant ne précise d'ailleurs pas quand ces versements auraient été effectués, ni les sommes qu'il aurait payées pour sa fille cadette. Ces faits nouveaux ne peuvent donc pas être pris en considération. Les faits tels que déterminés par le Tribunal administratif, et tels que décrits ci-dessus, lient ainsi le Tribunal fédéral en vertu de l'art. 105 al. 2 OJ (cf. consid. 3).
6. 6.1 L'art. 33 al. 1 let. c LIFD mentionne expressément que les contributions d'entretien ne peuvent être déduites du revenu que lorsque l'enfant pour lequel elles sont versées est sous l'autorité parentale du parent qui les reçoit; sont exclues les prestations versées en exécution d'une obligation d'entretien ou d'assistance fondée sur le droit de la famille ("... nicht jedoch Leistungen in Erfüllung anderer familienrechtlicher Unterhalts- oder Unterstützungspflichten"; "... escluse tuttavia le prestazioni versate in virtù di un obbligo di mantenimento o di assistenza fondato sul diritto di famiglia"). L'art. 33 al. 1 let. c LIFD a contrario exclut donc la déduction des contributions d'entretien pour des enfants majeurs auprès du contribuable qui les verse car elles apparaissent comme des prestations effectuées en exécution d'une obligation d'entretien fondée sur le droit de la famille (Administration fédérale des contributions, Circulaire no 14, in: Archives 63 291, Imposition de la famille selon la loi fédérale sur l'impôt fédéral direct, C. 2; Peter Agner/Beat Jung/Gotthard Steinmann, Commentaire de la loi sur l'impôt fédéral direct, no 9 ad art. 33 p. 130; Christine Jaques, De divers aspects du régime de déduction et d'imposition des pensions alimentaires, in : RDAF 1998 II 329 no 6.2 p. 348; Xavier Oberson, Droit fiscal suisse, 2e éd., § 7 no 177 p. 129; Rainer Zigerlig/Guido Jud, in: Martin Zweifel, Peter Athanas, Kommentar zum schweizerischen Steuerrecht, I/2a, Bundesgesetz über die direkte Bundessteuer (DBG), no 21 ad art. 33 p. 406; d'un avis contraire: Jean Lampert, Prévoyance, famille, droit pénal: quelques points de la LIFD méritant discussion, in: Archives 62 17, ch. II. A) p. 22). Le corollaire en est qu'elles ne sont pas imposables auprès du bénéficiaire (art. 24 let. e LIFD).
6.2 Le recourant a payé 16'900 fr. en faveur de sa fille aînée entre le 23 octobre 2000 et le 6 mars 2002, soit 5'200 fr. du 23 octobre au 31 décembre 2000, 9'100 fr. en 2001 et 2'600 fr. du 1er janvier au 6 mars 2002. Celle-ci a atteint sa majorité le 23 septembre 2000. Elle n'était donc plus sous autorité parentale au moment où les contributions ont été versées, notamment en 2001. Partant, en vertu de l'art. 33 al. 1 let. c LIFD, les pensions payées ne sont pas déductibles dans le cadre de l'impôt fédéral direct de la période fiscale 2001.
7. Le recourant aurait versé 17'600 fr. en 2001 et 69'446.85 fr. en 2002 à son épouse à titre de pensions alimentaires. Il revendique la déduction du montant total, soit 87'046.85 fr., pour la période fiscale 2001.
7.1 Il s'agit de déterminer si, pour être déduites du revenu imposable en vertu de l'art. 33 al. 1 let. c LIFD, les pensions alimentaires nées pendant une période de calcul doivent être payées durant cette période, ou si une dette alimentaire, soit un montant acquitté pendant une période de calcul postérieure, est également déductible. En l'occurrence, il faut définir si les prestations versées en 2002 peuvent être déduites lors de la période de calcul 2001.
7.2 Le texte de l'art. 33 al. 1 let. c LIFD mentionne qu'est déduite du revenu la pension alimentaire versée au conjoint divorcé, séparé judiciairement ou de fait. Il ne dit pas si les pensions dues pendant la période de calcul doivent avoir été payées pendant cette période pour être prises en compte. La question n'a toutefois pas besoin d'être tranchée définitivement.
En effet, le recourant n'établit pas qu'une partie du montant payé à son épouse en 2002 était échu en 2001 - il ne prétend d'ailleurs pas que tel était le cas. Il ressort de l'ordonnance de mesures provisionnelles du 16 juillet 1999, que le recourant doit 3'900 fr. par mois à son ex-femme, soit 46'800 fr. par an. On ignore quel montant a été fixé dans le jugement de divorce, s'il a été rendu. Or, le recourant demande la déduction de 87'046 fr. pour la période fiscale 2001. Le montant revendiqué à titre de déduction non seulement ne concerne donc pas uniquement 2001, mais paraît se rapporter aux prestations dues pour 2002, du moins en partie, du moment que le recourant n'établit pas n'avoir plus été débiteur de telles prestations pour l'année 2002.
7.3 Au vu de ce qui précède, seules les prestations payées à son épouse en 2001, soit 17'600 fr., sont déductibles pour l'impôt fédéral direct de la période fiscale 2001, à l'exclusion des 69'446.85 fr. versés en 2002. Le recours doit être rejeté sur ce point.
II. Impôts cantonal et communal.
8. 8.1 Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 227; <ref-ruling> consid. 1 p. 179, 46 consid. 1a p. 48; <ref-ruling> consid. 1 p. 67).
8.2 Conformément à l'art. 73 al. 1 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (ci-après : LHID ou la loi sur l'harmonisation; RS 642.14), l'art. 247 al. 1 de la loi fribourgeoise du 6 juin 2000 sur les impôts cantonaux directs (ci-après: LICD ou la loi fribourgeoise sur les impôts cantonaux), entrée en vigueur le 1er janvier 2001, prévoit que les décisions cantonales du Tribunal administratif peuvent faire l'objet d'un recours de droit administratif devant le Tribunal fédéral. Il faut pour cela qu'elles portent sur une matière réglée dans les titres deuxième à cinquième et sixième, chapitre premier de la loi sur l'harmonisation (ATF <ref-ruling> consid. 1 p. 58).
En l'occurrence, le recourant se plaint du traitement fiscal des pensions alimentaires versées à son épouse et à sa fille aînée. Cette matière est régie par les art. 9 al. 2 let. c et 7 al. 4 let. g LHID figurant au deuxième titre, chapitre deux de la loi sur l'harmonisation.
En outre, le recours concerne l'imposition du recourant pour la période fiscale 2001, soit une période postérieure au délai de 8 ans accordé aux cantons, à compter de l'entrée en vigueur de la loi fédérale sur l'harmonisation le 1er janvier 1993, pour adapter leur législation aux dispositions des titres deuxième à sixième de cette loi. La voie du recours de droit administratif est dès lors ouverte, en vertu de l'<ref-law> (<ref-ruling> consid. 2 p. 591 ss; <ref-ruling> consid. 1a p. 148 a contrario).
8.3 Lorsque l'impôt fédéral direct et les impôts cantonal et communal sont en cause, deux décisions différentes sont attaquées. Il s'agit en effet d'impôts distincts qui reviennent à des collectivités différentes et qui font l'objet de taxations et de procédures séparées (art. 130 et ss, 132 et ss, 140 et ss, 145 et 146 LIFD ainsi que les art. 164 et ss, 174 et ss, 180 et ss et 247 LICD). Le Tribunal administratif doit rendre deux décisions - qui peuvent toutefois figurer dans un seul acte -, une pour l'impôt fédéral direct et une pour les impôts cantonal et communal, avec des motivations séparées - ce qui n'exclut pas des renvois - et des dispositifs distincts ou du moins un dispositif qui distingue expressément les deux impôts. Deux recours différents, qui peuvent aussi être contenus dans la même écriture, doivent également être introduits devant le Tribunal fédéral avec des conclusions adaptées à chacun des impôts. En effet, les conditions de ces recours de droit administratif ne sont pas entièrement les mêmes, notamment en ce qui concerne les compétences du Tribunal fédéral. En ce qui concerne l'impôt fédéral direct, le Tribunal fédéral peut statuer sur le fond (art. 114 OJ) - et il peut aller au-delà des conclusions des parties, à l'avantage ou au détriment de celles-ci - alors que pour les impôts cantonal et communal, selon l'<ref-law>, le Tribunal de céans ne peut qu'annuler l'arrêt attaqué et renvoyer l'affaire pour une nouvelle décision à l'autorité inférieure.
En l'occurrence, le recourant n'a pas distingué, dans son recours, l'impôt fédéral direct des impôts cantonal et communal et a pris des conclusions uniques pour les deux impôts, de sorte qu'il n'est pas certain qu'il remplisse les conditions de l'art. 108 OJ. Le Tribunal fédéral entrera toutefois, en principe, en matière, l'autorité intimée ayant largement suscité la confusion, en rendant une seule décision pour l'impôt fédéral direct et les impôts cantonal et communal, confondant les motivations et comportant un dispositif unique qui ne distingue pas les deux impôts.
Toutefois, en tant que le recourant demande l'admission du montant de 103'946 fr. à titre de déduction pour pensions alimentaires (ch. 3 de ses conclusions), son recours est irrecevable (<ref-law>).
9. 9.1 Conformément aux art. 9 al. 2 let. c et 7 al. 4 let. g LHID, l'art. 34 al. 1 let. c LICD prévoit que sont déduites du revenu la pension alimentaire versée au conjoint divorcé, séparé judiciairement ou de fait ainsi que les contributions d'entretien versées à l'un des parents pour les enfants sur lesquels il a l'autorité parentale, à l'exclusion toutefois des prestations versées en exécution d'une obligation d'entretien ou d'assistance fondée sur le droit de la famille. L'art. 24 let. f LICD dispose notamment que la pension alimentaire obtenue pour lui-même par le contribuable divorcé ou séparé judiciairement ou de fait ainsi que les contributions d'entretien obtenues par l'un des parents pour les enfants sur lesquels il a l'autorité parentale sont imposables. Selon l'art. 25 let. e LICD, sont exonérées de l'impôt les prestations versées en exécution d'une obligation fondée sur le droit de la famille, à l'exception des pensions alimentaires et des contributions d'entretien mentionnées à l'art. 24 let. f LICD. Le mode d'imposition des pensions alimentaires et contributions d'entretien est donc identique à celui prévu pour l'impôt fédéral direct.
9.2 Le recourant conteste la constitutionnalité des dispositions qui prescrivent que les contributions d'entretien en faveur d'enfants majeurs ne sont pas déductibles et qu'elles ne sont pas imposables chez le bénéficiaire.
Le Tribunal fédéral peut en principe vérifier la constitutionnalité des lois cantonales. A cet égard, il est sans importance que le législateur cantonal ait choisi une solution analogue à celle retenue par le droit fédéral. S'agissant d'un domaine du droit cantonal juridiquement indépendant, le Tribunal fédéral n'est nullement lié par la réglementation choisie par le législateur fédéral lors de l'examen de la norme cantonale (<ref-ruling>). Tel n'est pas le cas, en revanche, lorsque le contenu d'un acte normatif cantonal est imposé par une loi fédérale ou un arrêté fédéral de portée générale. La disposition dont la constitutionnalité est contestée étant contenue dans une loi fédérale, le Tribunal fédéral est lié par elle (<ref-ruling> consid. 2.2.2 p. 33; <ref-ruling> consid. 5b p. 246 et les arrêts cités).
9.3 Aux termes de l'art. 129 al. 1 Cst., la Confédération fixe les principes de l'harmonisation des impôts directs de la Confédération, des cantons et des communes. Fondée sur le mandat que lui confère cet alinéa, l'Assemblée fédérale a adopté la loi fédérale sur l'harmonisation. L'art. 9 al. 2 let. c LHID n'autorise que la déduction de contributions d'entretien versées à l'un des parents pour les enfants sur lesquels il a l'autorité parentale, à l'exclusion des prestations versées en exécution d'une obligation d'entretien fondée sur le droit de la famille. En outre, l'art. 7 al. 4 let. g LHID prévoit que les prestations fondées sur le droit de la famille sont exonérées de l'impôt.
Par conséquent, les cantons ne sont pas libres de légiférer comme ils l'entendent en matière de contributions d'entretien. Le législateur fédéral a voulu une harmonisation des impôts directs entre les collectivités publiques fédérale, cantonale et communale (harmonisation verticale). Il a pour cela établi des principes, dans la loi sur l'harmonisation, que la Confédération, les cantons et les communes ont dû reprendre dans leur législation fiscale. Le Tribunal fédéral est donc lié par la réglementation choisie par ce législateur (cf. consid. 9.2).
En revanche, il peut vérifier l'application et l'interprétation du droit fédéral et du droit cantonal adopté dans ce cadre.
En revanche, il peut vérifier l'application et l'interprétation du droit fédéral et du droit cantonal adopté dans ce cadre.
10. Le recourant revendique la déduction des 87'046.85 fr. de prestations payées à son épouse, soit 17'600 fr. versées en 2001 et 69'446.85 fr. en 2002, pour la période fiscale 2001. Il estime également que les 16'900 fr. payés en faveur de sa fille aînée entre le 23 octobre 2000 et le 6 mars 2002 sont déductibles du revenu imposable pour la même période fiscale.
Comme on l'a vu (cf. consid. 9.1), le droit cantonal a instauré le même système d'imposition des pensions alimentaires et des contributions d'entretien que le système fédéral. En outre, le canton de Fribourg a introduit le système postnumerando en 2001 pour les impôts cantonal et communal (art. 63 LICD) et pour l'impôt fédéral direct. En conséquence, les considérations développées ci-dessus pour l'impôt fédéral direct s'appliquent également aux impôts cantonal et communal (cf. consid. 6 et 7; pour l'art. 9 al. 1 let. c LHID cf. RF 57/2002 p. 749, 2P.43/2002; Christine Jaques, op. cit., no 6.2 p. 348; Reich Markus, in: Martin Zweifel/Peter Athanas, Kommentar zum schweizerischen Steuerrecht, I/1, Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (StHG), 2e éd., no 40 ad art. 9 p. 174).
Partant, les 16'900 fr. de contributions payés par le recourant en faveur de sa fille aînée majeure ne sont pas déductibles pour les impôts cantonal et communal de la période fiscale 2001. Les prestations versées à l'épouse en 2001, soit 17'600 fr., sont déductibles du revenu pour les impôts cantonal et communal de la période fiscale 2001, à l'exclusion de celles payées en 2002.
Partant, les 16'900 fr. de contributions payés par le recourant en faveur de sa fille aînée majeure ne sont pas déductibles pour les impôts cantonal et communal de la période fiscale 2001. Les prestations versées à l'épouse en 2001, soit 17'600 fr., sont déductibles du revenu pour les impôts cantonal et communal de la période fiscale 2001, à l'exclusion de celles payées en 2002.
11. II résulte de ce qui précède que le recours, entièrement mal fondé, doit être rejeté dans la mesure où il est recevable. Succombant, le recourant doit supporter un émolument judiciaire (art. 156 al. 1 OJ). II n'a pas droit à des dépens (art. 159 al. 1 OJ).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté en tant qu'il concerne l'impôt fédéral direct. Il est rejeté dans la mesure où il est recevable en tant qu'il concerne les impôts cantonal et communal.
2. Un émolument judiciaire de 2'000 fr. est mis à la charge du recourant.
3. Le présent arrêt est communiqué en copie au recourant, au Service cantonal des contributions et au Tribunal administratif du canton de Fribourg ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 24 août 2004
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le président: La greffière: