Faits:
A. X._ est domicilié dans le canton de Genève et exerce la profession de médecin-dentiste à titre indépendant.
Le 17 juillet 1998, l'Administration fiscale cantonale du canton de Genève (ci-après: l'Administration cantonale) a notifié aux époux X._ un bordereau de taxation d'impôt fédéral direct (IFD) pour la période 1997-1998 d'un montant de 6'999 fr. par année, sur la base d'un revenu imposable de 136'400 fr.
Le 2 mars 2000, l'Administration cantonale a notifié aux époux X._ un bordereau de taxation IFD pour la période 1999-2000 d'un montant de 6'297 fr. par année, sur la base d'un revenu imposable de 131'000 fr. Le 27 octobre 2000, elle leur a notifié, pour cette même période, un bordereau de taxation IFD rectifié d'un montant de 5'764 fr. par année, sur la base d'un revenu imposable de 126'900 fr.
Le 15 mars 2004, l'Administration cantonale a informé les époux X._ de l'ouverture d'une procédure en rappel d'impôt et en soustraction d'impôt pour les périodes 1997-1998 et 1999-2000.
A la suite de décisions prises le 9 novembre 2004, l'Administration cantonale a notifié, le 12 novembre 2004, aux époux X._:
- un bordereau de rappel IFD pour la période 1997-1998 pour un montant supplémentaire de 6'318 fr. plus 1'513,20 fr. d'intérêts de retard, le revenu imposable passant de 136'400 fr. à 160'709 fr. et la taxation de 13'998 fr. à 20'316 fr.;
- un bordereau de rappel IFD pour la période 1999-2000 pour un montant supplémentaire de 13'338 fr. plus 2'018,85 fr. d'intérêts de retard, le revenu imposable passant de 126'900 fr. à 178'234 fr. et la taxation de 11'528 fr. à 24'866 fr.;
- un bordereau d'amende de 24'570 fr.
Selon l'Administration cantonale, les contribuables avaient fait passer de nombreux frais de nature privée pour des charges de l'activité commerciale. La faute était relativement grave, compte tenu du caractère répétitif et intentionnel des faits reprochés.
Le 29 novembre 2004, l'Administration cantonale a notifié aux époux X._ un bordereau de taxation IFD pour la période 2001-B d'un montant de 19'790 fr., sur la base d'un revenu imposable de 243'200 fr. Le même jour, elle a adressé aux contribuables un procès-verbal de taxation 2001-B faisant état de reprises pour 102'592 fr.
Le 8 décembre 2004, les époux X._ ont déposé réclamation contre, d'une part, les bordereaux de rappel IFD pour les périodes 1997-1998 et 1999-2000 ainsi que d'amende du 12 novembre 2004 et, d'autre part, contre le bordereau de taxation IFD pour la période 2001-B du 29 novembre 2004.
Dans une première décision du 8 juillet 2005 relative à la procédure de rappel d'impôt, l'Administration cantonale a partiellement admis la réclamation, mais maintenu la quotité de l'amende. Ainsi, pour la période 1997-1998, le revenu imposable était arrêté à 169'500 fr. et le rappel d'impôt s'élevait à 8'606 fr. plus 2'061,15 fr. d'intérêts de retard et, pour la période 1999-2000, le revenu imposable était arrêté à 173'800 fr. et le rappel d'impôt s'élevait à 12'194 fr. plus 1'845,70 fr. d'intérêts de retard. S'agissant des frais de véhicule, l'Administration cantonale s'est écartée de la pratique consistant à accepter 3/5èmes des frais de véhicule à titre professionnel pour en admettre seulement 1/5ème, en raison du caractère abusif et disproportionné de ces frais au regard de l'activité professionnelle déployée par le contribuable. En outre, l'Administration cantonale a admis certaines charges déductibles supplémentaires. En revanche, elle en a refusé d'autres qui présentaient un caractère privé. Par exemple, elle n'a pas retenu, pour ce qui est des frais de formation continue, des voyages en avion privé et des repas dans des restaurants de luxe ni, pour ce qui est des frais de fournisseurs, des achats relevant plus de l'entretien d'une famille que de celui d'un cabinet dentaire.
Dans une seconde décision du 8 juillet 2005, l'Administration cantonale a dégrevé partiellement le bordereau relatif à l'IFD pour la période 2001-B et arrêté le revenu imposable à 209'500 fr. ainsi que le montant de l'IFD dû à 15'409 fr. Elle a renoncé à certaines reprises en matière de frais de véhicule, de formation continue et de fournisseurs.
B. Par courrier du 4 août 2005, les époux X._ ont recouru contre les deux décisions prises le 8 juillet 2005 par l'Administration cantonale auprès de la Commission cantonale de recours de l'impôt fédéral direct, remplacée depuis le 1er janvier 2009 par la Commission cantonale de recours en matière administrative, du canton de Genève (ci-après: la Commission cantonale de recours).
Par décision du 12 mars 2008, la Commission cantonale de recours a admis partiellement le recours, compte tenu des dernières conclusions de l'Administration cantonale qui estimait le recours fondé quant à une déduction de 3'909,40 fr. relative à la période 2001-B et le dossier a été renvoyé à l'Administration cantonale pour qu'elle établisse un nouveau bordereau en conséquence. Pour le surplus, le recours a été rejeté.
C. Le 21 avril 2008, les époux X._ ont recouru contre la décision de la Commission cantonale de recours du 12 mars 2008 auprès du Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif). Ils ont contesté essentiellement les reprises relatives aux frais de véhicule et de formation pour les trois périodes en cause (1997-1998, 1999-2000 et 2001-B) ainsi que la reprise de certains frais de fournisseurs pour la période 2001-B. Ils ont aussi fait valoir que l'amende était trop élevée, quand bien même elle serait réduite en raison d'une diminution des rappels d'impôts.
Par arrêt du 15 décembre 2009, le Tribunal administratif a partiellement admis le recours en tant qu'il portait sur le bordereau rectificatif de rappel IFD pour la période 1999-2000 du 12 novembre 2004 et sur le bordereau d'amende IFD du 12 novembre 2004 et annulé lesdits bordereaux. Dans cette mesure, il a annulé la décision de la Commission cantonale de recours du 12 mars 2008 et renvoyé la cause à l'Administration cantonale pour nouvelle taxation et amende au sens des considérants. Pour le surplus, le Tribunal administratif a rejeté le recours. L'admission partielle du recours portait sur le calcul des frais de véhicule pour la période 1997-1998, car la reprise était supérieure au montant admis comme frais professionnels; en outre, le montant de l'amende, fixé en fonction du montant du rappel d'impôt, devait être adapté en conséquence.
D. Le 9 février 2010, X._ a déposé au Tribunal fédéral un recours en matière de droit public contre l'arrêt du Tribunal administratif du 15 décembre 2009. Il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué. En outre, il demande au Tribunal fédéral de dire:
- que la part professionnelle des frais de véhicule déductible du produit de son activité indépendante est de 3/5èmes et non de 1/5ème (périodes 1997-1998, 1999-2000 et 2001-B);
- que les frais relatifs à la formation continue au sein du Y._ Club (ci-après: le Club) sont intégralement déductibles (périodes 1997-1998, 1999-2000), de même que les frais de voyage à Z._ (période 2001-B);
- que les frais d'acquisition de meubles chez A._ pour un montant de 1'049,30 fr. ainsi que la facture d'architecte de 1'826 fr. et les achats de CD pour un montant de 297 fr. constituent des frais déductibles (période 2001-B).
Le Tribunal administratif et la Commission cantonale de recours ont renoncé à formuler des observations. L'Administration cantonale conclut, sous suite de frais, au rejet du recours.
L'Administration fédérale des contributions propose de rejeter le recours dans la mesure de sa recevabilité, avec suite de frais.

Considérant en droit:
1. 1.1 Pour contester un arrêt rendu par un tribunal supérieur statuant en dernière instance cantonale sur la base de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11), la voie du recours en matière de droit public (cf. les <ref-law>, en particulier les art. 82 let. a ainsi que 86 al. 1 let. d et al. 2 LTF) est ouverte dès lors qu'aucune des exceptions prévues à l'<ref-law> n'est réalisée.
1.2 Le recours en matière de droit public est recevable contre les décisions finales, soit celles qui mettent fin à la procédure (<ref-law>). Hormis les situations - non pertinentes en l'espèce - visées à l'<ref-law>, il n'est recevable contre les décisions incidentes que si celles-ci peuvent causer un préjudice irréparable (<ref-law>) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (<ref-law>). En règle générale, une décision de renvoi ne met pas fin à la procédure (<ref-ruling> consid. 4.2 p. 482). Néanmoins, si le renvoi ne laisse aucune latitude de jugement à l'autorité cantonale inférieure appelée à statuer (à nouveau), il est assimilé à une décision finale et peut ainsi faire l'objet d'un recours en matière de droit public (<ref-ruling> consid. 1.3 p. 127 et les références; cf. aussi arrêt 2C_596/2007 du 24 juin 2008 consid. 1.2, in RDAF 2008 II p. 390). Tel est le cas en l'espèce. En effet, le Tribunal administratif a certes partiellement admis le recours et renvoyé la cause à l'Administration cantonale pour qu'elle établisse à nouveau le bordereau rectificatif de rappel d'impôt IFD 1999-2000 et qu'elle fixe l'amende en conséquence, parce que la reprise concernant les frais de véhicule ne pouvait dépasser les chiffres déclarés. L'arrêt attaqué indique toutefois précisément les chiffres devant être retenus (arrêt attaqué consid. 5 p. 16). Quant à la décision de la Commission cantonale de recours, partiellement confirmée par le Tribunal administratif, elle contenait aussi un renvoi à l'Administration cantonale lui enjoignant de tenir compte d'une déduction fixée à 3'909,40 fr. L'arrêt attaqué ne laisse donc aucune marge de manoeuvre à l'autorité administrative.
1.3 Au surplus, déposé en temps utile (<ref-law>) et dans les formes prescrites légalement (<ref-law>) par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), le présent recours est en principe recevable.
2. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Le cas échéant, le recourant doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui qui est contenu dans l'acte attaqué (<ref-ruling> consid. 6.2 p. 288).
3. 3.1 Le recourant se plaint de violations de l'<ref-law>, en rapport avec les frais de véhicule, de formation continue et d'aménagement de son cabinet dentaire. Au sujet de ces derniers frais, il reproche aussi au Tribunal administratif d'avoir enfreint les règles sur le fardeau de la preuve, en particulier l'<ref-law>.
3.2 D'après l'<ref-law>, les contribuables exerçant une activité lucrative indépendante peuvent déduire les frais qui sont justifiés par l'usage commercial ou professionnel. La déductibilité de ces frais est conditionnée par la preuve de leur nécessité au regard de l'activité poursuivie (arrêt 2C_658/2007 du 13 février 2008 consid. 2.1; YVES NOËL, in Commentaire romand, Impôt fédéral direct, 2008, n° 2 ad <ref-law>). Selon un principe généralement admis en matière fiscale, il incombe à celui qui fait valoir l'existence d'un fait de nature à éteindre ou à diminuer sa dette fiscale d'en apporter la preuve et de supporter les conséquences de l'échec de cette preuve (<ref-ruling> consid. 4c/aa p. 266; arrêts 2C_477/2009 du 8 janvier 2010 consid. 3.5, 2C_199/2009 du 14 septembre 2009 consid. 3.1, in RDAF 2009 II p. 560, et 2C_76/2009 du 23 juillet 2009 consid. 2.2, in RF 64/2009 p. 834). A cet égard, le renvoi du législateur à l'usage, commercial ou professionnel, donne à l'autorité de taxation un pouvoir d'appréciation important, renforcé par le fait qu'elle ne supporte pas le fardeau de la preuve du refus de déduction (arrêt 2C_658/2007 du 13 février 2008 consid. 2.1; NOËL, in op. cit, n° 4 ad <ref-law>). La distinction entre frais professionnels, déductibles, et frais privés, non déductibles, peut être délicate chez l'indépendant. L'autorité de taxation doit notamment apprécier le caractère professionnellement usuel de la dépense; pour ce faire, elle dispose en particulier de l'information recueillie lors de la taxation des autres indépendants de la même branche (arrêt 2C_658/2007 du 13 février 2008 consid. 2.1; NOËL, in op. cit, n° 21 ad <ref-law>).
3.3 En ce qui concerne les frais de véhicule, le recourant soutient avoir apporté la preuve par pièces des frais comptabilisés, tout en admettant que les frais relatifs à un deuxième véhicule doivent être écartés. Il reproche au Tribunal administratif de n'avoir pas appliqué une déduction des 3/5èmes pour tenir compte de frais liés à son activité professionnelle.
Les frais de déplacement et de véhicule peuvent être déduits en tant que dépenses liées à l'exercice de l'activité professionnelle indépendante. Si un contribuable effectue des trajets aussi bien privés que professionnels avec son véhicule, il y a lieu de distinguer les frais occasionnés par l'usage privé des frais liés à l'activité professionnelle (arrêt 2A.262/2006 du 6 novembre 2006 consid. 5.2, in RDAF 2006 II p. 430, et les références). On peut alors procéder à une estimation sur la base des frais effectifs ou sur une base forfaitaire (cf. les notices N1/1993, N1/2001 et N1/2007 sur la manière d'estimer les prélèvements en nature et les parts privées aux frais généraux des propriétaires d'entreprises, édictées par l'Administration fédérale des contributions). Il n'est pas contesté que la pratique administrative qui avait cours dans le canton de Genève pour les médecins indépendants, lors des périodes fiscales en cause, consistait à admettre une déduction fiscale de 3/5èmes du total des frais de véhicule à titre de frais professionnels, pour autant que fût établie la connexité des frais déclarés avec l'activité professionnelle. Il y a lieu cependant de rappeler qu'une directive administrative n'a pas force de loi, qu'elle ne lie ni les administrés, ni les tribunaux, ni même l'administration qui doit donc tenir compte des circonstances de l'espèce (<ref-ruling> consid. 8.1 p. 315 et la jurisprudence citée).
Il ressort de l'arrêt attaqué et des déterminations de l'Administration cantonale que le recourant a admis que la majeure partie de ses patients se rendait à son cabinet dentaire, mais qu'il lui arrivait d'aller soigner des patients dans un EMS situé dans la commune où il avait son cabinet dentaire (D._). Cependant, il n'a jamais expliqué les factures exorbitantes d'essence compte tenu de ce qui vient d'être rappelé. Comme le souligne l'Administration cantonale, le recourant a consommé en moins d'un mois une fois 500 litres d'essence (soit environ la quantité nécessaire pour 4'000 km), une autre fois 374 litres (soit environ la quantité nécessaire pour 3'000 km). En outre, il a mélangé les frais concernant deux véhicules (leasing, entretien, etc.) et réparti les frais de véhicule dans deux comptes différents: frais de véhicule et frais de fournisseurs. A l'heure actuelle, le recourant se contente de se référer aux pièces produites et de demander la réduction habituelle de 3/5èmes, sans expliquer ses frais de véhicule exagérément élevés. Dans ces circonstances, on ne voit pas que le Tribunal administratif ait violé l'<ref-law> en confirmant le principe d'une déduction forfaitaire de 1/5ème des frais de véhicule. Il convenait en effet de tenir compte des particularités de l'espèce. Du reste, la pratique admettant une déduction de 3/5èmes la subordonnait à ce que l'on puisse établir un lien de connexité entre les frais de véhicule et l'activité professionnelle, lien qui fait précisément défaut en l'occurrence.
3.4 Pour ce qui est des frais de formation continue, le recourant se plaint que la déduction de ses dépenses pour participer au Club n'ait pas été admise et y voit des violations de l'<ref-law> ainsi que du principe de l'égalité.
3.4.1 Aux termes de l'<ref-law>, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant, conformément au principe d'allégation. Cela signifie que l'acte de recours doit, sous peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation (<ref-ruling> consid. 1.2 p. 234, 670 consid. 1.5 p. 674). Le recourant, qui soulève le grief d'inégalité de traitement, se contente de se référer à "une pratique constante de l'Administration" cantonale et d'évoquer vaguement des cas dans lesquels les autorités fiscales genevoises auraient admis la déduction de frais de participation à des congrès. A cet égard son recours est irrecevable, car il ne satisfait pas aux exigences de motivation découlant de l'<ref-law>. Au demeurant, le fait qu'en principe, les frais de congrès puissent être déduits ne signifie pas que l'Administration cantonale ne puisse pas vérifier que les déductions invoquées soient bien en rapport avec la formation continue, afin d'éviter que celle-ci ne permette la déductibilité de purs frais de loisirs. Par conséquent, même si le grief tiré de l'inégalité de traitement avait été recevable, il aurait été infondé.
3.4.2 Les frais de formation continue sont déductibles pour autant qu'ils soient en relation avec l'exercice de l'activité de l'indépendant (NOËL, in op. cit., n° 14 ad <ref-law>). Différentes déductions du recourant ont du reste été admises à ce titre, comme l'Administration cantonale le rappelle dans ses déterminations. Il n'en va pas de même des dépenses effectuées dans le cadre du Club. Certes, le recourant a produit devant le Tribunal administratif une liste des sujets professionnels traités lors de séances du Club. Toutefois, comme le relève l'arrêt attaqué, les déductions requises ont trait seulement à des frais de restaurant, de transport en avion privé piloté par un participant ou de séjour dans des stations balnéaires étrangères (B._, C._, Z._). Or, le lien entre ces différentes dépenses et la formation continue invoquée n'a pas été établi. Le recourant affirme à présent avoir démontré que le Club constituait "une forme reconnue de formation continue, obligatoire pour exercer sa profession" et il considère que c'est un fait établi par le Tribunal administratif qui lie l'Autorité de céans. On ne saurait le suivre sur ce point. En réalité, le Tribunal administratif ne s'est pas prononcé sur les compétences du Club pour organiser, voire dispenser, une formation continue. Il a simplement constaté le défaut de lien entre les dépenses effectuées dans ce cadre et la formation continue mise en avant par l'intéressé. Contrairement à ce que semble croire le recourant, il lui appartenait de démontrer avec des justificatifs que les frais dont il requérait la déduction avaient servi à sa formation continue. Force est de constater que le Tribunal administratif pouvait contester l'établissement de cette relation (entre les frais et la formation) au regard des preuves apportées par l'intéressé, qui concède lui-même que certaines réunions à l'étranger ont pu entraîner des frais dits de convenance personnelle. Par conséquent, l'arrêt entrepris ne viole pas l'<ref-law> à cet égard.
3.5 Au sujet des frais de fournisseurs relatifs à l'aménagement du cabinet dentaire, le recourant fait valoir des violations de l'<ref-law> et des règles sur le fardeau de la preuve, notamment de l'<ref-law>. Comme pour les autres dépenses, ces frais ne peuvent être déduits que pour autant que le contribuable apporte la preuve de leur justification professionnelle ou commerciale (cf. arrêts 2C_199/2009 du 14 septembre 2009 consid. 3.1, in RDAF 2009 II p. 560, et 2A.295/2006 du 16 octobre 2006 consid. 4 et 5, in RDAF 2006 II p. 540). En l'espèce, les reprises litigieuses portent sur trois dépenses.
3.5.1 La première dépense a trait à du mobilier acheté chez A._. Le recourant a produit une photocopie des tickets de caisse s'y rapportant devant le Tribunal administratif. Ce document qui est pratiquement illisible ne démontre pas que ces meubles soient en relation avec l'activité professionnelle de l'intéressé, comme l'a retenu le Tribunal administratif. L'arrêt attaqué n'est donc pas critiquable en tant qu'il confirme la reprise à cet égard.
3.5.2 La deuxième dépense se rapporte à une facture d'architecte du 26 avril 2001. Comme cela ressort de l'arrêt attaqué, cette facture ne fait qu'établir l'existence de frais d'architecte pour un montant de 1'826 fr., en raison de travaux effectués entre 1998 et 2000. Dans ses déterminations, l'Administration cantonale relève que ladite facture indique uniquement que les honoraires stricto sensu se sont élevés à 1'430 fr. et les frais annexes et de transport à 396 fr. Dès lors que le recourant n'avait pas établi quels travaux avaient été effectués (genres de travaux, aménagements opérés) ni quelle période fiscale était concernée par les frais s'y rapportant, le Tribunal administratif pouvait estimer que le justificatif produit n'était pas suffisant pour invalider la reprise.
3.5.3 La troisième dépense porte sur l'acquisition de CD. Le Tribunal administratif a retenu que ces achats étaient mentionnés dans une liste de dépenses mais n'étaient pas justifiés par pièces, de sorte qu'ils ne pouvaient pas être déduits. Les justificatifs doivent non seulement apporter la preuve de la dépense, mais encore démontrer la relation de celle-ci avec l'activité professionnelle ou commerciale du contribuable. En l'espèce, le recourant n'a pas fourni la preuve de ce lien, alors qu'il en avait l'obligation, comme on l'a rappelé ci-dessus (consid. 3.2). Il n'appartenait du reste pas au Tribunal administratif d'attirer l'attention du recourant sur ce point, contrairement à ce que semble croire ce dernier. En outre, l'<ref-law> dont le recourant se prévaut ne lui est d'aucun secours, parce qu'il n'a pas établi entre les disques achetés et son activité de dentiste une relation déterminante pour la taxation. C'est donc à juste titre que le Tribunal administratif a confirmé la reprise à ce sujet.
4. Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable.
Succombant, le recourant doit supporter les frais judiciaires (art. 65 et 66 al. 1 LTF) et n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, à l'Administration fiscale cantonale, à la Commission cantonale de recours en matière administrative et au Tribunal administratif du canton de Genève, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 17 août 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Zünd Dupraz