Faits:
A. X._ est employé par l'Administration fiscale cantonale du canton de Genève en qualité de taxateur.
Dans sa déclaration d'impôt pour la période 2006, X._ a déduit sous la rubrique "Cotisations AVS/AI, APG, Chômage, AANP, Assurance maternité" un montant total de 8'024 fr., comprenant une somme de 114 fr. que son employeur avait retenue sur son salaire à titre de cotisation à une assurance complémentaire perte de gain en cas de maladie.
Dans son bordereau d'impôt fédéral direct 2006 du 10 décembre 2007, l'Administration fiscale cantonale n'a pas admis en déduction le montant de 114 fr.
B. A l'encontre de ce bordereau, X._ a formé une réclamation qui a été rejetée par décision du 10 janvier 2008.
X._ a déféré ce prononcé à la Commission cantonale de recours de l'impôt fédéral direct (intégrée le 1er janvier 2009 dans la Commission cantonale de recours en matière administrative, dont les compétences ont été reprises dès le 1er janvier 2011 par le Tribunal administratif de première instance du canton de Genève). Par décision du 15 mars 2010, la Commission cantonale a rejeté le recours.
A l'encontre de cette décision, X._ a recouru au Tribunal administratif du canton de Genève - devenu entre-temps la Chambre administrative de la Cour de justice du canton de Genève. Par arrêt du 7 décembre 2010, cette autorité a rejeté le recours. Elle a considéré que le montant en cause ne tombait pas sous le coup de l'art. 33 al. 1 let. f de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11), mais de l'<ref-law>. Or, la limite fixée par cette dernière disposition étant déjà atteinte dans le cas de X._, celui-ci ne pouvait déduire la somme litigieuse.
C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, en substance, d'annuler l'arrêt du 7 décembre 2010 et d'admettre en déduction le montant de 114 fr., sous suite de frais pour la procédure fédérale et l'instance précédente.
L'Administration fiscale cantonale et l'Administration fédérale des contributions proposent de rejeter le recours. L'autorité précédente s'en remet à justice quant à sa recevabilité et persiste pour le surplus dans les considérants et le dispositif de son arrêt. Le Tribunal administratif de première instance ne s'est pas déterminé dans le délai imparti.

Considérant en droit:
1. Le recours est dirigé contre un arrêt final (cf. <ref-law>) rendu dans une cause de droit public (cf. <ref-law>) par une autorité cantonale supérieure de dernière instance (cf. art. 86 al. 1 let. d et al. 2 LTF), sans qu'aucune des exceptions prévues à l'<ref-law> ne soit réalisée, de sorte que la voie du recours en matière de droit public est en principe ouverte (cf. aussi <ref-law>). En outre, le recours a été déposé en temps utile (cf. <ref-law>) et dans les formes prescrites (cf. <ref-law>) par le contribuable destinataire de la décision attaquée et qui a un intérêt digne de protection à son annulation ou sa modification (cf. <ref-law>). Il convient donc d'entrer en matière.
2. 2.1 Aux termes de l'art. 33 al. 1 let. f LIFD, sont déduites du revenu "les primes et cotisations versées en vertu de la réglementation sur les allocations pour perte de gain, des dispositions sur l'assurance-chômage et l'assurance-accidents obligatoire". Les législations visées sont la loi fédérale du 25 septembre 1952 sur les allocations pour perte de gain en cas de service et de maternité (loi sur les allocations pour perte de gain, LAPG; RS 834.1), la loi fédérale du 25 juin 1982 sur l'assurance-chômage obligatoire et l'indemnité en cas d'insolvabilité (loi sur l'assurance-chômage, LACI; RS 837.0) et la loi fédérale du 20 mars 1981 sur l'assurance-accidents (LAA; RS 832.20) (Agner/ Jung/Steinmann, Commentaire de la loi sur l'impôt fédéral direct, 2001, no 20 ad art. 33; Peter Locher, Kommentar zum DBG, tome I, 2001, no 72 ad art. 33; Gladys Lafelly Maillard, in Commentaire romand, impôt fédéral direct, 2008, no 77 ad art. 33; Rainer Zigerlig/Guido Jud, in Kommentar zum Schweizerischen Steuerrecht, Bundesgesetz über die direkte Bundessteuer, 2e éd, 2008, no 29 ad art. 33). Il s'agit des lois instituant les assurances sociales autres que l'assurance-vieillesse et survivants et l'assurance-invalidité - lesquelles sont visées à l'art. 33 al. 1 let. d LIFD -, qui sont liées à l'exercice d'une activité lucrative (Lafelly Maillard, loc. cit.). Les assurances sociales en question sont fédérales (cf. Zigerlig/Jud, loc. cit.; Richner/Frei/Kaufmann/Meuter, Handkommentar zum DBG, 2e éd., 2009, no 123 ad art. 33). Lafelly Maillard (loc. cit.) y ajoute les allocations cantonales fondées sur l'<ref-law>, disposition entrée en vigueur le 1er juillet 2005, aux termes de laquelle les cantons peuvent prévoir l'octroi d'une allocation de maternité plus élevée ou de plus longue durée et l'instauration d'une allocation d'adoption et prélever, pour le financement de ces prestations, des cotisations particulières.
2.2 Depuis le 1er janvier 2001, le canton de Genève est soumis au système postnumerando annuel en matière d'impôts directs. S'agissant de la déduction des primes d'assurance maladie, ce sont les dispositions de l'<ref-law> qui trouvent application.
En vertu de l'<ref-law>, sont déduits les versements, cotisations et primes d'assurances-vie, d'assurances maladie et d'assurances accidents ne tombant pas sous le coup de l'art. 33 al. 1 let. f LIFD, ainsi que les intérêts des capitaux d'épargne du contribuable et des personnes à l'entretien desquelles il pourvoit, jusqu'à concurrence d'un montant global de 3'300 fr. pour les personnes mariées vivant en ménage commun et de 1'700 fr. pour les autres contribuables. Le montant des déductions prévues par l'<ref-law> pour la période fiscale 2006 résulte de la modification du 27 avril 2005 (RO 2008 p. 1937 ss) de l'art. 6 al. 1 et 3 de l'ordonnance sur la compensation des effets de la progression à froid pour les personnes physiques en matière d'impôt fédéral direct (OPFr; RS 642.119.2).
3. 3.1 Le recourant demande en substance que le montant litigieux soit admis en déduction comme cotisation versée en vertu de la réglementation sur les allocations pour perte de gain, au sens de l'art. 33 al. 1 let. f LIFD. Il fait valoir que la somme retenue donne droit à des prestations qui sont entièrement imposables, comme le sont notamment les indemnités versées par l'assurance-chômage et les indemnités journalières de l'assurance-accidents, dont les primes et cotisations sont entièrement déductibles en vertu de l'art. 33 al. 1 let. f. LIFD.
3.2 Selon les constatations de fait de l'autorité précédente, qui lient le Tribunal de céans (cf. <ref-law>), la cotisation litigieuse se rapporte à une assurance complémentaire pour perte de gain en cas de maladie. Celle-ci assure le versement du salaire, au-delà de ce que prévoit l'<ref-law>, lors d'un empêchement de travailler dû à la maladie. Même si, apparemment, l'ensemble des employés du canton de Genève bénéficient collectivement et obligatoirement d'une telle assurance, celle-ci n'est pas prescrite par la législation fédérale. En particulier, la cotisation litigieuse n'est pas perçue en vertu de l'une des lois fédérales mentionnées à l'art. 33 al. 1 let. f LIFD, dont l'énumération est exhaustive selon la lettre claire du texte légal. Dès lors, le montant en cause ne peut être déduit sur la base de cette disposition, quand bien même il existerait certaines analogies avec les primes et cotisations visées par celle-ci. Seule une déduction en vertu de l'<ref-law> entre en ligne de compte. Il est toutefois constant que, dans le cas du recourant comme de manière générale (cf. <ref-ruling> consid. 5.3 p. 415 s.), le montant maximal déductible fixé par l'<ref-law> est déjà atteint par les primes de l'assurance maladie de base. La somme litigieuse ne peut par conséquent pas non plus être déduite en vertu de cette disposition.
4. Vu ce qui précède, le recours doit être rejeté.
Succombant, le recourant doit supporter un émolument judiciaire (cf. <ref-law>). Il n'y a pas lieu d'allouer des dépens (cf. <ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Des frais judiciaires de 1'000 fr. sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au recourant, à l'Administration fiscale cantonale, au Tribunal administratif de première instance et à la Chambre administrative de la Cour de justice du canton de Genève, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 24 mai 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Vianin