Faits:
A. X._, domicilié à Y._, a exploité pendant de nombreuses années, en raison individuelle, une entreprise de gypserie, peinture et plâtrerie, transformée en société à responsabilité limitée en 1996, dans le cadre d'une procédure d'assainissement.
X._ est de plus propriétaire d'un parc immobilier mis en location et a effectué diverses opérations immobilières, notamment en 2003 et 2004.
B. En février 2008, le Service cantonal des contributions (ci-après: le Service cantonal) a procédé à une expertise portant sur les opérations immobilières effectuées par X._ au cours des années 2001 à 2006.
Le rapport d'expertise daté du 2 mars 2009 proposait, en ce qui concerne les années 2003 et 2004, les reprises suivantes:
No
Comptes/postes
2003 - Fr.
2004 - Fr.
1.3.
Vente parc n° 11243, Y._
95'316.--
1.4.
Servitude A._
1'800.--
1.6.
Vente PPE 5765, Y._
11'900.--
11'900.--
1.8 Vente par. B._, C._
-70'900.--
1.9.
Vente Hôtel D._, E._
88'800.--
1.10.
Vente parcelle à F._
1'285.--
1.12.
Promotion G._
99'789.--
2.1.
Commissions diverses
30'000.--
2.1.
Honoraires gestion immeubles
11'00.--
13'100.--
209'190.--
72'900.--
Procédant aux taxations pour les années 2003 et 2004, la Commission d'impôt de district pour la commune de Y._ a suivi les propositions de l'expert et opéré les reprises précitées, reprises qui ont été acceptées par le contribuable.
C. Par écriture du 17 juillet 2009, le Service cantonal a ouvert envers le contribuable une procédure de tentative de soustraction fiscale en matière d'impôts cantonaux et communaux pour les années 2003 et 2004 portant sur le montant des reprises précitées, soit 209'190 fr. pour 2003 et 72'900 fr. pour 2004.
Par décision du 22 septembre 2009, le Chef du Service cantonal a arrêté le montant de l'amende aux deux tiers des montants d'impôts éludés, soit 26'262 fr. en matière d'impôts cantonaux et 23'298 fr. en matière d'impôts communaux.
Par décision du 6 juillet 2010, le Chef du Département des finances, des institutions et de la santé du canton du Valais (ci-après: le Département cantonal) a partiellement admis une réclamation déposée contre ce prononcé en réduisant les montants d'amende à 25'104 fr. en matière d'impôts cantonaux et à 22'376 fr. en matière d'impôts communaux. Cette réduction provenait de la renonciation à prendre en considération certains éléments dans le cadre de la procédure d'amende, soit:
- Servitude A._: Fr. 1'800.--
- Vente de la parcelle de F._: Fr. 1'285.--
- Honoraires de gestion d'immeubles: Fr. 13'100.--.
Contre ce prononcé, le contribuable, représenté par la fiduciaire Fidag SA à Sion, a fait appel auprès du Tribunal cantonal du canton du Valais le 3 août 2010 en concluant à l'annulation des amendes. Le 2 février 2011, le Tribunal cantonal a transmis l'affaire à la Commission de recours en matière fiscale du canton du Valais (ci-après: la Commission cantonale) comme objet de sa compétence, au regard de la modification de l'article 208 al. 4 de la loi fiscale valaisanne du 10 mars 1976 (LF; RS/VS 642.1), laquelle a rejeté le recours par décision du 17 juin 2011. La décision a été notifiée au contribuable le 5 octobre 2011.
D. Par acte du 31 octobre 2011, X._ a déposé un recours en matière de droit public. Il a principalement conclu à l'annulation des amendes pour tentative de soustraction d'impôts et subsidiairement, à la réduction du montant des amendes.
La Commission cantonale, le Département cantonal et l'Administration fédérale des contributions ont conclu au rejet du recours.

Considérant en droit:
1. 1.1 La décision attaquée a pour objet une amende pour tentatives de soustraction de l'impôt cantonal et communal des périodes fiscales 2003 et 2004. Comme ce domaine relève du droit public et qu'aucune des exceptions prévues à l'<ref-law> n'est réalisée, la voie du recours en matière de droit public est ouverte sur la base de l'<ref-law>. S'agissant de l'impôt cantonal et communal, la soustraction est une matière harmonisée au titre 6 chap. 1 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14), de sorte que la voie du recours en matière de droit public est aussi réservée par l'<ref-law> (cf. <ref-ruling> ss).
1.2 Déposé en temps utile (cf. <ref-law>) et dans les formes requises, le recours est dirigé contre une décision finale (cf. <ref-law>) rendue par une autorité cantonale supérieure de dernière instance (cf. art. 86 al. 1 let. d et al. 2 LTF; art. 150 al. 2 LF). Par ailleurs, il a été interjeté par le contribuable destinataire de la décision attaquée et qui a un intérêt digne de protection à son annulation ou sa modification (cf. <ref-law>). Le recours est donc recevable en tant que recours en matière de droit public.
1.3 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (art. 95 let. a et 106 al. 1 LTF), ainsi que du droit cantonal harmonisé (<ref-ruling> consid. 2 p. 210). Il y procède en se fondant sur les faits constatés par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - c'est-à-dire arbitrairement (<ref-ruling> consid. 4.3 p. 62; <ref-ruling> consid. 7.1 p. 398) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), ce qu'il appartient au recourant d'exposer de manière circonstanciée (cf. <ref-ruling> consid 1.4 p. 400). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature purement appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 5.2.2 p. 322; arrêt 2C_167/2010 du 3 août 2010 consid. 3).
1.4 Le Tribunal fédéral applique le droit d'office (<ref-law>) à l'état de fait constaté dans l'arrêt attaqué, sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente (<ref-ruling> consid. 1.4.1 p. 254, arrêt 5A_55/2007 du 14 août 2007 consid. 2.2).
2. 2.1 Conformément à l'<ref-law>, l'art. 204 al. 1 LF prévoit que celui qui tente de se soustraire à l'impôt est puni de l'amende, en précisant que le contribuable doit avoir agi intentionnellement, adoptant une formulation similaire aux art. 175 et 176 LIFD, de sorte que la doctrine et la jurisprudence développées dans le cadre de la LIFD peuvent également, conformément au principe de l'harmonisation verticale, être appliquées en matière de LHID (cf. <ref-ruling> consid. 3.3; arrêt 2C_528/2011 du 17 janvier 2012 consid. 4).
2.2 En matière de tentative de soustraction d'impôt (<ref-law>), le comportement illicite réprimé correspond à celui de la soustraction fiscale au sens de l'<ref-law>. Dans la procédure de taxation (<ref-law>), il suffit que le contribuable donne à l'autorité fiscale des renseignements inexacts, en particulier en fournissant une déclaration d'impôt incomplète et qui n'est pas conforme à la vérité au sens de l'<ref-law>. Pour qu'il y ait tentative, l'autorité de taxation doit découvrir que les renseignements fournis sont inexacts avant que la décision de taxation ne soit entrée en force. Ultérieurement, la soustraction est consommée. Sur le plan subjectif, la tentative de soustraction fiscale suppose un agissement intentionnel de l'auteur (arrêt 2C_480/2009 du 16 mars 2010 consid. 5.1 et les références). Il faut donc que le contribuable ait agi intentionnellement, soit avec conscience et volonté (cf. <ref-law>, applicable par renvoi combiné des art. 333 al. 1 et 104 CP; cf. YVAN JEANNERET, in Commentaire romand, Code pénal I, 2009, no 2 ad <ref-law>). Le dol éventuel suffit; il suppose que l'auteur envisage le résultat dommageable, mais agit néanmoins, parce qu'il s'en accommode au cas où il se produirait (<ref-ruling> consid. 8.2 p. 61).
Selon la jurisprudence, la preuve d'un comportement intentionnel doit être considérée comme apportée, lorsqu'il est établi de façon suffisamment sûre que le contribuable était conscient que les informations données étaient incorrectes ou incomplètes. Si tel est le cas, il faut présumer qu'il a volontairement voulu tromper les autorités fiscales, ou du moins qu'il a agi par dol éventuel afin d'obtenir une taxation moins élevée; cette présomption ne se laisse pas facilement renverser, car l'on peine à imaginer quel autre motif pourrait conduire un contribuable à fournir au fisc des informations qu'il sait incorrectes ou incomplètes (cf. <ref-ruling> consid. 3a p. 29/30; arrêts 2C_447/2010 du 4 novembre 2010 consid. 3.2, in RDAF 2011 II p. 153, RF 66/2011 p. 222, StE 2011 B 101.7 no 3; 2C_336/2010 du 7 octobre 2010 consid. 4.1, in RDAF 2010 II p. 593, RF 66/2011 p. 218; StE 2011 B 102.1 no 6). Établir la conscience et la volonté relève de la constatation des faits qui lie le Tribunal fédéral (cf. consid. 1.3 ci-dessus), à moins que celle-ci ne soit manifestement inexacte ou arbitraire, en particulier lorsque l'autorité judiciaire a méconnu certaines pièces déterminantes du dossier ou s'est écartée sans raison des enseignements de l'expérience. En revanche, vérifier si l'autorité s'est fondée sur la notion exacte d'intention est une question de droit que le Tribunal fédéral revoit librement (arrêts 2C_29/2011 du 16 juin 2011 consid. 2.5, in RF 66/2011 p. 704; 2C_447/2010, précité, consid. 3.2; 2C_336/2010, précité, consid. 4.1). S'agissant de savoir si une tentative de soustraction est intentionnelle ou procède d'une négligence, l'importance des montants en cause joue un rôle non négligeable, dès lors que l'absence d'un montant sur la déclaration d'impôt peut d'autant plus difficilement échapper au contribuable que la somme est élevée (arrêt 2C_528/2011, 2C_530/2011 du 17 janvier 2012 consid. 2).
3. 3.1 En l'espèce, le recourant ne conteste pas l'inexactitude des déclarations fiscales, mais le caractère intentionnel de la soustraction. Il soutient qu'il "pouvait considérer" que ces montants feraient l'objet de déclarations ultérieures par le biais d'une déclaration sur les biens immobiliers, invoquant tant son manque d'expérience en matière immobilière que sa méconnaissance en matière fiscale. Il déduit l'absence d'intention de soustraction fiscale de la déclaration des transactions immobilières au service du registre foncier.
3.2 L'instance précédente a constaté d'une manière qui lie le Tribunal de céans que le recourant a une grande expérience dans le domaine de la construction et des opérations immobilières. Il a fait l'objet dès avant 2003 de procédures d'imposition sur le revenu pour des opérations immobilières et les gains ou pertes y relatifs. Sa déclaration d'impôt 2003A mentionne d'ailleurs les opérations entreprises en 2001 et 2002. De plus, les revenus découlant des opérations immobilières effectuées en 2003 et 2004, objet des reprises, sont importants. Dès lors, l'absence de ces montants sur la déclaration d'impôt, et par conséquent, le caractère incomplet des déclarations fiscales du recourant sur son revenu ne pouvait lui échapper. C'est donc sans arbitraire que la Commission de recours a retenu que le recourant avait connaissance du vice affectant ses déclarations fiscales lorsqu'il les a remises aux autorités de taxation, ce qui laisse présumer de sa volonté de se soustraire à l'impôt. Le recourant, loin de démontrer le caractère inexact ou arbitraire de l'appréciation de ces faits, se limite à des griefs de nature appellatoire, sur lesquels le Tribunal fédéral n'entre pas en matière (<ref-ruling> consid. 5.2.2 p. 322).
Conformément à l'<ref-law>, qui correspond à l'<ref-law>, le contribuable doit faire tout ce qui est nécessaire pour assurer une taxation complète et exacte, de sorte que même si l'autorité contrôle la déclaration d'impôt et procède aux investigations nécessaires (<ref-law>) dans le cadre d'une procédure de taxation mixte, le contribuable porte la responsabilité de l'exactitude de sa déclaration (cf. arrêt 2C_47/2009 du 26 mai 2009 consid. 5.2 et 5.3). Peu importe que d'autres autorités soient appelées à collaborer à l'application de la législation fiscale (cf. <ref-law>). La loi fiscale valaisanne ne dit d'ailleurs pas autre chose. Selon le droit cantonal, il revient en effet au contribuable de donner toutes les indications nécessaires à la taxation et au calcul de l'impôt sur les gains immobiliers (cf. art. 145 al. 2 LF). Ainsi, même si le recourant considérait, à tort, que les bénéfices de ses opérations immobilières constituaient des gains immobiliers (cf. arrêt 2C_893/2008 du 10 août 2009), il ne peut se prévaloir de l'annonce des transactions immobilières au service du registre foncier pour en déduire l'absence d'intention de soustraction fiscale. N'ayant reçu ni formulaire de taxation, ni demande de renseignement en matière d'impôt sur les gains immobiliers, il lui appartenait en effet de se renseigner sur la taxation de ses opérations immobilières. Même en ce cas, la tentative de soustraction fiscale doit être admise au moins par dol éventuel.
4. Au vu de ce qui précède, le recours en matière de droit public doit être rejeté dans la mesure où il est recevable.
Succombant, le recourant doit supporter les frais judiciaires (cf. <ref-law>) et n'a pas droit à des dépens.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Des frais judiciaires de 2'000 fr. sont mis à la charge du recourant.
3. Le présent arrêt est communiqué à la représentante du recourant, au Service cantonal des contributions et à la Commission cantonale de recours en matière fiscale du canton du Valais, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 28 mars 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Cavaleri Rudaz