Faits:
A. Le 1er février 1995, X._ (l'employé) a été engagé par Y._ SA, (l'[ancienne] employeuse) en qualité d'ingénieur technico-commercial. En avril 1999, il a été promu directeur de la division serrurerie et peinture; le 25 mai 1999, l'employeuse lui a adressé une lettre confirmant ce nouveau statut, laquelle indiquait un salaire mensuel brut de 6'500 fr., augmenté de 500 fr. à titre de frais fixes, ainsi qu'une "participation aux résultats".
Le 17 avril 2000, l'employeuse a envoyé à l'employé un nouveau courrier confirmant notamment, sous une rubrique intitulée "gratification", une "participation aux résultats"; elle mentionnait par ailleurs un horaire hebdomadaire de quarante-trois heures. Dans une lettre du même jour envoyée à la demande de l'employé, elle a confirmé le montant de sa rémunération actuelle comme suit: salaire et frais bruts: 106'000 fr.; "participation aux résultats": 20'000 fr. (moyenne); il était précisé que la rémunération susmentionnée évoluerait en fonction de son engagement et des résultats obtenus.
Le 28 mars 2002, peu après avoir perdu sa fonction de directeur, l'employé a été licencié pour le 31 mai 2002 et immédiatement libéré de l'obligation de travailler.
B. Le 17 février 2004, l'employé a ouvert action contre son ancienne employeuse, concluant au paiement de 55'000 fr. pour des heures supplémentaires ainsi que de 320'000 fr. et 300'000 fr. à titre de participations pour les années 2000, respectivement 2001.
Statuant en instance cantonale unique par jugement du 2 octobre 2009, la Cour civile II du Tribunal cantonal valaisan a rejeté la demande. D'une part, laissant ouverte la question de savoir si l'horaire hebdomadaire de quarante-trois heures s'appliquait à l'employé dès lors qu'il exerçait une fonction de cadre, les juges cantonaux ont constaté que l'horaire effectivement accompli par celui-ci n'avait aucunement été établi; les cinq cent nonante-deux et cinq cent vingt-sept heures supplémentaires alléguées pour les années 2000, respectivement 2001 n'ayant pas été prouvées, rien ne pouvait lui être alloué à ce titre. D'autre part, interprétant selon le principe de la confiance les courriers échangés entre les parties, la cour cantonale a jugé que l'employé était au bénéfice d'un droit à une gratification (au sens de l'art. 322d CO), lequel était toutefois subordonné à l'existence de résultats positifs de l'exploitation; l'employeuse ayant, selon expertises, connu des pertes en 2000 et 2001, et l'employé n'ayant pas prouvé que celles-ci avaient été causées par un comportement contraire à la bonne foi de l'employeuse, l'employé n'avait pas droit à une gratification pour les années 2000 et 2001.
C. L'employé (le recourant) a interjeté un recours en matière civile au Tribunal fédéral, concluant à ce que son adverse partie soit condamnée à lui verser les montants de 55'000 fr., 320'000 fr. et 300'000 fr. avec intérêts à 5% à partir de la mise en demeure (commandement de payer), avec suite de frais des instances cantonale et fédérale; il a également présenté une demande d'assistance judiciaire, qui a été rejetée par ordonnance du 8 janvier 2010. L'ancienne employeuse (l'intimée) n'a pas été invitée à se déterminer.
Considérant en droit:
1. Interjeté par le recourant qui a succombé dans ses conclusions condamnatoires (art. 76 al. 1 LTF) et dirigé contre une décision finale (art. 90 LTF) rendue en matière civile (art. 72 al. 1 LTF) par une autorité cantonale de dernière instance (art. 75 al. 1 LTF; cf. art. 75 al. 2 et 130 al. 2 LTF) dans une affaire dont la valeur litigieuse dépasse le seuil de 15'000 fr. applicable en matière de droit du travail (art. 74 al. 1 let. a LTF), le recours en matière civile présentement soumis à l'examen du Tribunal fédéral a été déposé dans le délai prévu par la loi (art. 45 al. 1 et art. 100 al. 1 LTF).
2. En l'espèce, le recourant, qui n'est pas représenté par un avocat, a déposé un long mémoire manuscrit. Celui-ci contient d'abord une partie "faits" où il discute successivement les considérants du jugement attaqué dans une "démonstration ciselée". Sous le titre "motifs", il se plaint d'arbitraire (art. 9 Cst.), reprochant à l'autorité cantonale d'avoir "constaté de manière insoutenable les faits de la cause" et "appliqué de manière arbitraire le droit fédéral".
3. Saisi d'un recours en matière civile, le Tribunal fédéral examine librement l'application du droit fédéral; sa cognition n'est pas limitée à l'arbitraire (ATF 134 III 379 consid. 1.2 p. 383). Le recours doit toutefois être succinctement motivé (cf. art. 42 al. 2 LTF). Cela suppose que le recourant discute au moins brièvement les considérants de l'arrêt attaqué (ATF 134 II 244 consid. 2.1 p. 245). Cette exigence est une condition de recevabilité (cf. art. 108 al. 1 let. b LTF). Le Tribunal fédéral n'examine donc en principe que les griefs invoqués et suffisamment motivés (cf. ATF 134 II 244 consid. 2.1 p. 246; 133 III 545 consid. 2.2).
En l'occurrence, le recourant évoque certes une violation du droit fédéral, mais n'en dit pas plus. Il ne cite, exception faite de l'interdiction constitutionnelle de l'arbitraire, aucune norme qui aurait été mal appliquée, ni ne discute les arguments juridiques de la cour cantonale. Par conséquent, son grief est irrecevable.
4. Pour le surplus, le recourant se plaint d'une violation de l'interdiction constitutionnelle de l'arbitraire dans la constatation des faits, concernant singulièrement les heures supplémentaires prétendument effectuées et les résultats de l'intimée en 2000 et 2001.
Le Tribunal fédéral n'examine que les griefs constitutionnels expressément invoqués et motivés (art. 106 al. 2 LTF). L'acte de recours doit, sous peine d'irrecevabilité, contenir un exposé succinct des droits ou principes constitutionnels violés et préciser en quoi consiste la violation; le recourant doit discuter les attendus de la décision attaquée et exposer de manière claire et circonstanciée en quoi consiste la violation du droit constitutionnel (cf. ATF 134 I 83 consid. 3.2; 134 II 244 consid. 2.2; 134 V 138 consid. 2.1).
Selon la jurisprudence, une décision est arbitraire, au sens de l'art. 9 Cst., lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit annulée, encore faut-il qu'elle se révèle arbitraire, non seulement dans ses motifs, mais aussi dans son résultat, ce qu'il appartient au recourant de démontrer (cf. art. 106 al. 2 LTF; ATF 135 V 2 consid. 1.3 p. 4 s.; 134 I 263 consid. 3.1 p. 265 s.). Dans la mesure où l'arbitraire est invoqué en relation avec l'établissement des faits, il convient de rappeler que le juge dispose d'un large pouvoir lorsqu'il apprécie les preuves (ATF 120 Ia 31 consid. 4b). La partie recourante doit ainsi expliquer dans quelle mesure le juge a abusé de son pouvoir d'appréciation et, plus particulièrement, montrer qu'il a omis, sans aucune raison sérieuse, de prendre en compte un élément de preuve propre à modifier la décision attaquée, qu'il s'est manifestement trompé sur son sens et sa portée ou encore que, en se fondant sur les éléments recueillis, il en a tiré des constatations insoutenables (ATF 134 V 53 consid. 4.3; 129 I 8 consid. 2.1).
En l'espèce, dans la partie "faits" de son écriture, le recourant soulève des questions, donne son interprétation des faits et affirme en particulier que de nombreuses pièces auraient été ignorées, que des témoignages auraient été appréciés de manière partiale, que de prétendues contradictions entre les deux expertises au dossier n'auraient pas été relevées et que des pièces produites seraient inexactes, mais sans en démontrer le caractère insoutenable, ni la pertinence. Dans la partie "motifs" de son recours, il se limite à soutenir que la cour cantonale n'aurait pas tenu compte de toutes les pièces déposées et se serait contentée d'en retenir quelques-unes, alors que les cent nonante-cinq faits allégués dans son mémoire de demande et les deux cent quarante-trois pièces déposées seraient "pertinents, complets et probants"; il ajoute qu'il y aurait "manière à interprétation des deux expertises".
Semblable argumentation ne satisfait pas aux exigences applicables en la matière. En effet, le recourant ne fait qu'exposer son propre point de vue, comme s'il plaidait devant une cour d'appel; impropre à démontrer en quoi l'appréciation des preuves à laquelle la cour cantonale a procédé serait arbitraire, ce procédé n'est pas admissible. Il s'ensuit l'irrecevabilité du grief et, partant, du recours.
5. Comme la valeur litigieuse, calculée selon les prétentions à l'ouverture de l'action (ATF 115 II 30 consid. 5b p. 41), dépasse le seuil de 30'000 fr., le montant de l'émolument judiciaire est fixé selon le tarif ordinaire (art. 65 al. 3 let. b LTF) et non réduit (art. 65 al. 4 let. c LTF). Compte tenu de l'issue du litige, les frais judiciaires - arrêtés à 3'000 fr. pour tenir compte du fait que le recourant a agi seul et de la brièveté du présent arrêt d'irrecevabilité - sont mis à la charge du recourant, qui succombe (cf. art. 66 al. 1 LTF; art. 1 du tarif du 31 mars 2006 des émoluments judiciaires du Tribunal fédéral [RS 173.110.210.1]). Il n'y a en revanche pas lieu d'allouer de dépens à l'intimée, qui n'a pas été invitée à se déterminer.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour civile II du Tribunal cantonal valaisan.
Lausanne, le 26 février 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz