Faits:
A. Par contrat de travail du 1er septembre 2005, Y._ SA (ci-après: Y._) a engagé X._ en qualité de directeur général, pour un salaire mensuel brut de 11'000 fr. versé treize fois l'an, auquel s'ajoutaient 1'000 fr. au titre de frais de représentation.
X._ disposait de la signature sociale ainsi que d'une signature sur le compte bancaire de la société et avait à sa disposition une carte EC lui permettant d'effectuer des retraits et des paiements. En revanche, seul A._, directeur et actionnaire, disposait de la clé permettant d'effectuer des paiements par télé-banking.
En cours d'instance, les parties ont évoqué l'existence d'un rapport de compte-courant entre elles. X._ a ainsi allégué que les montants qu'il lui était arrivé de prélever sur le compte de la société au moyen de sa carte bancaire étaient portés audit compte. Y._ a expliqué qu'elle y comptabilisait les montants prélevés en espèces par son collaborateur et ceux qui lui étaient versés au débit, et les montants qui lui étaient dus au titre de remboursement de frais au crédit. Ce compte-courant était débiteur de 16'333 fr. 86 au 10 mai 2006, montant dont Y._ a demandé la restitution et que X._ a contesté, affirmant n'avoir jamais eu accès aux justificatifs et n'avoir jamais reconnu le solde du compte, à quelque moment que ce soit.
Le 16 février 2006, Y._ a décidé de retirer à X._ sa signature sociale et bancaire, décision qui n'a toutefois été effective qu'à fin mai 2006. Le 29 mai 2006, celle-là a signifié à celui-ci sa décision de résilier le contrat de travail pour le 30 juin 2006.
B. Le 12 juillet 2006, X._ a saisi la juridiction des prud'hommes du canton de Genève d'une demande dirigée contre Y._, tendant au paiement de 27'625 fr. 29 et 1'768 euros 38 avec intérêt à 5 % l'an dès le 30 juin 2006. Y._ a conclu au rejet, invoquant en tant que de besoin la compensation et, reconventionnellement, à la condamnation de son adverse partie à lui verser 80'000 fr. avec intérêt à 5 % l'an dès le 30 juin 2006, comprenant notamment 17'457 fr. 80 - somme ultérieurement ramenée à 16'333 fr. 86 - en remboursement de montants prélevés en espèces et de notes de frais indûment remboursées.
Par jugement du 4 juin 2007, le Tribunal des prud'hommes du canton de Genève a condamné Y._ à payer à X._ 542 fr. 20 bruts, 2'985 fr. 30 nets ainsi que 1'740 euros 38 nets, le tout avec intérêt à 5 % l'an dès le 30 juin 2006. Il a admis que l'employé pouvait prétendre à 18'000 fr., créance qui devait néanmoins être compensée avec les prétentions que Y._ faisait valoir au titre de remboursement de montants prélevés sans justification sur ses comptes, et qui étaient fondés à hauteur de 17'457 fr. 80; après compensation, le solde restant dû à X._ représentait dès lors 542 fr. 20, auxquels s'ajoutaient les deux montants susmentionnés en francs et en euros au titre de remboursement de notes de frais.
X._ a interjeté appel contre le jugement susmentionné, contestant sa condamnation à verser à Y._ 17'457 fr. 80 et concluant à sa confirmation pour le surplus. Agissant par la voie de l'appel incident, celle-ci a réclamé l'annulation de la décision attaquée et la condamnation de celui-là à lui verser 80'000 fr. avec intérêt à 5 % l'an dès le 30 juin 2006.
Statuant par arrêt du 12 juin 2008, la Cour d'appel de la juridiction des prud'hommes du canton de Genève a annulé le jugement du 4 juin 2007. Sur demande principale, elle a condamné Y._ à payer à X._ 18'000 fr. bruts, 3'025 fr. 29 nets et 1'768 euros 38 nets, le tout avec intérêt à 5 % l'an dès le 30 juin 2006; sur demande reconventionnelle, elle a condamné celui-ci à payer à celle-là le montant de 16'530 fr. 80 avec intérêt à 5 % l'an dès le 30 juin 2006; cela fait, elle a autorisé la compensation. En bref, elle a en particulier reconstitué un compte-courant corrigé faisant apparaître un solde de 15'031 fr. 80 en faveur de l'employeuse; pour le surplus, elle a considéré que seul un montant de 3'901 fr. des 5'300 fr. reçus par l'employé pour payer la facture d'un consultant avait été justifié, de sorte que l'employeuse pouvait prétendre au remboursement de la différence, de 1'499 francs.
C. X._ (le recourant) a formé un recours en matière civile au Tribunal fédéral, concluant au fond à l'annulation de l'arrêt du 12 juin 2008 en tant qu'il le condamne à payer à son adverse partie 16'530 fr. 80 avec intérêt à 5 % l'an dès le 30 juin 2006 et autorise la compensation, et à la confirmation de la décision pour le surplus, avec suite de frais et dépens. Il demandait préalablement la suspension de l'instruction du recours jusqu'à droit connu sur la demande en correction d'erreur matérielle et de révision déposée devant la cour cantonale, ce à quoi il a été fait droit par ordonnance présidentielle du 21 août 2008. Par arrêt du 2 octobre 2008, la Présidente de la Cour d'appel de la juridiction des prud'hommes du canton de Genève a déclaré irrecevables tant la demande de rectification d'erreur matérielle que de révision.
Y._ (l'intimée) ne s'est pas déterminée dans le délai qui lui avait été imparti à cet effet.
Considérant en droit:
1. 1.1 Interjeté par le recourant qui a partiellement succombé dans ses conclusions libératoires (art. 76 al. 1 LTF) et dirigé contre une décision finale (art. 90 LTF) rendue en matière civile (art. 72 al. 1 LTF) par une autorité cantonale de dernière instance (art. 75 al. 1 LTF) dans une affaire pécuniaire dont la valeur litigieuse - déterminée par les conclusions restées litigieuses devant l'autorité précédente (art. 51 al. 1 let. a LTF) - atteint le seuil de 15'000 fr. applicable en matière de droit du travail (art. 74 al. 1 let. a LTF), le recours en matière civile présentement soumis à l'examen du Tribunal fédéral est en principe recevable, puisqu'il a été déposé dans le délai, compte tenu des féries (art. 46 al. 1 let. b et art. 100 al. 1 LTF), et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), y compris les droits constitutionnels (ATF 134 III 379 consid. 1.2 p. 382). Saisi d'un tel recours, le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF) sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), que le recours ne peut critiquer que s'ils l'ont été de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 134 V 53 consid. 4.3) - ou en violation du droit au sens de l'art. 95 LTF, et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
Selon la jurisprudence, une décision est arbitraire, au sens de l'art. 9 Cst., lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit annulée, encore faut-il qu'elle se révèle arbitraire, non seulement dans ses motifs, mais aussi dans son résultat, ce qu'il appartient à la partie recourante de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 134 I 263 consid. 3.1 p. 265 s.). Dans la mesure où l'arbitraire est invoqué en relation avec l'établissement des faits, il convient de rappeler que le juge dispose d'un large pouvoir lorsqu'il apprécie les preuves (ATF 120 Ia 31 consid. 4b). La partie recourante doit ainsi expliquer dans quelle mesure le juge a abusé de son pouvoir d'appréciation et, plus particulièrement, montrer qu'il a omis, sans aucune raison sérieuse, de prendre en compte un élément de preuve propre à modifier la décision attaquée, qu'il s'est manifestement trompé sur son sens et sa portée ou encore que, en se fondant sur les éléments recueillis, il en a tiré des constatations insoutenables (ATF 129 I 8 consid. 2.1).
2. Devant le Tribunal fédéral, seule demeure litigieuse la question du solde du compte-courant. Le recourant ne remet pas en cause l'intégralité du compte-courant corrigé établi par la cour cantonale. Dans une motivation succincte, il ne se plaint que de ce qu'en effectuant la reconstitution du compte-courant, les juges cantonaux n'auraient selon lui pas tenu compte de dix notes de frais (1'752 fr. 11, 141 fr. 92, 2'066 fr. 41 et 553 fr. 60 du 28 novembre 2005, 182 fr. 80, 496 fr. et 1'821 fr. 20 du 3 janvier 2006, 3'694 fr. 90 du 23 mars 2006, enfin 3'734 fr. 80 et 1'295 fr. du 31 mars 2006, soit un total de 15'738 fr. 74); par ailleurs, la cour cantonale n'aurait pas tenu compte d'un crédit correspondant à des frais de déplacement comptabilisés dans le compte-courant pour un montant de 573 fr. 45, alors qu'il s'agissait d'un montant en euros qui aurait dû être converti en 911 fr. 80; la non-prise en compte de ces notes de frais aurait eu pour résultat que le solde débiteur du compte-courant aurait été artificiellement augmenté de (15'738 fr. 74 + 911 fr. 80 =) 16'650 fr. 54, montant correspondant grosso modo à la prétention reconventionnelle admise par les juges cantonaux.
3. Le recourant se plaint d'un établissement inexact des faits. D'une part, il soutient que la cour cantonale aurait "versé dans l'arbitraire prohibé par les articles 9 et 29 Cst. tant en ce qui concerne l'établissement des faits qu'en ce qui concerne l'application de l'article 8 CC" en ne prenant pas en compte, au crédit du compte-courant, les dix notes de frais susmentionnées, versées à la procédure par les deux parties, qui avaient pourtant été portées au crédit du compte-courant par l'intimée, ce que lui-même n'avait pas contesté; d'autre part, il estime que les juges cantonaux auraient versé dans l'"inconséquence évidente" en relevant qu'un crédit de 573 fr. 45 comptabilisé par l'intimée concernait un montant en euros et non en francs suisses, "sans pour autant intégrer ce crédit ni apporter la correction relative à la différence de change (art. 8 CC, 9 Cst.)".
Dans son arrêt, la cour cantonale a constaté en fait qu'étaient notamment portés au débit du compte-courant différents versements opérés en faveur du recourant par télé-banking au titre de remboursement de frais pour la période allant du 1er novembre 2005 à fin mars 2006, à savoir 2'392 fr. et 2'225 fr. 25 le 9 novembre 2005, 3'377 fr. 70 en date du 30 novembre 2005, 3'734 fr. 80 le 4 avril 2006 et 1'295 fr. le 4 (recte: 7) avril 2006, le montant total des notes de frais portées au crédit totalisant pour sa part 12'617 fr. 29. Cela étant, elle a considéré en droit, après examen du compte-courant et des justificatifs, que celui-là intégrait tous les versements opérés par l'employeur, par télé-banking, au titre de remboursement de frais; ces versements n'avaient pas été opérés à tort et devaient être considérés comme justifiés, ayant été le fait de A._ après contrôle des notes de frais sur la base des justificatifs; l'employeur les avait versés au titre de remboursement de frais sans émettre de réserve et, sur un poste du compte-courant tout du moins, il avait omis de tenir compte du fait que les frais avaient été exposés en euros, oubliant donc de convertir le montant de 573 fr. 45 en francs suisses; la cour cantonale a ainsi admis que les versements susmentionnés, portés au débit du compte-courant, correspondaient à des frais effectifs exposés par le travailleur, et cela même si les notes de frais produites par l'employeur (pièces 44, 50 à 58) ne totalisaient pas un montant correspondant.
Vérification faite, les pièces 50 à 58 mentionnées par les juges cantonaux sont des notes de frais dont les montants correspondent - sous réserve de celui de 3'694 fr. 90 sur lequel il sera revenu infra - à ceux allégués par le recourant (pièce 50: 573 euros 45 correspondant à 911 fr. 80, pièce 51: 1'752 fr. 11, pièce 52: 88 euros 70 correspondant à 141 fr. 92, pièce 53: 2'066 fr. 41 fr., pièce 54: 182 fr. 80, pièce 55: 346 euros correspondant à 553 fr. 60, pièce 56: 496 fr., pièce 57 : 1'821 fr. 20 et pièce 58: 3'734 fr. 80 et 1'295 fr.). Il apparaît donc que la cour cantonale a précisément examiné lesdites notes de frais avant de considérer qu'elles permettaient de justifier la totalité des montants versés au recourant par télé-banking et, par conséquent, de porter un montant équivalant au crédit du compte-courant, quand bien même le total des notes de frais pertinentes ne correspondait pas au centime près à celui des versements. En effet, ceux-ci totalisent (2'392 fr. + 2'225 fr. 25 + 3'377 fr. 70 + 1'295 fr. + 3'734 fr. 80 = ) 13'024 fr. 75, tandis que la somme des notes de frais retenues est de 12'955 fr. 64 - ce qui correspond aux 12'617 fr. 29 retenus par les juges cantonaux dans la partie en fait de leur arrêt, sur la base du compte-courant établi par l'intimée, rectifié dans la mesure où celle-ci avait omis de convertir le montant de 573.45 en euros (911 fr. 80 - 573 fr. 45 = 338 fr. 35 + 12'617 fr. 29). Ainsi, le fait pour la cour cantonale d'avoir arrondi le montant total des notes de frais avait pour but d'obtenir une balance exacte entre les débits et les crédits, s'agissant des postes concernés.
Quant au dernier montant invoqué par le recourant, de 3'694 fr. 90, la cour cantonale n'a pas davantage négligé de le traiter, mais elle l'a retranché du crédit du compte-courant, considérant que les parties s'accordaient pour dire qu'il s'agissait de la contre-valeur de 2'400 euros correspondant au chèque de tel montant remis au travailleur par une société tierce et que ce montant n'avait comptablement pas à figurer au crédit du compte-courant du travailleur, mais au crédit du compte de la société en question - motivation que le recourant ne critique pas explicitement.
En définitive, il résulte de ce qui précède que la cour cantonale n'a en aucune manière omis de tenir compte des montants mis en exergue par le recourant et qu'il ne saurait être question d'établissement manifestement inexact des faits ou d'arbitraire.
4. Le recourant se plaint d'une violation du droit fédéral, en particulier des art. 117 et 327a CO de même que 8 CC. Il reproche d'abord à la cour cantonale d'avoir décidé de "présumer que les virements bancaires effectués par (l'intimée) en faveur (du recourant) équivalaient au montant de ses notes de frais"; il expose que "les avances ne peuvent par définition correspondre au montant de la note de frais finale, dès lors qu'elles sont destinées à couvrir des frais estimés qui peuvent se révéler plus ou moins importants au final" et que "par ailleurs, l'existence d'une relation de compte-courant rend précisément superflue l'imputation des avances reçues, celles-ci étant imputées par le biais du débit des avances"; il fait en outre grief aux juges cantonaux d'avoir procédé à une "forfaitisation" des frais qui ne ressortait pas des accords contractuels; au surplus, à supposer qu'elle ait considéré qu'il n'avait pas rapporté la preuve des frais litigieux, la cour cantonale aurait violé l'art. 8 CC dès lors que l'intimée devait se laisser opposer les écritures qu'elle avait elle-même passées, étant au demeurant précisé que le fardeau de la preuve incomberait à celui qui tient le compte.
Quoi qu'en dise le recourant, il ne saurait en l'occurrence être question de "présomption". Comme précédemment exposé, les juges cantonaux ont concrètement vérifié les notes de frais produites au dossier et tenu pour établi qu'elles justifiaient les versements effectués par télé-banking. Appelée à se prononcer sur la teneur d'un compte-courant dont le contenu et le solde étaient contestés par les parties, la cour cantonale se devait en bonne logique d'examiner le bien-fondé de chaque écriture, ce qu'elle a précisément fait. Pour le surplus, le fait pour les juges cantonaux d'avoir porté au crédit du compte-courant reconstitué par leurs soins un montant qui ne correspondait pas au centime près au total des notes de frais retenues, mais à celui des versements, ne relève pas d'une "forfaitisation", mais d'un procédé comptable permettant d'obtenir une balance exacte; c'est d'ailleurs le lieu de relever que le résultat du correctif effectué par la cour cantonale s'avère favorable au recourant. Enfin, la cour cantonale a précisément admis les écritures dont le recourant se prévaut - sous réserve de celle de 3'694 fr. 90 pour les motifs déjà exposés (cf. consid. 3) -, dont elle a considéré qu'elles portaient sur des postes de nature à justifier les versements par télé-banking. En résumé, il apparaît que la cour cantonale a bel et bien tenu compte des notes de frais invoquées par le recourant, qu'elle a inscrit un montant correspondant au crédit du compte-courant, ce qui a eu pour effet de diminuer d'autant le solde en faveur de l'intimée. En définitive, l'on ne voit pas en quoi consisterait la violation du droit fédéral.
5. Les considérations qui précèdent commandent le rejet du recours.
6. Comme la valeur litigieuse, calculée selon les prétentions à l'ouverture de l'action (ATF 115 II 30 consid. 5b p. 41), dépasse le seuil de 30'000 fr., le montant de l'émolument judiciaire est fixé selon le tarif ordinaire (art. 65 al. 3 let. b LTF) et non réduit (art. 65 al. 4 let. c LTF). Compte tenu de l'issue du litige, les frais sont mis à la charge du recourant, qui succombe (art. 66 al. 1 LTF). Il n'y a en revanche pas lieu d'allouer de dépens à l'intimée, qui ne s'est pas déterminée sur le recours.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour d'appel de la juridiction des prud'hommes du canton de Genève.
Lausanne, le 12 février 2009
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz