Faits:
A. Dès le 1er septembre 1997, Y._ a travaillé pour X._ SA en qualité de directeur commercial et responsable d'un magasin à Genève. Selon certificat de travail intermédiaire du 18 octobre 2006, il donnait entière satisfaction. Le 23 février 2007, il a informé son employeuse de son intention de résilier son contrat pour le 31 mai 2007.
Le 22 mars 2007, Y._ a endommagé l'enregistreur vidéo d'une des caméras de surveillance d'un magasin de X._ SA par un coup de pied. Le jour suivant, l'employeuse a résilié son contrat de travail avec effet immédiat; le licenciement était motivé par l'événement de la veille.
B. Le 16 juillet 2007, Y._ a ouvert action contre X._ SA en paiement de la somme de 44'765 fr. 85 avec intérêt - à savoir 13'000 fr. à titre de salaire pour les mois d'avril et mai 2007, 2'708 fr. 35 à titre de part de treizième salaire au prorata pour l'année 2007, 11'057 fr. 50 à titre de paiement de jours de vacances non pris en nature et 9'900 fr. ainsi que 8'100 fr. à titre de commissions diverses - et en délivrance d'un certificat de travail. X._ SA a conclu au rejet de la demande et, reconventionnellement, à la condamnation de son adverse partie à lui verser 5'784 fr. 75 plus intérêts en réparation du dommage causé à l'enregistreur.
Par jugement du 10 septembre 2008, le Tribunal des prud'hommes du canton de Genève a pour l'essentiel admis la demande et condamné X._ SA à payer à Y._ 34'683 fr. 35 bruts et 9'900 fr. nets avec intérêts; il a en revanche rejeté la demande reconventionnelle.
Statuant sur appel de X._ SA par arrêt du 29 mai 2009, la Cour d'appel de la juridiction des prud'hommes a réformé le jugement du 10 septembre 2008; elle a partiellement admis la demande et condamné l'employeuse à payer à Y._ la somme - arrondie - de 26'649 fr. bruts plus intérêts moratoires à 5% l'an dès le 1er juin 2007 - soit 15'708 fr. 35 à titre de salaire pour les mois d'avril et mai 2007 (part au treizième salaire comprise) et 10'940 fr. 90 pour les vacances non prises; elle a en outre partiellement admis la demande reconventionnelle et condamné Y._ à payer à X._ SA 1'958 fr. nets.
C. X._ SA (la recourante) a interjeté un recours en matière civile au Tribunal fédéral; elle a conclu principalement à l'annulation de l'arrêt du 29 mai 2009 dans la mesure où il la condamne à payer 26'649 fr. à Y._ et à ce que celui-ci soit débouté de toutes conclusions, avec suite de dépens; elle a également présenté une demande d'effet suspensif, qui a été rejetée par ordonnance présidentielle du 29 juillet 2009. Y._ (l'intimé) a proposé le rejet du recours, sous suite de dépens.
Considérant en droit:
1. La valeur litigieuse, déterminée par les conclusions restées litigieuses devant l'autorité précédente, est d'environ 44'500 fr. (cf. art. 51 al. 1 let. a et art. 53 al. 1 LTF); l'arrêt attaqué émane de la dernière instance cantonale. La voie du recours en matière civile est ouverte (art. 74 al. 1 let. a et art. 75 al. 1 LTF).
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). En tant que cour suprême, il est instance de révision du droit (Message du 28 février 2001 concernant la révision totale de l'organisation judiciaire fédérale, FF 2001 4135). Certes, il peut rectifier ou compléter les faits s'ils ont été établis de façon manifestement inexacte, notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst., ou en violation du droit au sens de l'art. 95 LTF, ce pour autant que la correction soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 et art. 105 al. 2 LTF; ATF 135 II 145 consid. 8.1; 135 III 127 consid. 1.5 p. 129 s.). Cette exception à la règle selon laquelle le Tribunal fédéral ne revoit pas les faits ne permet pas aux parties de rediscuter dans leurs mémoires les faits de la cause comme si elles plaidaient devant un juge d'appel. La partie recourante qui entend faire rectifier ou compléter un fait doit expliquer de manière circonstanciée en quoi les conditions pour le faire seraient réalisées (ATF 133 IV 286 consid. 6.2); les exigences en matière de motivation correspondent à celles en matière de violation de l'interdiction constitutionnelle de l'arbitraire (cf. ATF 134 II 244 consid. 2.2; 133 IV 286 consid. 1.4 p. 287 s.).
2. La recourante se plaint d'abord d'une "violation arbitraire de l'art. 337 al. 2 CO". Or, saisi d'un recours en matière civile, le Tribunal fédéral examine librement l'application du droit fédéral et sa cognition ne peut pas être restreinte en limitant le contrôle de l'application des lois fédérales à l'arbitraire (ATF 134 III 379 consid. 1.2 p. 383); cette règle s'applique nonobstant le libellé du grief.
2.1 En l'occurrence, la Cour d'appel a retenu en substance que l'intimé avait certes délibérément endommagé le matériel de surveillance, mais que le coup de pied était consécutif à un état d'énervement et de perte de maîtrise et non pas à un dessein de nuire à l'employeur, qu'il ne s'inscrivait pas dans un contexte "de rancune et de haine". Elle a aussi retenu que la recourante n'avait pas établi, ni même rendu vraisemblable que l'intimé était susceptible de lui causer d'autres dommages jusqu'à la fin de leurs relations contractuelles. Elle a estimé que l'acte commis le 22 mars 2007 par l'employé n'était pas un manquement si grave à ses devoirs qu'il justifiait un licenciement immédiat, ce d'autant moins que l'intimé avait résilié son contrat pour le 31 mai 2007.
2.2 L'employeur et le travailleur peuvent résilier immédiatement le contrat de travail en tout temps pour de justes motifs (art. 337 al. 1 1e phrase CO). Doivent notamment être considérées comme tels toutes les circonstances qui, selon les règles de la bonne foi, ne permettent pas d'exiger de celui qui a donné le congé la continuation des rapports de travail (cf. art. 337 al. 2 CO).
Mesure exceptionnelle, la résiliation immédiate pour justes motifs doit être admise de manière restrictive. D'après la jurisprudence, les faits invoqués à l'appui d'un renvoi immédiat doivent avoir entraîné la perte du rapport de confiance qui constitue le fondement du contrat de travail. Seul un manquement particulièrement grave du travailleur justifie son licenciement immédiat; si le manquement est moins grave, il ne peut entraîner une résiliation immédiate que s'il a été répété malgré un avertissement (ATF 130 III 28 consid. 4.1, 213 consid. 3.1 p. 220 s.). Par manquement du travailleur, on entend généralement la violation d'une obligation découlant du contrat de travail, comme l'obligation de loyauté ou de discrétion ou celle d'offrir sa prestation de travail. Mais d'autres faits peuvent aussi justifier un congé abrupt (cf. ATF 129 III 380 consid. 2.2 p. 382).
A raison de son obligation de fidélité, le travailleur est tenu de sauvegarder les intérêts légitimes de son employeur (art. 321a al. 1 CO) et, par conséquent, de s'abstenir de tout ce qui peut lui nuire (ATF 124 III 25 consid. 3a p. 27; 117 II 560 consid. 3a p. 561). Cette obligation accessoire générale vaut dans une mesure accrue pour les cadres, eu égard au crédit particulier et à la responsabilité que leur confère leur fonction dans l'entreprise de l'employeur (ATF 130 III 28 consid. 4.1 p. 31; 127 III 86 consid. 2c p. 89).
Les infractions que le travailleur perpètre à l'occasion de son travail, telles qu'un vol commis au préjudice de l'employeur, d'autres collaborateurs ou de clients, constituent des motifs classiques de résiliation immédiate (cf. Streiff/von Kaenel, Arbeitsvertragsrecht, 6e éd. 2006, n° 5 ad art. 337 CO; Staehelin/Vischer, Zürcher Kommentar, n° 22 ad art. 337 CO; cf. également ATF 130 III 28 consid. 4.2 et 4.3). Une résiliation consécutive à la condamnation du travailleur pour une infraction qui n'avait aucun lien avec l'employeur ni avec l'exécution du travail a également été jugée valable; il s'agissait d'un chauffeur-livreur condamné à cinq ans et quatre mois de réclusion pour instigation au meurtre (arrêt de la Chambre d'appel des prud'hommes de Genève du 12 juin 1986, in JAR 1987 p. 207).
Le juge apprécie librement s'il existe de justes motifs (art. 337 al. 3 CO). Il applique les règles du droit et de l'équité (art. 4 CC). A cet effet, il prendra en considération tous les éléments du cas particulier, notamment la position et les responsabilités du travailleur, le type et la durée des rapports contractuels, ainsi que la nature et l'importance des manquements (ATF 130 III 28 consid. 4.1 p. 32; 127 III 351 consid. 4a p. 354). Le Tribunal fédéral ne revoit qu'avec réserve la décision d'équité prise en dernière instance cantonale. Il intervient lorsque celle-ci s'écarte sans raison des règles établies par la doctrine et la jurisprudence en matière de libre appréciation, ou lorsqu'elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou, à l'inverse, lorsqu'elle n'a pas tenu compte d'éléments qui auraient absolument dû être pris en considération; il sanctionnera en outre les décisions rendues en vertu d'un pouvoir d'appréciation lorsqu'elles aboutissent à un résultat manifestement injuste ou à une iniquité choquante (ATF 130 III 28 consid. 4.1 p. 32, 213 consid. 3.1 p. 220).
2.3 La recourante soutient que l'infraction intentionnelle commise à son détriment par l'intimé justifie à elle seule le licenciement immédiat. Certes, une infraction intentionnelle commise dans le cadre de l'activité professionnelle ou à l'encontre de l'employeur, voire une infraction intentionnelle grave en dehors de ce cadre justifieront souvent un licenciement immédiat, mais pas toujours. En cas d'infraction intentionnelle aussi, il faut tenir compte de toutes les circonstances. En l'espèce, l'intimé a bien commis une infraction intentionnelle, mais elle était dirigée contre une chose appartenant à l'employeur et non contre un collaborateur ou client, et le dommage causé n'entraînait pas de conséquences graves allant au-delà des dommages causés à l'appareil. En outre, elle était due, selon les constatations de fait qui lient le Tribunal fédéral (art. 105 al. 1 LTF), à un état d'énervement et de perte de maîtrise et non pas à une intention de nuire à l'employeur. L'autorité cantonale n'a pas abusé de son pouvoir d'appréciation en jugeant qu'un tel acte isolé de la part d'un employé ayant donné satisfaction durant dix ans ne justifiait pas, à lui seul et sans avertissement préalable, un licenciement immédiat, en particulier en l'absence de risque particulier de récidive et d'une fin des relations contractuelles intervenant de toute façon deux mois plus tard.
Pour le surplus, la recourante rediscute certains faits retenus par l'autorité cantonale, spécifiquement les motifs pour lesquels l'intimé a agi et le risque qu'il récidive. Cette critique purement appellatoire ne satisfait pas aux exigences de motivation en la matière.
3. La recourante se plaint ensuite d'une appréciation erronée d'une pièce et d'un témoignage en relation avec l'établissement du nombre de jours de vacances non pris; elle estime qu'ils ne prouvent pas au sens de l'art. 8 CC les prétentions de l'intimé.
La Cour d'appel a pertinemment rappelé dans son arrêt que le fardeau de la preuve était supporté par la recourante: il appartient à l'employeur de prouver le nombre de jours de vacances pris par le travailleur, non pas à ce dernier de prouver les jours de vacances non pris auxquels il avait droit (ATF 128 III 271 consid. 2a/bb); elle a ensuite constaté que la recourante n'avait ni produit des pièces, ni fait citer des témoins susceptibles de contredire le décompte de vacances établi par l'intimé et qu'elle n'avait pas prouvé que celui-ci avait pu bénéficier d'autres jours de vacances que ceux qu'il alléguait avoir pris. La recourante ne critique pas ces constatations de fait. Cela scelle le sort du grief, peu importe la qualité du décompte produit par l'intimé.
4. La recourante se plaint enfin d'une "violation arbitraire de l'art. 128 ch. 3 CO"; elle reproche à la Cour d'appel d'avoir rejeté l'exception de prescription s'agissant de la prétention d'indemnité pour des jours de vacances antérieurs au 13 juillet 2002, soit antérieurs de plus de cinq ans au dépôt de l'action judiciaire.
4.1 Le travailleur a droit à des vacances fixées, sauf convention ou réglementation contraire, par année de service; ce droit consiste en l'octroi de temps libre avec paiement du salaire correspondant à cette période (cf. art. 329a, art. 329c et art. 329d al. 1 CO). Tant que durent les rapports de travail, les vacances ne peuvent pas être remplacées par des prestations en argent ou d'autres avantages (art. 329d al. 2 CO). Une prétention pécuniaire en remplacement de vacances non prises ne peut donc en principe naître qu'à la fin des rapports de travail. Le droit aux vacances se prescrit; s'il est prescrit au moment où les rapports de travail prennent fin, il ne naît aucune prétention pécuniaire de remplacement (cf. ATF 131 III 451 consid. 2.2 et 2.3).
Le droit aux vacances se prescrit séparément pour chaque année de service. Le délai court dès le moment où la créance est devenue exigible (art. 130 al. 1 CO). Le droit aux vacances est exigible à la date des vacances prévues dans le contrat de travail ou fixé par l'employeur (cf. art. 329c al. 2 CO). A défaut, il faut admettre qu'il devient exigible le dernier jour permettant encore de prendre l'entier des vacances durant l'année de service en cours (cf. Streiff/von Kaenel, op. cit., n° 4 ad art. 329c CO p. 432 § 2).
Le Tribunal fédéral a laissé ouverte la question de savoir si le délai de prescription est de cinq ou de dix ans (art. 127 ou art. 128 ch. 3 CO; cf. ATF 130 III 19 consid. 3.2). Aux termes de l'art. 128 ch. 3 CO, les actions des travailleurs pour leurs services ("Forderungen aus dem Arbeitsverhältnis von Arbeitnehmern", "azioni per rapporti di lavoro di lavoratori" dans les versions allemande et italienne du texte) se prescrivent par cinq ans; cette formulation large recouvre le droit aux vacances. Une partie de la doctrine entend toutefois en limiter l'application aux seules créances de salaire ou pécuniaires (cf. Pichonnaz, in Commentaire romand, n° 30 ad art. 128 CO; Rehbinder, Berner Kommentar, n° 30 ad art. 341 CO). Quoi qu'il en soit, le droit aux vacances a un double aspect comprenant le droit au temps libre et le droit au salaire; il se justifie de soumettre l'entier au même délai de prescription. En outre, il est incontesté que l'indemnité pour les vacances non prises se prescrit par cinq ans; il ne s'impose pas de prévoir un délai plus long pour le droit aux vacances que cette indemnité remplace. Dans le message ayant conduit à la révision des art. 329a ss CO, le Conseil fédéral a clairement et sans réserve indiqué que le droit aux vacances était assujetti au délai de prescription de cinq ans de l'art. 128 CO (Message du 27 septembre 1982 concernant l'initiative populaire "pour une extension de la durée des vacances payées" et la révision de la réglementation des vacances dans le code des obligations, FF 1982 III 214 ch. 722.4). Cet avis est largement partagé par la doctrine (cf. Wyler, Droit du travail, 2e éd. 2008, p. 360; Streiff/von Kaenel, op. cit., n° 4 ad art. 329c p. 432 § 2; Aubert, in Commentaire romand, n° 5 ad art. 329c CO; Berti, Zürcher Kommentar, n° 61 ad art. 128 CO; Rehbinder, Schweizerisches Arbeitsrecht, 15e éd. 2002, § 9 n° 245; Guhl/Koller, Das Schweizerische Obligationenrecht, 9e éd. 2000, § 46 n° 116; contra: Koller, Schweizerisches Obligationenrecht, Allgemeiner Teil, 3e éd. 2009, § 68 n° 57; Portmann, in Basler Kommentar, n° 4 ad art. 329c CO). Il y a donc lieu de retenir que le droit aux vacances se prescrit par cinq ans.
4.2 En l'occurrence, la Cour d'appel a retenu un nombre de 36,61 jours de vacances non pris; il s'agit du total figurant sur le décompte présenté par l'intimé. Les jours dus pour les années 2003 à 2006 y sont détaillés; pour les années antérieures, il y est simplement relevé que le solde au 31 décembre 2002 était de 29,5 jours. Il ressort en outre de ce document que l'intimé avait droit à vingt jours de vacances par année. Il n'a pas été constaté que les dates des vacances de l'intimé avaient été fixées pour les années en cause, ni que les parties auraient convenu de calculer les vacances par année civile plutôt que par année de service.
La recourante soutient que la prescription a été interrompue par l'ouverture d'action en juillet 2007; l'intimé ne prétend pas l'avoir fait plus tôt. Celui-ci ayant commencé à travailler un 1er septembre, l'année de service se terminait le 31 août et la prescription des quatre semaines de vacances commençait à courir durant les premiers jours d'août. Il en découle qu'en juillet 2007, la prescription était atteinte pour le droit aux vacances né avant août 2001.
Il ne ressort ni de l'arrêt attaqué, ni du décompte produit par l'intimé combien de jours de vacances celui-ci allègue ne pas avoir pris entre août 2001 et décembre 2002. La cause doit dès lors être renvoyée à la Cour d'appel pour complément d'instruction et nouvelle décision.
5. Comme la valeur litigieuse, calculée selon les prétentions à l'ouverture de l'action (ATF 115 II 30 consid. 5b p. 41), dépasse le seuil de 30'000 fr., le montant de l'émolument judiciaire est fixé selon le tarif ordinaire (art. 65 al. 3 let. b LTF) et non réduit (art. 65 al. 4 let. c LTF); il est arrêté à 2'100 fr.
Le recours est rejeté s'agissant de la condamnation de la recourante à payer 15'708 fr. 35 à titre de salaire ainsi qu'une indemnité pour vacances non prises, et il est admis pour ce qui est de la prescription partielle de cette indemnité. Compte tenu de cette issue, il se justifie de répartir les frais judiciaires à raison de deux tiers à charge de la recourante et d'un tiers à celle de l'intimé (cf. art. 66 al. 1 LTF).
La recourante, qui n'est pas assistée d'un avocat et n'a pas justifié avoir supporté des dépenses particulières pour la défense de ses intérêts (cf. ATF 129 II 297 consid. 5), n'a pas droit à des dépens. Elle versera en revanche à l'intimé une indemnité de 1'600 fr. à titre de dépens réduits (cf. art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis et l'arrêt attaqué est annulé.
2. La cause est renvoyée à la Cour d'appel de la juridiction des prud'hommes pour nouvelle décision.
3. Les frais judiciaires sont mis à la charge de la recourante par 1'400 fr. et à celle de l'intimé par 700 fr.
4. Une indemnité de 1'600 fr., à payer à l'intimé à titre de dépens, est mise à la charge de la recourante.
5. Le présent arrêt est communiqué aux mandataires des parties et à la Cour d'appel de la juridiction des prud'hommes du canton de Genève.
Lausanne, le 3 décembre 2009
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz