Faits:
A. Par contrat du 15 janvier 2004, Y._ a été engagé en qualité d'agent auxiliaire par la Société X._ SA, (ci-après: X._) dès le 1er mars 2004. Il était prévu un salaire horaire de 20 fr.73 en cas de "service manifestation" et de 22 fr.85 en cas de "service rayons et service particuliers (sic)". Une majoration de 10% devait être opérée en cas de travail de nuit, le dimanche ou les jours de congé officiels. Quant aux vacances, elles étaient prises en compte par le versement d'un supplément de salaire de 8,33%. Le contrat précisait que l'horaire de travail n'était pas fixe, ni déterminé à l'avance.
Par courrier du 6 mars 2007, le Syndicat interprofessionnel de travailleuses et travailleurs (SIT) est intervenu auprès de X._ pour demander que Y._ soit mis au bénéfice d'un contrat avec rémunération au mois. Cette démarche est restée vaine.
Par lettre du 24 avril 2008, Y._, ayant trouvé un employeur répondant à ses attentes, a résilié le contrat de travail. X._ a accepté cette résiliation par courrier du 29 avril 2008.
B. Alors qu'il était encore employé par X._, Y._ a déposé devant le Tribunal des prud'hommes du canton de Genève une action en paiement, réclamant à son employeur notamment la somme brute de 25'257 fr.65 avec intérêts.
Par jugement du 19 mars 2009, le Tribunal des prud'hommes a condamné la défenderesse à payer au demandeur la somme brute de 9'381 fr.75 avec intérêts à 5% dès le 1er octobre 2006 et la somme nette de 1'455 fr.30; cette autorité a encore pris acte que X._ reconnaissait devoir ce second montant à sa partie adverse.
Y._ a appelé de ce jugement, réclamant la condamnation de la défenderesse à lui payer la somme brute de 21'618 fr.60 avec intérêts à 5% dès le 1er octobre 2006. X._ a formé appel incident, concluant au déboutement de Y._ de toutes ses conclusions et à ce qu'il lui soit donné acte de ce qu'elle reconnaissait devoir à son ancien employé, pour solde de tout compte et de toutes prétentions salariales, un montant de 400 fr.05 brut.
Par arrêt du 10 février 2010, la Cour d'appel de la juridiction des prud'hommes de Genève a réformé le jugement attaqué et condamné la défenderesse à payer au demandeur la somme brute de 14'588 fr.50 avec intérêts à 5% dès le 1er octobre 2006, donnant acte au surplus à X._ de ce qu'elle reconnaissait devoir au demandeur la somme nette de 1'455 fr.30.
Il résulte de cet arrêt que les deux parties et les juridictions cantonales admettent de façon unanime que le contrat de travail d'espèce est soumis aux règles de la Convention collective de travail pour la branche privée de la sécurité du 4 septembre 2003 (ci-après: la convention collective), que le demandeur aurait dû être mis au bénéfice d'un salaire au mois en vertu de cette convention dès le 1er mars 2005 et qu'il a droit à la différence entre les sommes qu'il a effectivement reçues et celles qu'il aurait reçues si son contrat avait été dûment mensualisé pendant la période du 1er mars 2005 au 24 avril 2008. Pour effectuer ce calcul, les deux parties admettent que, pendant la période déterminante (les six mois du 1er août 2004 au 31 janvier 2005), le demandeur avait effectivement travaillé en moyenne pendant 163,21 heures par mois. A la différence du Tribunal des prud'hommes, la Cour d'appel a estimé - ce qui fait l'objet du recours devant le Tribunal fédéral - qu'il fallait augmenter ce nombre d'heures pour tenir compte du travail de nuit et du droit aux vacances.
C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt précité. Invoquant une interprétation erronée de la convention collective, une violation de son droit d'être entendue ainsi que la prohibition de l'arbitraire, la recourante conclut à l'annulation de l'arrêt cantonal, à ce qu'elle ne soit condamnée à payer au demandeur que la somme brute de 1'104 fr.25 avec intérêts à 5% dès le 1er octobre 2006 et à ce qu'il lui soit donné acte de ce qu'elle reconnaît devoir à celui-ci la somme nette de 1'455 fr.30.
L'effet suspensif sollicité par la recourante lui a été refusé par ordonnance présidentielle du 19 avril 2010.
L'intimé propose le rejet du recours dans la mesure où il est recevable.
Considérant en droit:
1. 1.1 Un litige entre un employeur et un travailleur au sujet de prétentions découlant d'une convention collective relève du droit privé (ATF 118 II 528 consid. 2a p. 531; arrêt 4A_300/2007 du 6 mai 2008 consid. 1, non publié in ATF 134 III 399), de sorte que le recours en matière civile est ouvert (art. 72 al. 1 LTF).
En cas de recours contre une décision finale (art. 90 LTF), la valeur litigieuse doit être déterminée sur la base des conclusions restées litigieuses devant l'autorité précédente (art. 51 al. 1 let. a LTF). En l'espèce, il ressort des constatations cantonales que le travailleur réclamait en appel 21'618 fr.60 en capital (cf. art. 51 al. 3 LTF), tandis que l'employeur ne reconnaissait devoir sur cette prétention que 400 fr.05. Il faut donc en déduire - contrairement à ce qui figure dans l'arrêt cantonal - que la valeur litigieuse atteint bien le seuil de 15'000 fr. exigé en matière de droit du travail par l'art. 74 al. 1 let. a LTF.
Interjeté pour le reste par la partie qui a succombé dans ses conclusions libératoires (art. 76 al. 1 LTF) et dirigé contre un arrêt rendu par une autorité cantonale de dernière instance (art. 75 LTF), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours en matière civile peut être interjeté pour violation du droit fédéral (art. 95 let. a LTF), y compris le droit constitutionnel (ATF 135 III 670 consid. 1.4 p. 674; 134 III 379 consid. 1.2 p. 382). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est pas limité par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut donc admettre un recours pour d'autres motifs que ceux qui ont été articulés, ou à l'inverse, rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 135 III 397 consid. 1.4 et l'arrêt cité). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 135 III 397 consid. 1.4). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF; ATF 135 III 397 consid. 1.4 in fine).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les constatations factuelles de l'autorité cantonale ont été établies de façon manifestement inexacte - notion qui correspond à celle d'arbitraire telle que l'entend l'art. 9 Cst. (ATF 135 III 127 consid. 1.5 p. 130, 397 consid. 1.5) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 133 IV 286 consid. 1.4 et 6.2). Le recourant ne peut de toute manière demander une correction de l'état de fait que si celle-ci est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. 2.1 La recourante invoque tout d'abord une violation de son droit d'être entendue, garanti par l'art. 29 al. 2 Cst., sous la forme du droit à une décision motivée.
La jurisprudence a notamment déduit du droit d'être entendu l'obligation pour l'autorité de motiver sa décision, afin que l'administré puisse la comprendre et l'attaquer utilement s'il y a lieu (ATF 129 I 232 consid. 3.2 p. 236 et les arrêts cités). Il suffit cependant que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause; l'autorité n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à ceux qui, sans arbitraire, apparaissent pertinents (ATF 134 I 83 consid. 4.1 p. 88; 133 III 439 consid. 3.3 p. 445; 130 II 530 consid. 4.3 p. 540).
En l'espèce, l'arrêt cantonal, en se référant à la convention collective et à l'une de ses annexes, explique clairement pourquoi les juges sont parvenus à la conclusion que le nombre d'heures effectivement travaillées devait être majoré pour tenir compte du travail de nuit et des vacances. Il n'y a donc aucune trace d'une violation du droit à une décision motivée. Savoir si la motivation présentée est convaincante ou au contraire erronée n'est pas une question qui relève du droit d'être entendu (cf. arrêt 4A_25/2007 du 25 mai 2007, consid. 3.3).
2.2 La recourante se prévaut également du droit à ne pas être traitée arbitrairement par les organes de l'Etat, ancré à l'art. 9 Cst.
Selon la jurisprudence, une décision est arbitraire si elle est manifestement insoutenable, si elle se trouve en contradiction claire avec la situation de fait, si elle viole gravement une norme ou un principe juridique indiscuté, ou encore si elle heurte de manière choquante le sentiment de la justice et de l'équité. Il ne suffit pas qu'une autre solu-tion puisse entrer en considération ou même qu'elle soit préférable; pour qu'une décision soit annulée pour cause d'arbitraire, il faut qu'elle soit insoutenable non seulement dans sa motivation, mais encore dans son résultat (ATF 135 V 2 consid. 1.3 p. 4; 134 I 263 consid. 3.1 p. 265 s.).
La recourante s'en prend à un passage de l'arrêt cantonal où il est dit qu'elle aurait dû convertir spontanément le contrat de l'intimé en un contrat rémunéré au mois et qu'il se justifie, puisqu'elle ne l'a pas fait, d'interpréter en sa défaveur une éventuelle obscurité des dispositions applicables. Comme l'admet l'intimé, cette règle d'interprétation ne trouve aucun point d'appui dans la jurisprudence et on peut effective-ment considérer que ce genre de déduction est insoutenable. Mais si l'on examine l'arrêt dans son ensemble, il apparaît que la cour canto-nale a procédé à une interprétation libre des dispositions applicables et qu'elle n'a éprouvé aucun doute à l'issue de ce processus; autrement dit, elle n'a pas fait état d'obscurité qui l'aurait amenée à appliquer la règle d'interprétation qu'elle avait posée. Ainsi, le passage critiqué ne joue aucun rôle dans la prise de décision. Le grief soulevé est donc impropre à démontrer que la décision attaquée est arbitraire dans son résultat.
Invoquant toujours l'arbitraire, la recourante s'en prend également à la manière dont la convention collective a été comprise. Interpréter des clauses contractuelles ou des dispositions d'une convention collective de travail relève du droit fédéral, dont le respect peut être examiné librement dans un recours en matière civile (art. 95 let. a LTF). La recourante ayant expressément soulevé un tel grief, qui sera examiné ci-dessous, il n'y a nul besoin de s'en saisir sous l'angle de l'arbitraire.
2.3 A titre principal, la recourante se plaint de la manière dont la convention collective a été interprétée. Elle soutient que les heures de travail effectives ne doivent pas être majorées pour tenir compte du travail de nuit et des vacances.
2.3.1 Le litige porte sur l'interprétation d'une convention collective au sens de l'art. 356 CO, dont le champ d'application a été étendu par le Conseil fédéral en vertu de la loi fédérale du 28 septembre 1956 permettant d'étendre le champ d'application de la convention collective de travail (RS 221.215.311).
Sauf disposition contraire de la convention, les clauses relatives à la conclusion, au contenu et à l'extinction des contrats individuels de travail ont, pour la durée de la convention, un effet direct et impératif envers les employeurs et travailleurs qu'elles lient (art. 357 al. 1 CO).
Les clauses qui ont un effet direct et impératif sur les contrats individuels entre les employeurs et employés qu'elles lient sont appelées des clauses normatives (cf. ATF 115 II 251 consid. 4a p. 253; parmi d'autres: Rémy Wyler, Droit du travail, 2e éd. 2008, p. 675). Les dispositions normatives d'une convention collective de travail doivent être interprétées de la même manière qu'une loi (ATF 127 III 318 consid. 2a p. 322).
D'après la jurisprudence, la loi s'interprète en premier lieu selon sa lettre (interprétation littérale). On peut cependant s'écarter de cette interprétation s'il y a des raisons sérieuses de penser que le texte de la loi ne reflète pas la volonté réelle du législateur; de tels motifs peuvent découler des travaux préparatoires, du but et du sens de la disposition, ainsi que de la systématique de la loi. Lorsque plusieurs interprétations sont possibles, il convient de rechercher quelle est la véritable portée de la norme, en la dégageant de tous les éléments à considérer, soit notamment des travaux préparatoires, du but de la règle, de son esprit, ainsi que des valeurs sur lesquelles elle repose ou encore de sa relation avec d'autres dispositions; le Tribunal fédéral ne privilégie aucune méthode d'interprétation, mais s'inspire d'un pluralisme pragmatique (cf. ATF 135 I 198 consid. 2.1 p. 201; 135 II 78 consid. 2.2. p. 81, 243 consid. 4.1 p. 251, 416 consid. 2.2 p. 418; 135 III 20 consid. 4.4 p. 23, 112 consid. 3.3.2 p. 116, 483 consid. 5.1 p. 486; 135 V 153 consid. 4.1 p. 157 s., 249 consid. 4.1 p. 252).
Dans le domaine de l'interprétation des dispositions normatives d'une convention collective, il ne faut pas exagérer la distinction entre les règles sur l'interprétation des lois et les règles sur l'interprétation des contrats; la volonté des cocontractants et ce que l'on peut comprendre selon le principe de la bonne foi constituent également des moyens d'interprétation (ATF 133 III 213 consid. 5.2 p. 218).
2.3.2 En l'espèce, les parties sont en litige sur le contenu de la convention collective. Selon la recourante, l'arrêté du Conseil fédéral du 30 août 2007 avec entrée en vigueur le 1er octobre 2007 a modifié l'art. 2 al. 4 let. b de la convention en ce sens que le collaborateur doit être "transféré à une rétribution au mois équivalant au moins au taux d'occupation exercé jusque-là". L'intimé soutient que ce membre de phrase est apparu pour la première fois dans l'arrêté d'extension du Conseil fédéral du 30 juin 2008, soit postérieurement à la période déterminante.
Lorsque les dispositions d'une convention collective de travail ont un effet direct sur les relations individuelles, il est important qu'elles puissent être connues de tous avec certitude. On sait que ces dispositions, en fonction des négociations entre les partenaires sociaux, sont fréquemment modifiées, ce qui pose déjà des problèmes de droit transitoire. La difficulté est encore plus grande s'il devient difficile de déterminer le texte en vigueur à chaque période. En l'espèce, les parties divergent sur le contenu de la convention collective dont le champ d'application a été étendu, par arrêté du Conseil fédéral du 30 août 2007, avec effet dès le 1er octobre 2007. Il est regrettable que la publication à la Feuille fédérale (FF 2007 p. 6093) soit à ce point laconique que l'on ne puisse pas saisir d'emblée quel est le contenu de la modification au point que les avocats des parties divergent sur le contenu de celle-ci.
La version complète de l'arrêté du Conseil fédéral, que l'on trouve en partant du site www.seco.admin.ch, montre, que dès le 1er octobre 2007, l'art. 2 al. 4 let. b de la convention collective contenait effectivement la phrase: "il est transféré à une rétribution au mois équivalant au moins au taux d'occupation exercé jusque-là". C'est donc la recourante qui a raison sur ce point.
La phrase litigieuse ne modifie cependant rien à la question posée. L'art. 2 al. 4 let. b de la convention collective prévoit que lorsqu'un collaborateur a travaillé plus de 150 heures par mois en moyenne au cours des six derniers mois dans les secteurs qui sont précisés, il est transféré à une rétribution au mois équivalant au moins au taux d'occupation exercé jusque-là. Il n'est cependant pas précisé ce qu'il faut entendre par "taux d'occupation exercé jusque-là". La phrase invoquée laisse entièrement ouverte la question de la détermination du taux d'occupation.
2.3.3 La cour cantonale a estimé qu'il fallait augmenter le nombre des heures de travail effectif pour tenir compte du travail de nuit. Elle s'est référée à l'art. 9 ch. 3 de la convention collective ainsi qu'à son annexe 2, documents qui tous deux prévoient qu'en compensation du travail de nuit, du travail du dimanche et des jours fériés officiels, une majoration de temps de 6 minutes par heure (soit 10%) est accordée. Dans les deux cas il est ajouté que "cette majoration de temps est prise en compte dans le calcul de la durée du travail".
Selon le sens usuel des mots, ces textes sont clairs. Il n'est pas question d'une majoration de salaire, mais bien d'une augmentation de la durée de travail déterminante, pour compenser le fait que le travail est effectué de nuit, un dimanche ou un jour férié officiel.
L'interprétation de la cour cantonale est conforme au contexte général de la convention collective et la recourante ne peut citer aucune disposition qui irait en sens inverse.
D'un point de vue téléologique, il est clair que le travail de nuit (ou un dimanche ou jour férié) est plus pénible, parce qu'il suppose une adaptation du mode de vie et une renonciation à passer son temps libre en même temps que les autres; que cela soit compensé en considérant que 60 minutes de travail effectif valent 66 minutes est parfaitement compréhensible. L'argumentation un peu prolixe de la recourante n'y change rien.
On ne voit donc pas que la cour cantonale ait violé, sur ce point, les règles sur l'interprétation des conventions collectives.
2.3.4 La recourante soutient que le chiffre de 163,21 heures par mois contenait déjà cette majoration.
Il ressort cependant de l'arrêt attaqué que la cour cantonale a admis que le chiffre de 163,21 heures par mois correspondait aux heures effectivement travaillées.
Il s'agit là d'une question de fait, qui lie le Tribunal fédéral (art. 105 al. 1 LTF). Or, à moins de résulter de la décision de l'autorité précédente, des faits nouveaux ne peuvent pas être présentés devant le Tribunal fédéral (art. 99 al. 1 LTF). Dès lors que la recourante ne tente même pas de démontrer que la constatation cantonale reposerait sur une appréciation arbitraire des preuves (art. 97 al. 1 et 105 al. 2 LTF), il n'y a pas lieu de s'écarter de cette constatation.
2.3.5 La recourante conteste également la majoration du temps de travail pour tenir compte des vacances dues.
Pour permettre au travailleur de prendre du repos sans en être dissuadé par la perte de salaire, l'art. 329d al. 1 CO prévoit que le travailleur a droit à son salaire pendant les vacances qui lui sont dues. Il s'agit d'une règle relativement impérative à laquelle il ne peut pas être dérogé au détriment du travailleur, même par une convention collective (art. 362 al. 1 CO).
La jurisprudence en a déduit que le travailleur ne doit pas être traité différemment, du point de vue salarial, lorsqu'il est en vacances que s'il travaillait (ATF 132 III 172 consid. 3.1 p. 174; 129 III 493 consid. 3.1, 664 consid. 7.3). Pour la période de vacances dues, le travailleur doit recevoir autant que ce qu'il aurait obtenu s'il avait travaillé pendant cette période (ATF 134 III 399 consid. 3.2.4.2 p. 402).
Un travailleur payé à l'heure avec un horaire irrégulier et incertain peut être enclin à ne pas prendre de vacances. Cette situation ne supprime cependant pas son droit à des vacances payées, de sorte qu'une compensation adéquate doit lui être procurée.
Il est vrai que le contrat prévoit - selon les constatations cantonales - une majoration du salaire pour tenir compte des vacances, et non pas une majoration du temps de travail induisant une augmentation du salaire. Cette distinction est toutefois sans importance. Il s'agit en effet de comparer la situation d'un travailleur rémunéré au mois à celle d'un travailleur payé à l'heure. Il est clair qu'un travailleur payé au mois prendrait un temps de vacances qui, du point de vue salarial, serait assimilé à un temps de travail. Pour opérer la comparaison, il est logique d'ajouter au temps de travail effectif de la personne engagée à l'heure le temps de vacances qu'elle aurait pu prendre.
La recourante ne peut citer aucune disposition qui, selon une interprétation littérale ou contextuelle, aboutirait à une solution différente. Elle se réfère abondamment à l'art. 9 ch. 2 de la convention collective, mais cette disposition parle de "la durée annuelle du travail" sans rien préciser quant au contenu de cette notion. En revanche, le texte qui précède immédiatement cette clause, à savoir l'art. 9 ch. 1 de la convention, explique très clairement que "la durée annuelle du travail comprend les heures au cours desquelles un travail est effectivement fourni, de même que les pauses payées et les vacances". Les vacances entrent donc dans la notion de "durée annuelle du travail".
En jouant sur la distinction entre la majoration du salaire et la majoration du temps de travail, la recourante soutient que l'interprétation de la Cour d'appel ne serait pas satisfaisante d'un point de vue téléologique, parce que le travailleur bénéficierait deux fois d'un avantage, à savoir une majoration de salaire, d'une part, et une majoration du temps de travail, d'autre part. Cette manière de présenter la situation est pourtant trompeuse. Lorsqu'il a été payé à l'heure, l'intimé a bénéficié effectivement d'une majoration de salaire pour tenir compte des vacances; dans le calcul de la cour cantonale, l'entier de ce qu'il a reçu de son employeur est imputé sur la somme qu'il peut réclamer, de sorte qu'il ne reçoit pas cette majoration deux fois. Ce n'est que pour calculer le temps de travail équivalent et fixer ainsi le salaire au mois auquel il aurait pu prétendre que la cour cantonale a tenu compte, raisonnablement, du temps de vacances que l'employé aurait pu prendre, de manière à déterminer un temps de travail à l'heure qui corresponde à un temps de travail au mois.
Au vu de ce qui précède, le recours est privé de fondement, d'où son rejet.
3. Les frais judiciaires et les dépens sont mis à la charge de la recourante qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante.
3. La recourante versera à l'intimé une indemnité de 2'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Cour d'appel de la juridiction des prud'hommes du canton de Genève.
Lausanne, le 31 mai 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Ramelet