Faits:
A. Par jugement du 4 février 2008, le Tribunal de police de Genève a condamné X._ pour tentative d'escroquerie à une peine de neuf mois d'emprisonnement, sous déduction de sa détention avant jugement. En outre, il a ordonné sa réintégration pour le solde de la peine prononcée le 20 mars 2003 par le Tribunal supérieur du canton de Berne.
Il a condamné son comparse, Y._, pour tentative d'escroquerie, à une peine privative de liberté de trois mois avec sursis pendant trois ans.
B. Par arrêt du 31 juillet 2008, la Chambre pénale de la Cour de justice du canton de Genève a admis l'appel déposé par X._ et réformé le jugement attaqué, en ce sens qu'il a ramené la peine privative de liberté à une peine d'ensemble de douze mois (art. 89 al. 6 CP), réduisant par la même le solde de la peine prononcée le 20 mars 2003 par le Tribunal supérieur du canton de Berne.
En résumé, cet arrêt retient les éléments suivants:
En 2006, à Genève, X._ a ouvert des courriers adressés à la société Z._, dans lesquels il a trouvé plusieurs chèques. Il a falsifié l'un d'eux par grattage, modifiant le montant (porté à 82'030 francs), le nom du bénéficiaire (le nouveau bénéficiaire étant Y._), ainsi que le lieu, la date d'établissement et le numéro du chèque. Il a remis le document falsifié à Y._ pour qu'il l'encaisse auprès de l'UBS. Les deux comparses avaient convenu que Y._ devrait remettre 30'000 francs à X._ et qu'il garderait le solde. Le 2 juin 2006, celui-ci a envoyé le chèque falsifié à l'UBS en vue de son encaissement. La banque s'est cependant rendue compte de la supercherie et n'a pas honoré le chèque.
X._ a toujours contesté les faits, niant avoir pris ou remis le chèque falsifié. Y._ a admis les faits, déclarant dans un premier temps avoir reçu le chèque, déjà falsifié, d'un Africain, qu'il a admis par la suite être X._, avec lequel il avait été en détention à Witzwil.
C. Contre cet arrêt, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il se plaint de l'établissement manifestement inexact des faits (art. 97 al. 1 LTF). Il dénonce, en outre, la violation de l'art. 47 CP (fixation de la peine), de l'art. 42 CP (sursis à l'exécution de la peine) et de l'art. 89 al. 2 (échec de la mise à l'épreuve en cas de libération conditionnelle). Il conclut, principalement, à son acquittement du chef de tentative d'escroquerie et, subsidiairement, au prononcé d'une peine équitable, à l'octroi du sursis et à la renonciation de la réintégration. En outre, il sollicite l'octroi de l'assistance judiciaire et l'effet suspensif.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. 1.1 Le recours en matière pénale peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente. Il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p. 140). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui. Il ne peut pas entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal si le grief n'a pas été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.2 Saisi d'un recours en matière pénale, le Tribunal fédéral ne réexamine l'établissement des faits - sous réserve de l'allégation d'une violation du droit au sens de l'art. 95 LTF - que lorsqu'il est entaché d'inexactitude manifeste (art. 97 al. 1 LTF), à savoir d'arbitraire (<ref-ruling>, consid. 1.4.1). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 6 p. 397).
Une décision est arbitraire lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou encore heurte de manière choquante le sentiment de la justice et de l'équité. Il ne suffit pas que sa motivation soit insoutenable; encore faut-il que la décision apparaisse arbitraire dans son résultat. A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motif objectif ou en violation d'un droit certain. Il n'y a pas arbitraire du seul fait qu'une autre solution paraît également concevable, voire même préférable (<ref-ruling> consid. 3.1 p. 153 et les arrêts cités). En matière d'appréciation des preuves et d'établissement des faits, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.1 p. 9).
2. Contestant avoir participé à l'escroquerie, le recourant se plaint de l'établissement des faits, qu'il qualifie d'arbitraire.
La cour cantonale a admis la culpabilité du recourant sur la base de deux éléments: la déposition de son coaccusé Y._ (consid. 2.1) et les déclarations faites par le recourant dans son audition du 18 mai 2007 (consid. 2.2).
2.1 En premier lieu, la conviction de la cour cantonale repose sur les dépositions du coaccusé Y._.
A ce sujet, il convient de rappeler que les dépositions des coïnculpés, notamment les aveux faits en cours d'instruction, sont des preuves recevables au même titre que les témoignages ou les déclarations des parties. Comme, dans ce cas, le danger d'une fausse déposition est important, l'accusé doit toutefois avoir l'occasion d'interroger ou de faire interroger le coaccusé qui le met en cause (NIKLAUS OBERHOLZER, Grundzüge des Strafprozessrechts, 2e éd., Berne 2005, p. 371, n. 849), possibilité qui a été donnée au recourant à plusieurs reprises.
Selon le recourant, Y._ ne s'est pas montré cohérent dans ses déclarations. Certes, dans le cours de l'instruction, celui-ci a modifié quelque peu sa version des faits. Mais, contrairement à ce que soutient le recourant, l'attitude de Y._ est toutefois plutôt de nature à prouver la véracité de ses déclarations. Dans un premier temps en effet, il s'est montré vague sur l'identité du recourant et sur les liens qui l'unissait à lui, puis, face à la photo du recourant, il a dû reconnaître qu'il s'agissait de X._ qu'il avait connu en prison. Depuis lors, il n'a pas modifié sa version des faits. Par ailleurs, la cour de céans ne voit aucune contradiction concernant le lieu où le chèque aurait été remis: une fois, Y._ a déclaré avoir connu le recourant dans un bar à Bâle (PV du 2 mars 2007); une autre fois, il a exposé avoir fixé un rendez-vous dans un restaurant à Bâle avec le recourant, puis l'avoir revu deux ou trois fois (PV du 12 mars 2007); enfin, il a expliqué avoir reçu le chèque dans un appartement (PV du 4 juin 2007).
2.2 La conviction de la cour cantonale a été renforcée par les déclarations du recourant lors de l'audience d'instruction du 18 mai 2007.
Selon le procès-verbal d'audition, le recourant a ainsi déclaré: « Je pense qu'il y a 5 ou 6 chèques », puis « Selon moi, il y a 6 ou 7 chèques ». Ces déclarations sont lapidaires et leur sens n'est pas clair. L'interprétation donnée par la cour cantonale, selon laquelle ces déclarations corroboreraient la déposition de l'administrateur de la société qui indiquait que plusieurs chèques avaient été volés, est toutefois tout à fait soutenable, de sorte que l'on ne saurait lui reprocher d'avoir fait preuve d'arbitraire.
2.3 Au vu de ce qui précède, la cour cantonale n'est pas tombée dans l'arbitraire en retenant que le recourant avait remis le chèque falsifié à Y._ pour qu'il l'encaisse auprès de l'UBS. Mal fondé, le grief soulevé doit être rejeté.
3. Le recourant se plaint de la sévérité de la peine qui lui a été infligée.
3.1 Selon l'art. 47 CP, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
Le Tribunal fédéral examine librement s'il y a eu violation du droit fédéral. Mais il ne peut admettre un recours en matière pénale sur la mesure de la peine, compte tenu du pouvoir d'appréciation reconnu en cette matière à l'autorité cantonale, que si la sanction a été fixée en dehors du cadre légal, si elle est fondée sur des critères étrangers à l'art. 47 CP, si les éléments d'appréciation prévus par cette disposition n'ont pas été pris en compte ou enfin si la peine apparaît exagérément sévère ou clémente au point que l'on doive parler d'un abus du pouvoir d'appréciation (<ref-ruling> consid. 6.1 p. 21).
3.2 Le recourant reproche à la cour cantonale de ne pas avoir tenu compte des problèmes de santé de sa compagne, qui ne pourrait pas remplir les tâches quotidiennes sans son aide. Il serait donc le seul à pouvoir assumer l'éducation de ses enfants et veiller en même temps à la santé de sa compagne.
Il est inévitable qu'une peine privative de liberté d'une certaine durée ait des répercussions sur les membres de la famille du condamné. Cette conséquence ne peut cependant conduire à une réduction de la peine qu'en cas de circonstances extraordinaires (WIPRÄCHTIGER, Basler Kommentar, Strafrecht I, 2e éd., 2007, Art. 47, n. 118).
En l'espèce, on ne saurait reprocher à la cour cantonale d'avoir méconnu la situation familiale du recourant. Elle a retenu que celui-ci avait trois enfants en bas âges et que son épouse était à l'AI (arrêt attaqué p. 4). Au moment de fixer la peine d'ensemble à douze mois, elle a ajouté qu'il s'agissait de « ne pas mettre en péril l'avenir de l'appelant, qui s'occupe principalement de l'entretien de ses enfants » (arrêt attaqué p. 8 in fine). Mal fondé, le grief soulevé doit être rejeté.
3.3 Le recourant soutient n'avoir participé à l'escroquerie qu'en qualité de complice, ce qui devrait entraîner une atténuation obligatoire de la peine au sens de l'art. 25 CP.
Alors que le complice se borne à prêter assistance (art. 25 CP), le coauteur collabore, intentionnellement et de manière déterminante, avec d'autres personnes à la décision de commettre une infraction, à son organisation ou à son exécution, au point d'apparaître comme l'un des participants principaux (<ref-ruling> consid. 3a p. 136 ).
En l'espèce, le recourant a joué un rôle essentiel dans l'exécution de l'infraction, puisque c'est lui qui a volé les chèques et les a remis falsifiés en vue de leur encaissement. C'est donc à juste titre que la cour cantonale l'a condamné comme coauteur et qu'elle n'a pas atténué la peine en application de l'art. 25 CP. Infondé, le grief soulevé doit être rejeté.
3.4 Condamné pour tentative d'escroquerie (art. 22 CP), le recourant reproche à la cour cantonale de ne pas avoir motivé les raisons qui l'ont conduite à renoncer à atténuer la peine en application de l'art. 22 al. 1 CP.
Selon l'art. 22 CP, le juge peut atténuer la peine si l'exécution d'un crime ou d'un délit n'est pas poursuivie jusqu'à son terme ou que le résultat nécessaire à la consommation de l'infraction ne se produit pas ou ne pouvait pas se produire. Dans ce cas, ce sont des circonstances extérieures qui viennent faire échec à la consommation de l'infraction, de sorte que l'atténuation de la peine n'est que facultative. Toutefois, selon la jurisprudence, si le juge n'a pas l'obligation de sortir du cadre légal, il devrait tenir compte de cette circonstance atténuante en application de l'art. 47 CP, la mesure de l'atténuation dépendant de la proximité du résultat et des conséquences effectives des actes commis (<ref-ruling> consid. 1b p. 54/55; WIPRÄCHTIGER, op. cit., Art. 48a, N 15). .
En l'espèce, la cour cantonale n'a pas méconnu cette circonstance atténuante, mais en a relativisé la portée, considérant que l'escroquerie avait échoué grâce à la vigilance de la banque (arrêt attaqué p. 7), soit alors que le recourant avait posé tous les actes nécessaires à la réalisation de l'infraction. Mal fondé, le grief soulevé doit être rejeté.
3.5 Le recourant fait encore valoir qu'il n'a commis aucune infraction du début de l'instruction jusqu'à aujourd'hui.
Cet élément n'est toutefois pas pertinent pour fixer la peine, dès lors qu'un comportement conforme au droit correspond à ce que l'on doit pouvoir attendre de tout un chacun. Infondé, le grief soulevé doit être écarté.
3.6 Le recourant ne cite en définitive aucun élément important, propre à justifier une modification de la peine, qui aurait été omis ou pris en considération à tort. Reste à examiner si, au vu des circonstances, la peine infligée apparaît exagérément sévère au point de constituer un abus du pouvoir d'appréciation.
En l'espèce, le recourant a mis sur pied une escroquerie portant sur un montant de plus de 80'000 francs. Alors qu'il avait un emploi, il a recherché, dans un but égoïste, un avantage patrimonial indu. Pour diminuer les risques, il s'est associé un tiers, n'hésitant pas à entraîner celui-ci dans la délinquance. Dans ces circonstances, la faute du recourant ne peut être qualifiée de légère.
Par ailleurs, il a déjà de lourds antécédents judiciaires et pendant toute l'enquête, il a eu une attitude de déni. A sa décharge, il faut prendre en considération sa situation familiale et le fait que l'escroquerie n'a pas abouti. La peine d'ensemble de douze mois n'apparaît dès lors pas sévère à un point tel qu'il faille conclure à un abus du large pouvoir d'appréciation accordé à la cour cantonale. Mal fondé, le grief de violation de l'art. 47 CP doit être rejeté.
4. Le recourant, qui s'était vu accorder la libération conditionnelle le 26 juin 2005 avec un délai d'épreuve de deux ans, conteste la décision de réintégration (art. 89 al. 1, 2 et 6 CP), qu'il juge disproportionnée.
L'art. 89 al. 1 CP prévoit que, si durant le délai d'épreuve, le détenu libéré conditionnellement commet un crime ou un délit, le juge qui connaît de la nouvelle infraction ordonne sa réintégration dans l'établissement. Il peut toutefois y renoncer s'il n'y a pas lieu de craindre que le condamné ne commette de nouvelles infractions (art. 89 al. 2 CP).
En l'espèce, le recourant a commis un crime durant le délai d'épreuve. Vu les multiples récidives qu'il a déjà commises, la cour cantonale n'a pas violé le droit fédéral en excluant tout pronostic favorable et en ordonnant la réintégration. Mal fondé, le grief soulevé doit être rejeté.
5. Le recourant sollicite l'octroi du sursis (art. 42 CP).
Selon l'art. 42 al. 2 CP, il ne peut y avoir de sursis à l'exécution de la peine qu'en cas de circonstances particulièrement favorables lorsque, durant les cinq ans qui précèdent l'infraction, l'auteur a été condamné à une peine privative de liberté ferme ou avec sursis de six mois au moins ou à une peine pécuniaire de 180 jours-amende au moins.
En l'espèce, le recourant a été condamné à une peine privative de liberté de plus de six mois dans les cinq ans précédant l'escroquerie qui fait l'objet de la présente procédure. Comme il n'existe pas de circonstances particulièrement favorables - le recourant ne le prétend d'ailleurs pas -, c'est à juste titre que la cour cantonale a refusé d'octroyer le sursis. Mal fondé, le grief tiré de la violation de l'art. 42 CP doit être rejeté.
6. Ainsi, le recours doit être rejeté.
Comme ses conclusions étaient d'emblée vouées à l'échec, le recourant doit être débouté de sa demande d'assistance judiciaire (art. 64 al. 1 et 2 LTF) et supporter les frais de justice (art. 65 et 66 al. 1 LTF), réduits à 800 fr. compte tenu de sa situation financière actuelle.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 800 francs, sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre pénale.
Lausanne, le 22 octobre 2008
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Schneider Kistler Vianin