Faits: A. Par jugement du 22 février 2011, le Tribunal correctionnel de l'arrondissement de l'Est vaudois a reconnu X._ coupable d'escroquerie par métier et de faux dans les titres. Il lui a infligé une peine de réclusion de trois ans et demi, sous déduction de la détention préventive, précisant que cette peine était complémentaire à celle prononcée le 23 janvier 2008 par le Juge d'instruction du Valais central. En outre, il a révoqué le sursis accordé le 17 mai 2001 à X._ par le Tribunal correctionnel de l'Est vaudois et ordonné l'exécution de la peine de cinq mois d'emprisonnement. Enfin, il s'est prononcé sur les conclusions des parties civiles. B. Statuant le 12 septembre 2011, la Cour d'appel pénale du Tribunal cantonal vaudois a très partiellement admis l'appel formé par X._ en ce sens que le sursis accordé le 17 mai 2001 n'était pas révoqué et que la peine de trois ans et demi était complémentaire à celle infligée le 23 janvier 2008 par le Juge d'instruction du Valais central et partiellement complémentaire à celle infligée le 17 mai 2001 par le Tribunal correctionnel de l'Est vaudois. C. Contre ce dernier jugement, X._ dépose un recours en matière pénale et un recours constitutionnel subsidiaire devant le Tribunal fédéral. Il dénonce une violation du droit d'être entendu au sens de l'art. 3 al. 2 let. c CPP, des art. 343 al. 3 et 389 al. 2 et 3 CPP relatifs à l'administration des preuves et de l'art. 47 CP concernant la fixation de la peine. Il conclut, principalement, à la réforme du jugement attaqué en ce sens qu'il est condamné à une peine n'excédant pas la durée de sa détention préventive et, subsidiairement, à l'annulation du jugement attaqué et au renvoi de la cause devant l'autorité précédente pour complément d'instruction et nouveau jugement. En outre, il sollicite l'assistance judiciaire. Il n'a pas été ordonné d'échange d'écritures.