Faits: A. A.a Dame A._, née en 1969 à Versoix (Genève), de nationalité allemande, et A._, né en 1965 à Taurisano (Lecce/Italie), de nationalité italienne, se sont mariés le 5 décembre 1996 à Aire-la-Ville (Genève). De cette union est issu B._, né le 25 décembre 1996. Les époux, qui s'étaient rencontrés en 1990, se sont séparés le 28 mai 2006, date à laquelle A._ a quitté le domicile conjugal. A.b Dame A._ a été victime d'un accident de la circulation (fractures de deux vertèbres cervicales) en 1989, soit avant de rencontrer son futur époux. Elle n'a plus travaillé depuis lors et perçoit une rente complète de l'assurance invalidité de 3'190 fr. par mois, soit 2'280 fr. pour elle et 910 fr. pour l'enfant, et une rente partielle (25%) de la SUVA de 960 fr. 80 par mois. La rente LAA était entièrement saisie pour des poursuites antérieures à 2010 et dame A._ a fait l'objet de nouvelles poursuites pour un montant d'environ 10'000 fr. en 2010. Les charges mensuelles de dame A._ ont été arrêtées à 3'100 fr., celles de l'enfant à 1'145 fr. A.c A._ est employé de X._ et réalise à ce titre un revenu net de 5'875 fr. versé treize fois l'an, soit 6'364 fr. net calculé sur douze mois. Depuis le mois de mars 2010, il a fait l'objet d'une saisie de salaire de 1'100 fr. par mois, ainsi que de toute somme lui revenant au titre de prime, gratification ou treizième salaire, en recouvrement d'arriérés de contributions alimentaires d'un montant de 24'005 fr. 60 pour la période comprise entre juin 2006 et mars 2008. Ces arriérés de contributions d'entretien devaient être entièrement recouvrés à la fin de l'année 2011. Ses charges mensuelles ont été arrêtées à 4'202 fr. B. Sur mesures protectrices de l'union conjugale prononcées le 17 juillet 2007, le Tribunal de première instance du canton de Genève (ci-après le Tribunal de première instance) a, entre autres, condamné A._ à contribuer à l'entretien de sa famille à concurrence de 1'450 fr. par mois, allocations familiales non comprises. Suite à l'appel interjeté par l'épouse contre cette décision, le montant de la contribution d'entretien a été porté à 2'050 fr. par mois par arrêt de la Cour de justice du canton de Genève du 3 mars 2008 (ci-après la Cour de justice). C. C.a Le 27 octobre 2008, A._ a formé une demande unilatérale en divorce, avec requête de mesures provisoires, offrant de verser, sur mesures provisoires et sur le fond, une contribution à l'entretien de son fils de 850 fr. par mois, allocations familiales non comprises. Dame A._ a conclu au rejet de la requête de mesures provisoires et, sur le fond, à ce que son époux soit condamné à contribuer à l'entretien de son fils à hauteur de 960 fr. jusqu'à ce que ce dernier ait atteint l'âge de quinze ans, puis de 1'160 fr. jusqu'à sa majorité, voire au-delà mais jusqu'à vingt-cinq ans au plus tard en cas de formation professionnelle ou d'études régulièrement suivies. Elle a en outre conclu à ce qu'une contribution après divorce mensuelle de 1'090 fr. lui soit allouée sans limite dans le temps. C.b Statuant le 23 mars 2009 sur mesures provisoires, le Tribunal de première instance a ramené la contribution à l'entretien de la famille à 1'500 fr. par mois, montant confirmé par arrêt de la Cour de justice rendu le 3 septembre 2009, suite à l'appel interjeté par dame A._. C.c Par jugement du 20 décembre 2010, le Tribunal de première instance a notamment prononcé le divorce des époux A._ (ch. 1), refusé d'allouer une contribution d'entretien après divorce à dame A._ (ch. 12) et fixé celle en faveur de l'enfant, par mois et d'avance, allocations familiales non comprises, à 750 fr. jusqu'à ce qu'il ait atteint l'âge de quinze ans, puis à 1'200 fr. à partir du 1er janvier 2012 et jusqu'à sa majorité, montant qui devait être adapté à l'indice genevois des prix à la consommation dans la mesure de l'adaptation correspondante des revenus du débirentier (ch. 6). Statuant le 23 septembre 2011 sur appel interjeté par dame A._, la Cour de justice a notamment confirmé, par arrêt rendu le 23 septembre 2011 et reçu par les parties le 30 septembre 2011, le chiffre 6 du jugement entrepris, précisant toutefois que la contribution à l'entretien de B._ était due jusqu'à sa majorité, voire au-delà, mais jusqu'à vingt-cinq ans au plus tard, en cas d'études ou de formation professionnelle sérieuses et suivies. Elle a en outre annulé le chiffre 12 dudit jugement et condamné A._ à contribuer à l'entretien après divorce de son ex-épouse à hauteur de 350 fr. mensuels jusqu'au 1er novembre 2030, date probable de l'entrée à la retraite du mari, montant indexé à l'indice genevois des prix à la consommation dans la mesure où les revenus du débirentier le seraient également. L'arrêt a été reçu par les parties le 30 septembre 2011. D. Le 31 octobre 2011, A._ exerce un recours en matière civile devant le Tribunal fédéral. Il conclut principalement à l'annulation de l'arrêt entrepris en tant qu'il le condamne à verser à son ex-épouse, à titre de contribution d'entretien, la somme de 350 fr. par mois et d'avance jusqu'au 1er novembre 2030, montant indexé à l'indice genevois des prix à la consommation. A l'appui de ses conclusions, le recourant invoque la violation de l'interdiction de l'arbitraire dans l'établissement des faits et soutient que l'autorité précédente aurait abusé de son pouvoir d'appréciation dans l'application des art. 125 et 129 CC. Invitées à se déterminer sur le recours, l'épouse a conclu à son rejet et l'autorité cantonale a renvoyé aux considérants de son arrêt. L'épouse sollicite en outre l'octroi de l'assistance judiciaire. E. La requête d'effet suspensif formée par le recourant a été rejetée par ordonnance présidentielle du 16 novembre 2011.