Faits:
A. X._ a été astreint, par mesures provisoires, à verser une pension mensuelle de 750 fr., allocations familiales non comprises, afin de contribuer à l'entretien de sa famille. Entre le 16 décembre 2003 et le mois de mars 2009, il n'a procédé à aucun versement.
Par jugement du 17 décembre 2010, le Tribunal de police de l'arrondissement de Lausanne l'a condamné, pour violation d'une obligation d'entretien, à la peine de cent-soixante jours-amende, à 40 fr. le jour, avec sursis pendant quatre ans, le sursis étant subordonné à l'obligation de s'acquitter régulièrement et ponctuellement de l'obligation d'entretien mise à sa charge.
B. Par arrêt du 17 janvier 2011, la Cour de cassation pénale du Tribunal cantonal vaudois a rejeté le recours de X._.
C. Par arrêt 6B_264/2011 du 19 juillet 2011, le Tribunal fédéral a admis le recours formé par ce dernier, annulé l'arrêt du 17 janvier 2011 et renvoyé la cause à l'autorité cantonale pour nouvelle décision. Il a notamment estimé que cette autorité avait retenu à tort dans les revenus à disposition pour satisfaire l'obligation d'entretien les impôts perçus à la source. Le Tribunal fédéral a également reproché à l'autorité cantonale de n'avoir pas établi les charges admissibles qui, déduites du revenu retenu, auraient permis de vérifier s'il existait un disponible durant la période litigieuse et partant si X._ avait la capacité de fournir la contribution demandée.
D. Par arrêt du 26 septembre 2011, la Cour de cassation pénale du canton de Vaud a rejeté le recours formé contre le jugement du 17 décembre 2010 et confirmé celui-ci.
E. X._ forme un recours en matière pénale contre cet arrêt. Il conclut à son acquittement, subsidiairement à la réduction de la peine et du jour-amende à 5 fr. et à l'annulation de la condition assortissant le sursis. Plus subsidiairement encore, il requiert l'annulation de l'arrêt et le renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants. Il sollicite également l'assistance judiciaire.
Aucun échange d'écritures n'a été ordonné.

Considérant en droit:
1. Le recourant invoque une fausse application de l'<ref-law>. A l'appui de ce grief, il conteste les revenus et charges retenus par l'autorité précédente pour fixer sa capacité contributive entre décembre 2003 et mars 2008.
1.1 L'<ref-law> punit, sur plainte, celui qui n'aura pas fourni les aliments ou les subsides qu'il doit en vertu du droit de la famille, quoi qu'il en eût les moyens ou pût les avoir.
1.1.1 D'un point de vue objectif, l'obligation d'entretien est violée lorsque le débiteur ne fournit pas intégralement, à temps et à disposition de la personne habilitée à la recevoir, la prestation d'entretien qu'il doit en vertu du droit de la famille (BERNARD CORBOZ, Les infractions en droit suisse, 3e éd. 2010, n. 14 ad <ref-law>). En revanche, on ne peut reprocher à l'auteur d'avoir violé son obligation d'entretien que s'il avait les moyens de la remplir ou aurait pu les avoir (CORBOZ, op. cit., n. 20 ad <ref-law>). Par là, on entend celui qui, d'une part, ne dispose certes pas de moyens suffisants pour s'acquitter de son obligation, mais qui, d'autre part, ne saisit pas les occasions de gain qui lui sont offertes et qu'il pourrait accepter (<ref-ruling> consid. 3a; Message du 26 juin 1985 concernant la modification du code pénal et du code pénal militaire, FF 1985 II 1070). La capacité économique du débiteur de verser la contribution d'entretien se détermine par analogie avec le droit des poursuites relatif au minimum vital (<ref-law>; <ref-ruling> consid. 3c p. 277).
1.1.2 Le juge pénal est lié par la contribution d'entretien fixée par le juge civil (<ref-ruling>; arrêt 6B_264/2011 du 19 juillet 2011 consid. 2.1.3). En revanche, la question de savoir quelles sont les ressources qu'aurait pu avoir le débiteur d'entretien doit être tranchée par le juge pénal s'agissant d'une condition objective de punissabilité au regard de l'<ref-law>. Il peut certes se référer à des éléments pris en compte par le juge civil. Il doit cependant concrètement établir la situation financière du débiteur, respectivement celle qui aurait pu être la sienne en faisant les efforts pouvant raisonnablement être exigés de lui.
1.1.3 Déterminer quelles sont les ressources qu'aurait pu avoir le débiteur d'entretien relève de l'appréciation des preuves et de l'établissement des faits (arrêt 6B_264/2011 du 19 juillet 2011 consid. 2.1.3).
1.2 Dans le recours en matière pénale, les faits constatés par l'autorité précédente lient le Tribunal fédéral (<ref-law>), à moins qu'ils n'aient été établis en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit essentiellement de façon arbitraire au sens de l'art. 9 Cst. (cf. <ref-ruling> consid. 4.1.2 p. 62; sur la notion d'arbitraire, v. <ref-ruling> consid. 2.4 p. 5).
1.3 Conformément à l'<ref-law>, le Tribunal fédéral n'entre en matière sur les moyens fondés sur la violation de droits fondamentaux que s'ils ont été invoqués et motivés de manière précise. L'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits violés et préciser en quoi consiste la violation (<ref-ruling> consid. 2.8 p. 494). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 4.2.3 p. 5).
1.4 Le recourant estime que l'autorité précédente a appliqué un taux de change erroné - en l'espèce de 2,5 francs suisses pour une livre sterling -, sans tenir compte du taux de change effectif pour chaque année litigieuse, pour établir le salaire hypothétique déterminant pour décider de sa capacité contributive.
Le taux de conversion des monnaies est un fait notoire, qui ne doit être ni allégué ni prouvé (<ref-ruling> consid. 4.1 p. 90). Entre le 1er décembre 2003 et le 31 mars 2008, le cours de la livre sterling - francs suisses était certes inférieur, pris mois par mois, à 2,5. Il était toutefois toujours supérieur à 2 (cf. http://www.fxtop.com donnant les taux officiels diffusés par la Banque centrale européenne). Le revenu hypothétique de 1'672 £ retenu, que le recourant ne conteste pas, correspondait ainsi toujours à un montant en francs suisses supérieur à 3'344 fr., soit un montant, au vu des charges admissibles arrêtées sans arbitraire par l'autorité précédente (par 3'250 fr., cf. infra consid. 1.5), permettant au recourant de s'acquitter au moins partiellement de la contribution d'entretien mise à sa charge. La prise en compte du taux de conversion réel pour la période litigieuse, inférieur à celui retenu par l'autorité précédente, n'est ainsi pas propre à modifier la condamnation du recourant pour violation de son obligation d'entretien. Le grief est partant infondé.
1.5 Le recourant se plaint des charges retenues, selon lui trop basses.
1.5.1 La cour cantonale a arrêté celles-ci à 3'250 francs. Ce chiffre se compose du montant du minimum vital pour une personne seule avec obligation d'entretien par 1'250 francs. S'y ajoute la prise en compte du loyer d'un studio à Londres, par 1'500 fr., le recourant vivant seul et ne recevant pas ses enfants chez lui. Dans la mesure où le recourant peut utiliser des lignes "lowcost" entre Londres et Genève pour exercer son droit de visite, où il n'assume ni les frais de transports pour rencontrer ses enfants en Suisse, ni ceux de logement durant l'exercice de son droit de visite et où les coûts sur place sont pris en considération dans le calcul du minimum vital, la cour cantonale a en outre considéré qu'un montant de 500 fr. était suffisant pour tenir compte de deux trajets mensuels.
1.5.2 Le recourant estime que l'autorité précédente est tombée dans l'arbitraire, en particulier en procédant à une estimation de ses charges admissibles, sans tenir compte des charges qu'il invoque avoir effectivement assumées. A l'appui de ce grief, il se contente d'opposer sa propre appréciation de la situation à celle de l'autorité précédente dans une approche purement appellatoire et partant irrecevable. Il n'explique ainsi aucunement en quoi le raisonnement de l'autorité précédente serait insoutenable. Le seul fait que le juge pénal se soit écarté, pour établir les charges admissibles du recourant (arrêt 6B_264/2011 du 19 juillet 2011 consid. 3.2), des montants effectivement payés ou de ceux retenus par le juge civil - par ailleurs qualifiés par ce dernier d'"exhorbitants" (arrêt du Tribunal d'arrondissement de Lausanne du 7 juin 2004, p. 203; <ref-law>) - n'étant à cet égard pas suffisant (cf. supra consid. 1.1.2). En particulier, contrairement à ce que soutient le recourant, le juge pénal n'est pas lié par les dépenses effectives (recours, p. 4), mais doit au contraire uniquement tenir compte des charges qui auraient été celles du recourant en faisant les efforts pouvant raisonnablement être exigés de lui. Le recourant fonde en outre fréquemment son raisonnement sur des faits qui ne ressortent pas eux-mêmes de la décision entreprise, sans préciser quelle preuve précise au dossier les établirait et dans quelle mesure leur omission serait arbitraire. Il ne peut en être ici tenu compte.
Au demeurant, au vu de la situation financière des parties, il n'apparaît pas arbitraire d'exclure les charges de loyer invoquées par le recourant pour un appartement de trois pièces - s'élevant qui plus est à 1'600 £ pour un revenu hypothétique de 1'672 £ - , alors que le recourant vit seul et n'y reçoit pas ses enfants. Ce dernier ne démontre pas non plus avoir dû assumer des frais liés à son droit de visite, notamment de logement, qui dépasseraient les montants d'ores et déjà pris en compte par le biais de son minimum vital de 1'250 fr. et du montant de 500 francs. Eût-il été recevable, le grief aurait été infondé.
1.6 Il résulte de ce qui précède que le recourant, au vu des ressources et des charges admissibles retenues sans arbitraire par l'autorité précédente, avait la capacité de s'acquitter, au moins en partie, pour la période allant de décembre 2003 à mars 2008, de la pension mise à sa charge par 750 francs. Le grief de violation de l'<ref-law>, tel que soulevé par le recourant, ne peut partant qu'être rejeté. Dans ces conditions, il n'y a pas lieu d'examiner l'argumentation du recourant quant à son obligation d'utiliser le montant de 30'000 £, dont il était titulaire sur un compte non bloqué, pour s'acquitter de la pension mise à sa charge.
2. Le recourant critique le nombre de jours-amende prononcé, leur montant ainsi que la condition à laquelle a été assorti le sursis.
2. Le recourant critique le nombre de jours-amende prononcé, leur montant ainsi que la condition à laquelle a été assorti le sursis.
2.1 2.1.1 Pour fixer le nombre de jours-amende, le juge se fonde sur la culpabilité de l'auteur (<ref-law>). Pour ce faire, il se référera aux critères posés à l'<ref-law>. Il tiendra compte des antécédents et de la situation personnelle de l'auteur ainsi que de l'effet de la peine sur l'avenir de celui-ci (<ref-law>). L'alinéa 2 de cette disposition énumère une série de critères à prendre en considération pour déterminer la culpabilité (<ref-ruling> consid. 2.1 p. 19-20).
Le juge dispose d'un large pouvoir d'appréciation pour fixer la peine. Il y a toutefois violation du droit fédéral lorsqu'il sort du cadre légal, se fonde sur des critères étrangers à l'<ref-law>, omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 2.1 p. 19-20).
2.1.2 A l'appui de son grief, le recourant invoque que son revenu a varié, qu'il a toujours payé son loyer et n'avait dès lors pas les moyens réels de s'acquitter de la pension mise à sa charge, en tout cas lors de plusieurs périodes. Ce faisant, il reprend les arguments soulevés pour contester sa condamnation pour violation de l'<ref-law>, arguments qui ont été écartés. Au surplus, le recourant n'explique pas de manière motivée en quoi la sanction infligée serait exagérément sévère au point de constituer un abus du pouvoir d'appréciation. Tel n'est pas le cas, le recourant ayant refusé "avec une opiniâtreté impressionnante" (arrêt de la Cour de cassation du 17 janvier 2011, p. 14, auquel renvoie sur ce point l'arrêt attaqué) de verser le moindre sou à l'intimée, alors qu'il en avait les moyens durant toute la période litigieuse et que ces montants étaient aussi destinés à contribuer à l'entretien de ses deux enfants en bas âge.
2.1.2 A l'appui de son grief, le recourant invoque que son revenu a varié, qu'il a toujours payé son loyer et n'avait dès lors pas les moyens réels de s'acquitter de la pension mise à sa charge, en tout cas lors de plusieurs périodes. Ce faisant, il reprend les arguments soulevés pour contester sa condamnation pour violation de l'<ref-law>, arguments qui ont été écartés. Au surplus, le recourant n'explique pas de manière motivée en quoi la sanction infligée serait exagérément sévère au point de constituer un abus du pouvoir d'appréciation. Tel n'est pas le cas, le recourant ayant refusé "avec une opiniâtreté impressionnante" (arrêt de la Cour de cassation du 17 janvier 2011, p. 14, auquel renvoie sur ce point l'arrêt attaqué) de verser le moindre sou à l'intimée, alors qu'il en avait les moyens durant toute la période litigieuse et que ces montants étaient aussi destinés à contribuer à l'entretien de ses deux enfants en bas âge.
2.2 2.2.1 Selon l'art. 34 al. 2 2ème phrase CP, le juge fixe le montant du jour-amende selon la situation personnelle et économique de l'auteur au moment du jugement, notamment en tenant compte de son revenu et de sa fortune, de son mode de vie, de ses obligations d'assistance, en particulier familiales, et du minimum vital. Les principes déduits de cette disposition ont été exposés dans l'<ref-ruling>, consid. 6 p. 68 ss, auquel on peut se référer. Il en résulte notamment que le montant du jour-amende doit être fixé en partant du revenu net que l'auteur réalise en moyenne quotidiennement. Ce qui est dû en vertu de la loi ou ce dont l'auteur ne jouit pas économiquement doit en être soustrait. Il en va ainsi des impôts courants, des cotisations à l'assurance-maladie et accidents obligatoire ou encore des frais nécessaires d'acquisition du revenu. La loi mentionne aussi d'éventuelles obligations d'assistance, familiales en particulier. Le revenu net doit toutefois être amputé de tels montants que pour autant que le condamné s'en acquitte effectivement. Enfin, le minimum vital visé par l'art. 34 al. 2 2ème phrase CP ne correspond pas à celui du droit des poursuites, sauf quoi un cercle étendu de la population serait exclu de la peine pécuniaire, ce qui n'est précisément pas la volonté du législateur. En règle générale, les frais de logement ne peuvent pas être déduits (arrêt 6B_845/2009 du 11 janvier 2010, consid. 1).
2.2.2 Le recourant requiert que le montant du jour-amende, fixé à 40 fr. le jour, soit réduit à 5 fr., au motif que son revenu actuel ne lui permettrait pas de couvrir son minimum vital. Lors du jugement de première instance, le recourant disposait d'un revenu de 3'572 fr. (2'366 £ [pièces 63 et 72; <ref-law>] converti au taux de change de 1.51 en décembre 2010, cf. http://www.fxtop.com). Même en déduisant le montant de 750 fr. de pension, qu'il n'est pas certain que le recourant ait versé après ce jugement, il lui restait un disponible de 2'822 francs. Le recourant ne prétend pas, encore moins ne démontre que d'autres charges auraient dû être prises en compte. Le montant du jour-amende, fixé à 40 fr., n'apparaît dès lors pas excessif. Le grief est partant infondé.
2.2.2 Le recourant requiert que le montant du jour-amende, fixé à 40 fr. le jour, soit réduit à 5 fr., au motif que son revenu actuel ne lui permettrait pas de couvrir son minimum vital. Lors du jugement de première instance, le recourant disposait d'un revenu de 3'572 fr. (2'366 £ [pièces 63 et 72; <ref-law>] converti au taux de change de 1.51 en décembre 2010, cf. http://www.fxtop.com). Même en déduisant le montant de 750 fr. de pension, qu'il n'est pas certain que le recourant ait versé après ce jugement, il lui restait un disponible de 2'822 francs. Le recourant ne prétend pas, encore moins ne démontre que d'autres charges auraient dû être prises en compte. Le montant du jour-amende, fixé à 40 fr., n'apparaît dès lors pas excessif. Le grief est partant infondé.
2.3 Le recourant requiert la suppression de la condition assortissant le sursis, soit le paiement régulier et ponctuel de l'obligation d'entretien mise à sa charge pendant le délai d'épreuve fixé à 4 ans. A l'appui de cette conclusion, il invoque que cette condition n'est pas exécutable compte tenu de la diminution du taux de change rendant impossible pour le recourant de payer la pension fixée par le biais de ses revenus.
2.3.1 Selon l'<ref-law>, le juge qui suspend l'exécution de la peine peut imposer certaines règles de conduite au condamné pour la durée du délai d'épreuve. Ces règles doivent être adaptées au but du sursis et aux possibilités de celui qu'elles obligent, faute de quoi elles sont inadmissibles (<ref-ruling>). Ainsi, lorsqu'elles portent sur des paiements périodiques destinés à réparer le dommage, les acomptes doivent être fixés d'après la situation économique et personnelle du condamné (<ref-ruling> consid. 2b p. 207; <ref-ruling> consid. 3 p. 137; v. aussi STEFAN TRECHSEL, Schweizerisches Strafgesetzbuch, Kurzkommentar, 2e éd. 1997, n. 40 ad art. 41).
2.3.2 Au jour du jugement de première instance, le recourant réalisait un salaire de 2'366 £. Il faut considérer que le loyer admissible retenu dans l'arrêt attaqué pour un studio à Londres, soit 1'500 francs, correspond à 600 £ au vu du taux de change de 2,5 que les juges précédents avaient à l'esprit (cf. arrêt attaqué, p. 4). En déduisant ce loyer du salaire du recourant, il reste un solde de 1'766 £. En multipliant ce solde par le taux de change de 1.51 en vigueur au moment du jugement du Tribunal de police, on parvient à 2'666 francs. Déduction faite de 1'250 fr. de minimum vital et de 500 fr. de frais de transport, on obtient un disponible de 916 fr. soit un montant excédant la pension retenue. Au jour du prononcé du jugement du Tribunal de police, le recourant pouvait donc, sans léser son minimum vital, s'acquitter de celle-ci. La condition assortissant le sursis n'était donc pas excessive. Au demeurant, si le recourant n'avait réellement pas les moyens de s'acquitter de la pension fixée en 2001 déjà puis en 2004, il devait en demander la réduction auprès du juge civil. Il ne ressort pas de la procédure qu'il l'aurait fait. On ne saurait dès lors considérer la condition assortissant le sursis comme contraire au droit fédéral.
3. Faute de toute motivation conforme aux exigences de l'<ref-law>, le grief de "violation de son droit au minimum vital qui découle du droit au respect de la dignité humaine (art. 7 Cst.)" est irrecevable.
4. Le recours doit être rejeté dans la mesure où il est recevable. Les conclusions du recours étant vouées à l'échec, l'assistance judiciaire ne peut être accordée (<ref-law>). Le recourant devra donc supporter les frais, fixés en tenant compte de sa situation financière (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1'600 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour de cassation pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 18 avril 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Cherpillod