Faits:
A. Le 14 mai 2009, à 13 h 40, X._ circulait en automobile sur le chemin de la Fauvette. Il s'approchait du croisement avec la route d'Oron, avec l'intention de tourner à droite sur cette route. Y._ arrivait quant à lui d'un chemin privé débouchant également sur la route d'Oron, à droite du chemin emprunté par X._ et se trouvant séparé de ce chemin par un petit muret surmonté d'une haie. Il avait lui aussi l'intention de s'engager sur la route d'Oron, mais dans la direction inverse. Alors que X._ avait tourné la tête à gauche pour voir si des automobilistes prioritaires arrivaient sur la route d'Oron, l'avant-droit de sa voiture a heurté l'aile avant-gauche de celle, alors arrêtée, de Y._.
Statuant sur appel de X._, le Tribunal de police de l'arrondissement de Lausanne a, par jugement du 8 octobre 2010, confirmé le prononcé, rendu le 10 février 2010 par le Préfet du district de Lausanne, le condamnant pour violation simple des règles de la circulation à une amende de 250 fr., la peine de substitution étant fixée à 3 jours.
B. Le 12 novembre 2010, X._ a formé un recours en matière pénale et un recours constitutionnel subsidiaire et conclu à son acquittement.
Parallèlement, il a également déposé, contre le jugement du 8 octobre 2010, un recours en nullité auprès de la Cour de cassation pénale du canton de Vaud. Par arrêt du 14 décembre 2010, cette autorité a déclaré ce recours irrecevable.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 43).
1.1 La décision attaquée a été rendue avant le 1er janvier 2011. Les modifications de la LTF entrées en vigueur à cette date ne sont donc pas applicables à la présente procédure de recours (cf. <ref-law>; arrêt 4A_584/2010 du 1er février 2011 consid. 1).
1.2 Conformément à l'<ref-law>, le recours en matière pénale est recevable contre les décisions prises par les autorités cantonales de dernière instance. L'al. 2 de cette disposition précise que les cantons instituent comme autorités cantonales de dernière instance des tribunaux supérieurs, qui statuent sur recours. Conformément à l'art. 130 al. 1 1ère phrase LTF, les cantons devaient édicter des dispositions d'exécution sur ce point d'ici à l'entrée en vigueur d'un code de procédure pénale suisse, soit d'ici au 1er janvier 2011. Les jugements de tribunaux inférieurs rendus avant cette date, qui ne pouvaient donner lieu à un recours de droit cantonal pour violation du droit fédéral, parce que le canton n'avait pas encore adopté la réglementation prescrite par l'art. 130 al. 1 1ère phrase LTF, pouvaient être attaqués directement par la voie du recours en matière pénale (cf. arrêt 6B_821/2008 du 14 juillet 2009 consid. 1).
1.3 En l'espèce et comme cela ressort de l'arrêt du 14 décembre 2010 de la Cour de cassation pénale du canton de Vaud, le recourant ne pouvait attaquer devant cette autorité le jugement du Tribunal de police pour violation du droit fédéral ou établissement incorrect des faits. Le recours en matière pénale formé contre cette dernière décision est dès lors recevable.
Le recours constitutionnel subsidiaire est dès lors exclu (<ref-law>).
2. L'autorité intimée a confirmé la condamnation du recourant à une amende de 250 fr. pour violation de l'art. 3 de l'ordonnance du 13 novembre 1962 sur les règles de la circulation routière (OCR; RS 741.11).
2.1 Aux termes de l'art. 31 al. 1 de la loi fédérale du 19 décembre 1958 sur la circulation routière (LCR; RS 741.01), le conducteur doit rester constamment maître de son véhicule de façon à pouvoir se conformer aux devoirs de la prudence. Selon l'art. 3 al. 1 OCR, le conducteur voue son attention à la route et à la circulation. La violation simple de ces règles de circulation est punie de l'amende (<ref-law>).
Le degré de l'attention requise par l'art. 3 al. 1 OCR s'apprécie au regard des circonstances d'espèce, telles que la densité du trafic, la configuration des lieux, l'heure, la visibilité et les sources de danger prévisibles (<ref-ruling> consid. 3c p. 303 et arrêt cité).
2.2 Selon le jugement attaqué, le recourant circulait sur le chemin de la Fauvette, en direction de la route d'Oron. Peu avant le débouché sur celle-ci, il a tourné la tête à gauche pour voir si des automobilistes prioritaires arrivaient sur la route d'Oron. Au même instant, il est entré en collision avec l'automobile arrêtée de Y._, qu'il n'avait pas vu en raison de la haie qui sépare les deux chemins.
Ces faits permettent de constater que le recourant, alors qu'il avançait sur le chemin de la Fauvette, ne voyait pas une partie de cette route qu'il s'apprêtait pourtant à emprunter. Il aurait dès lors dû garder la vue sur celle-ci, afin de s'assurer qu'il pourrait l'emprunter en toute sécurité, en particulier du fait qu'aucune voiture ne s'y trouvait. Au lieu de cela, le recourant a quitté des yeux la route, tout en continuant à avancer. Il n'a pu, de ce fait, constater en temps utile la présence de la voiture arrêtée de Y._ et l'éviter. Ce faisant, le recourant a commis une inattention fautive. C'est donc à raison que l'autorité intimée l'a condamné, en vertu des art. 3 al. 1 OCR et 90 al. 1 LCR, à une peine d'amende.
3. Le recourant ne conteste pas avoir été inattentif à l'approche du lieu où s'est produit l'accident. Il invoque uniquement avoir été gêné par Y._ qui n'aurait pas respecté la priorité qu'il lui devait. Il estime que le fait pour l'autorité intimée de retenir que Y._ s'est engagé correctement dans l'intersection violerait l'interdiction de l'arbitraire dans l'appréciation des preuves, la présomption d'innocence, le droit d'être entendu et méconnaîtrait le droit matériel fédéral applicable au fond, notamment les <ref-law> et 14 OCR.
3.1 Le Tribunal fédéral n'examine les moyens fondés sur la violation de droits fondamentaux que s'ils ont été invoqués et motivés de manière précise (art. 42 al. 2 et 106 al. 2 LTF). L'acte de recours doit ainsi, à peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation (cf. <ref-ruling> consid. 3 p. 351; également <ref-ruling> consid. 2.8 p. 494).
Le recourant, s'il expose théoriquement le contenu des droits fondamentaux qu'il invoque, ne démontre aucunement en quoi le fait pour l'autorité intimée d'avoir considéré que Y._ s'était engagé correctement, sans gêner le recourant, violerait concrètement ces droits. Les griefs d'arbitraire dans l'appréciation des preuves, de violation de la présomption d'innocence et du droit d'être entendu sont dès lors irrecevables.
3.2 Le recourant invoque ensuite la violation du droit matériel fédéral applicable au fond, les <ref-law> et 14 OCR notamment.
Ces dispositions ont trait aux règles de priorité. On comprend donc que le recourant entend se libérer de l'inattention dont il s'est rendu coupable en invoquant que Y._ a violé la priorité qu'il lui devait.
Les règles de la circulation sont des prescriptions de sécurité destinées à prévenir les accidents. L'<ref-law> réprime donc une infraction de mise en danger abstraite, sans égard au résultat concret de ces violations (cf. <ref-ruling> consid. 1 p. 34; également arrêts 6P.69/2004 du 18 juin 2004 consid. 9; 6S.295/1994 du 4 juillet 1994 consid. 2; 6S.214/1990 du 28 mai 1990 consid. 3). La condamnation du recourant ne dépend donc pas de la question de savoir si Y._ a respecté les obligations qui lui incombaient, à tout le moins au vu des circonstances d'espèce, celui-ci étant à l'arrêt et l'accident ayant été provoqué par l'inattention du recourant. Le moyen soulevé est par conséquent infondé.
4. Le recours doit donc être rejeté, dans la mesure où il est recevable, et les frais de la cause mis à la charge du recourant qui succombe (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière pénale est rejeté, dans la mesure où il est recevable.
3. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Tribunal d'arrondissement de Lausanne.
Lausanne, le 17 mai 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Mathys Cherpillod