Faits: A. X._ a noué une relation avec B.Y._, soeur de A.Y._ vers la fin de l'année 2002. Celui-ci se rendait régulièrement au domicile de la famille Y._ où il était accueilli et accepté par tous. Cette relation a pris fin dans le courant de l'année 2004. A.a Le 3 octobre 2003, X._ s'est rendu dans la chambre de A.Y._, née le 7 décembre 1988, l'a caressée, lui a pris la main pour la mettre sur son sexe, faisant un mouvement de bas en haut. Il a ensuite mis un préservatif et l'a pénétrée. A.b Le 18 octobre 2003, après les vacances d'automne, alors qu'elle se trouvait seule avec X._ et que son père était présent dans la maison, le prénommé a demandé à A.Y._ de lui faire une fellation, ce qu'elle a fait jusqu'à éjaculation. Dans une autre pièce, il lui a demandé une nouvelle fellation, qui a été interrompue du fait de l'arrivée de B.Y._ et de sa mère. A.c X._ et A.Y._ ont eu deux autres relations complètes dans la cuisine du domicile familial. Il l'a également sodomisée à une reprise. Le dernier acte a eu lieu le 9 janvier 2004. A.Y._ a expliqué à X._ qu'elle avait peur d'être enceinte. Ce dernier s'est rendu dans une pharmacie pour acheter un test de grossesse qui s'est révélé négatif. Il a voulu entretenir une nouvelle relation sexuelle et l'a pénétrée. B. Par arrêt du 26 mai 2010, la Cour criminelle du Tribunal cantonal jurassien a libéré X._ des préventions de contrainte sexuelle et viol, infractions prétendument commises entre le 3 octobre 2003 et janvier 2004 au préjudice de A.Y._, de contrainte, contrainte sexuelle et viol, infractions prétendument commises entre 2003 et 2004 au préjudice de B.Y._, de contrainte sexuelle et viol, infractions prétendument commises entre 2003 et 2004 au préjudice de C._, d'escroquerie et induction de la justice en erreur, infractions prétendument commises en 2004 au préjudice de D._. En revanche, elle a déclaré X._ coupable d'actes d'ordre sexuel avec des enfants, infractions commises à réitérées reprises à I._ au préjudice de A.Y._, entre le 3 octobre 2003 et janvier 2004. Elle l'a condamné à une peine privative de liberté de 3 ans, dont 18 mois fermes, le solde de 18 mois étant suspendu par l'octroi du sursis avec un délai d'épreuve de 2 ans ainsi qu'au paiement à la plaignante d'une somme de 20'000 fr. à titre d'indemnité pour tort moral. C. X._ dépose un recours en matière pénale au Tribunal fédéral. Il invoque l'arbitraire dans l'appréciation des preuves, une violation du principe "in dubio pro reo" ainsi que des art. 43, 47, 187 CP, 49 CO et 43 LAVI. Il conclut, principalement, à l'annulation de l'arrêt entrepris et à son acquittement et, subsidiairement, à ce qu'il soit condamné à une peine privative de liberté compatible avec le sursis total.