Faits: A. Par jugement du 15 février 2007, le Tribunal pénal de la Glâne a reconnu A.X._ coupable de viol commis sur son épouse et l'a condamné à une peine privative de liberté de 15 mois avec sursis pendant deux ans et à verser à la victime 7000 fr. à titre d'indemnité pour tort moral. L'autorité de première instance a fondé sa condamnation sur les faits suivants. Dans la nuit du 11 au 12 février 2005, entre 23h.30 et 04h.30, A.X._ a harcelé son épouse dans le but d'obtenir une relation sexuelle qu'elle n'était pas d'accord d'entretenir. Il l'a saisie fortement par les poignets pour l'immobiliser et l'a mordue sur le flanc. B.X._ s'est débattue. L'altercation a réveillé les enfants qui sont venus dans la chambre de leurs parents. A.X._ a alors insulté son épouse devant les enfants. B.X._ a demandé à son fils d'appeler son oncle. A.X._ est alors sorti de la maison. Lorsque le frère de B.X._ est arrivé, cette dernière lui a dit qu'il pouvait repartir car la crise était finie. B.X._ est retournée se coucher avec son fils. A.X._ est rentré à la maison dix minutes plus tard et a emmené son fils dans sa chambre. Puis il a à nouveau immobilisé son épouse qui a appelé les enfants au secours. A.X._ l'a relâchée lorsque ses enfants, venus dans la chambre, lui ont dit de laisser leur mère tranquille. La fille aînée du couple a demandé à sa mère de les appeler si son père continuait à l'importuner. B.X._ a alors laissé la porte de la chambre ouverte. A.X._ a voulu entretenir une relation sexuelle avec son épouse qui n'était toujours pas d'accord mais l'a néanmoins laissé la pénétrer pour le calmer. Durant l'acte, son mari s'est montré vulgaire et après quinze minutes, B.X._ l'a repoussé. Pour le calmer, car il ne pouvait pas dormir, B.X._ a massé le dos de son mari, qui a fini par s'endormir. B. La Cour d'appel pénal du Tribunal cantonal de l'Etat de Fribourg a rejeté le recours de A.X._ le 27 mai 2008. Elle a confirmé l'appréciation des premiers juges selon laquelle A.X._ a imposé à son épouse un rapport sexuel auquel elle n'a pas librement consenti. C. A.X._ forme un recours en matière pénale contre cette dernière décision concluant à son acquittement et au rejet des conclusions civiles sous suite des frais et dépens. A l'appui de son recours, il invoque la violation du principe de l'interdiction de l'arbitraire.