Faits: A. A.a A plusieurs reprises, entre le 10 août et le 18 septembre 2004, A.X._ a contraint son épouse, B.X._, à subir divers actes d'ordre sexuel au cours desquels il lui a ligoté les mains et les jambes à l'aide de menottes et de lacets, lui a placé un mors dans la bouche, lui a fixé des pinces reliées à des chaînettes - sur lesquelles il tirait pour lui faire mal - au niveau des seins et des lèvres de son sexe, l'a frappée avec une cravache sur les parties génitales et l'a sodomisée. A.b Le 23 septembre 2004, A.X._, contrarié par l'appel téléphonique de son épouse à son avocat, a brandi un couteau dans sa direction en disant qu'il allait la tuer. Par la suite, il l'a empoignée par les cheveux et l'a projetée au sol. Avant de quitter l'appartement, il a emporté son fusil d'assaut en réitérant ses menaces de mort. B. Par jugement du 5 septembre 2008, le Tribunal du IIème arrondissement pour le district de Sierre a condamné A.X._, pour contrainte sexuelle et tentative de menaces, à une peine privative de liberté de trois ans et demi, sous déduction de la détention préventive subie. C. Par jugement du 18 janvier 2010, la IIème Cour pénale du Tribunal cantonal valaisan a admis partiellement l'appel de A.X._. Elle l'a condamné, pour contrainte sexuelle et tentative de menaces, à une peine privative de liberté de trois ans, sous déduction de la détention préventive subie, et l'a mis au bénéfice du sursis partiel à l'exécution de la peine à concurrence de dix-huit mois, pendant un délai d'épreuve de trois ans. D. A.X._ dépose un recours en matière pénale au Tribunal fédéral. Invoquant l'arbitraire et une violation du principe « in dubio pro reo », il conclut, principalement, à son acquittement des chefs d'accusation retenus à son encontre et, subsidiairement, au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il requiert également l'assistance judiciaire.