Faits: A. A.a M._, né en 1945, était assuré obligatoirement contre le risque d'accident auprès de Swica Assurances SA (ci-après: Swica). Le 11 avril 2003, alors qu'il se trouvait au volant de son véhicule à l'arrêt, M._ a été percuté par l'arrière par un autre automobiliste. A la suite de cet événement, l'assuré a présenté des douleurs lombaires accompagnées de maux de tête, pour lesquelles il a bénéficié d'un traitement d'ostéopathie. En raison de cervicalgies apparues en septembre 2003, une imagerie par résonance magnétique (IRM) a été effectuée le 10 septembre, laquelle a mis en évidence une discopathie protrusive étagée sévère ainsi qu'une hernie discale en C3-C4, de même qu'en C5-C6 et C6-C7 avec un conflit radiculaire intra-foraminal à droite. Dans un rapport du 19 février 2004, le docteur S._ (spécialiste FMH en chirurgie) a indiqué que l'assuré avait subi une entorse cervicale bénigne survenue sur un terrain de lésions dégénératives préexistantes de la colonne cervicale. Le cas a été pris en charge par Swica. Le 23 janvier 2004, M._ est tombé sur l'épaule droite en tentant de retenir sa mère qui glissait sur une plaque de glace. A cet occasion, il a subi une lésion de la coiffe des rotateurs de l'épaule droite (sous-scapulaire et sous-épineux), entraînant une incapacité de travail de 50 %. Le cas a été pris en charge par Swica. Se plaignant de douleurs chroniques de l'épaule droite, l'assuré a été opéré le 10 juillet 2006 par les docteurs F._ et B._ (médecin adjoint et médecin assistant au service d'orthopédie de l'Hôpital X._). Dans un rapport du 15 août 2006, le docteur O._ (spécialiste FMH en chirurgie orthopédique) a considéré que les lésions de l'épaule droite étaient à prédominance dégénérative et que l'accident du 23 janvier 2004 avait entraîné une aggravation passagère de l'état antérieur. Selon ce praticien, les lésions vues et décrites par le docteur F._ étant de type dégénératif, l'intervention du 10 juillet 2006 ne résultait pas des suites directes de l'accident du 23 janvier 2004. Par décision du 21 novembre 2006, Swica a mis fin à ses prestations avec effet au 30 juin 2006, au motif que les lésions à l'épaule droite étaient survenues indépendamment de l'accident selon l'évolution d'un état maladif antérieur. L'assuré ayant formé opposition contre cette décision, Swica a mis en oeuvre une expertise qu'elle a confiée au docteur U._ (spécialiste FMH en médecine interne et rhumatologie et en médecine psychosomatique et psychosociale). Dans son rapport du 18 décembre 2006, ce dernier a conclu qu'une activité adaptée était exigible de la part de l'assuré à 100 %. Swica a rejeté l'opposition de l'assuré par une nouvelle décision du 31 juillet 2007. Par jugement du 29 octobre 2008, la Cour de assurances sociales du Tribunal cantonal valaisan a admis le recours interjeté par l'assuré contre la décision sur opposition précitée. Les juges cantonaux sont arrivés à la conclusion qu'un facteur extérieur avait déclenché la rupture des tendons du sous-scapulaire et du sus-épineux, de sorte que l'atteinte n'était pas exclusivement d'origine dégénérative. La cause a été renvoyée à Swica pour qu'elle statue sur le droit de l'assuré à des prestations au-delà du 30 juin 2006, l'assureur devant examiner à partir de quelle date, postérieurement à l'intervention chirurgicale du 10 juillet 2006, le statu quo sine/ante avait été atteint. A.b Swica a confié une expertise au docteur D._ (spécialiste FMH en chirurgie orthopédique), lequel a examiné l'assuré le 2 juin 2009. Selon lui, pour l'événement survenu le 11 avril 2003, le statu quo sine/ante aurait dû être considéré comme atteint à l'issue d'une période maximale d'une année. Une hypothétique dégradation transitoire complémentaire de l'état de la colonne cervicale, à la suite de l'événement du 23 janvier 2004, aurait pu repousser le délai d'atteinte à 18 mois au plus (soit en octobre 2004). En ce qui concernait l'événement survenu le 23 janvier 2004, le statu quo sine/ante avait été atteint à l'issue d'un délai maximal de 6 à 9 mois (soit en novembre 2004). Au-delà, le tableau clinique était dominé par des éléments dégénératifs sous-jacents, préexistants, évoluant depuis de nombreuses années. Se fondant sur les conclusions de l'expert D._, Swica a supprimé, par décision du 28 octobre 2009 confirmée sur opposition le 13 avril 2010, le droit à la prise en charge de l'indemnité journalière et des frais de traitement dès le 30 novembre 2004, date à laquelle elle a considéré le statu quo sine comme atteint. B. Par jugement du 26 mai 2011, le Tribunal cantonal a partiellement admis le recours interjeté par M._ contre la décision sur opposition du 13 avril 2010, en ce sens que les troubles de l'épaule droite du recourant étaient à la charge de Swica jusqu'au 31 juillet 2007. C. M._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant à ce qu'il soit constaté que ses problèmes de santé sont la conséquence d'un accident, que son état de santé n'est pas rétabli et que les conséquences des troubles de son épaule droite soient mis à la charge de Swica pour une durée indéterminée. Swica conclut au rejet du recours, tandis que l'Office fédéral de la santé publique a renoncé à se prononcer.