Faits:
A. M._ exploite depuis 1984 une entreprise viticole à titre indépendant. Souffrant d'un emphysème pulmonaire entraînant une perte respiratoire importante, il a été mis en arrêt de travail à 100 % du 1er décembre 2007 au 28 février 2008, à 50 % du 1er mars 2008 au 31 janvier 2009, puis à 70 % dès le 1er février 2009. Le 20 août 2009, il a déposé une demande de prestations auprès de l'Office cantonal de l'assurance-invalidité du Valais (ci-après: Office AI).
Dans un rapport du 30 août 2009, le docteur P._, spécialiste FMH en médecine interne et médecin traitant, a attesté que l'assuré ne pouvait plus effectuer d'activité physique; il pouvait en revanche travailler en position assise principalement, sans marche, ni port de charges, sans montée d'escaliers, d'échelles ou d'échafaudages. Il a fixé la capacité de travail dans l'activité habituelle à 30 % avec une diminution de rendement.
L'office AI a mis en ?uvre une enquête pour activité professionnelle indépendante, de laquelle il est ressorti que l'exploitation du domaine viticole requérait 2'512 heures de travail par an, dont l'assuré accomplissait 1'325 heures avant la survenance de l'atteinte à la santé, lesquelles ont été diminuées après la survenance des problèmes respiratoires à 667 heures en 2008 et 460 heures en 2009 (rapport du 24 février 2010). Il y est également précisé que M._ a régulièrement eu recours à du personnel occasionnel et a engagé un employé à l'année pour le remplacer à partir de l'année 2009. L'enquêteur a en outre relevé que l'épouse de l'assuré avait travaillé dans l'entreprise et perçu un revenu à ce titre, tandis que les comptes étaient tenus par la fille du couple.
Par décision du 25 juin 2010, qui a remplacé le projet de décision du 23 mars 2010, l'office AI a nié le droit de l'assuré à une rente d'invalidité sur la base d'un taux d'invalidité de 17 % pour 2008, respectivement de 36 % pour 2009. Le même jour, l'administration a confirmé son projet de décision du 28 avril 2010, l'assuré se voyant refuser une mesure de reclassement, ainsi qu'une aide au placement, au motif qu'il ressortait du rapport d'enquête du 24 février 2010 que celui-ci ne souhaitait pas changer d'activité (décision du 25 juin 2010).
B. L'assuré a déféré ces deux décisions au Tribunal cantonal valaisan, Cour des assurances sociales, en concluant principalement à l'octroi d'une rente entière d'invalidité et subsidiairement à des mesures de réadaptation professionnelle.
Par jugement du 28 mars 2011, le Tribunal a admis très partiellement le recours, dans la mesure où il a reconnu à l'assuré le droit à une aide au placement, annulant partiellement la décision du 25 juin 2010 par laquelle l'administration avait refusé le droit à cette mesure et à un reclassement selon l'art. 17 LAI. Pour le reste, le Tribunal a confirmé les décisions de l'office AI et mis à la charge de l'assuré les frais de justice de 500 fr.
C. M._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Sous suite de frais et dépens, il conclut à l'allocation d'une rente entière d'invalidité, voire à un trois-quarts de rente; subsidiairement à des mesures de réadaptation professionnelle. Plus subsidiairement encore, il conclut au renvoi de la cause à l'autorité administrative pour instruction complémentaire.
L'office AI conclut au rejet du recours et demande qu'en cas d'admission du recours les frais et dépens soient mis à la charge de l'Etat du Valais. Le Tribunal cantonal valaisan, Cour des assurances sociales, et l'Office fédéral des assurances sociales ont renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente, mais il n'examine la violation de droits fondamentaux, ainsi que celle de dispositions de droit cantonal ou intercantonal, que si ce grief a été invoqué et motivé par le recourant (art. 106 LTF; sur les exigences quant à la motivation, cf. ATF 133 II 396 consid. 3.1 p. 399 et arrêt 9C_722/2007 du 11 avril 2008 consid. 1.2).
En outre, le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
2. Le litige porte sur le droit du recourant à une rente d'invalidité et à des mesures d'ordre professionnel, autres qu'une aide au placement. Le jugement entrepris expose correctement les règles légales et la jurisprudence qui sont applicables, notamment relatives aux méthodes d'évaluation de l'invalidité, si bien qu'il suffit d'y renvoyer.
3. 3.1 Dans sa décision du 25 juin 2010 relative au refus du droit à une rente d'invalidité, l'intimé a considéré que le recourant avait été en mesure, en dépit de ses problèmes de santé, de reprendre dès mars 2008 son activité d'indépendant. Pour déterminer le taux d'invalidité du recourant, l'administration s'est alors basée sur la comparaison des résultats nets de l'entreprise de celui-ci. La perte de gain résultant de ce calcul (17 % en 2008 et 36 % en 2009) étant insuffisante pour ouvrir le droit à une rente d'invalidité, elle a nié le droit du recourant à cette prestation.
3.2 La juridiction cantonale a expliqué les raisons pour lesquelles la méthode de comparaison des résultats de l'exploitation suivie par l'intimé ne pouvait pas s'appliquer dans le cas d'espèce. Appliquant la méthode comparative en pour-cent en fonction des heures consacrées par le recourant au travail de son exploitation avant et après la survenance de l'atteinte à la santé, elle est parvenue à un taux d'invalidité de 50 % pour l'année 2008 et de 65 % pour 2009. Les premiers juges en ont conclu que l'activité d'indépendant du recourant ne lui permettait pas de mettre pleinement à profit sa capacité de gain résiduelle, dès lors que celui-ci disposait, selon l'attestation de son médecin traitant, d'une pleine capacité de travail dans une activité adaptée à ses limitations fonctionnelles. Cela étant, ils ont considéré qu'en vertu de son obligation de diminuer le dommage, on pouvait raisonnablement exiger de la part du recourant qu'il changeât d'activité professionnelle. Procédant à la comparaison des revenus, dont le revenu d'invalide a été fixé sur la base des données statistiques de l'Enquête suisse sur la structure des salaires dans une activité simple et répétitive, les premiers juges sont parvenus à un taux d'invalidité de 14 % (compte tenu d'un abattement de 25 % sur le revenu d'invalide), lequel ne donnait droit ni à une rente d'invalidité, ni à une mesure de reclassement. A l'instar de l'intimé, la juridiction cantonale a donc nié le droit du recourant à une rente d'invalidité et à une mesure de reclassement, mais par substitution de motifs. Elle a en revanche accordé au recourant le droit à une aide au placement, celui-ci en remplissant les conditions. Les premiers juges ont confirmé la première décision de l'intimé portant sur le refus d'une rente d'invalidité. Ils ont partiellement annulé la deuxième décision de l'office AI, en tant qu'elle portait sur le refus d'une aide au placement et l'ont confirmée pour le surplus.
4. Le recourant se plaint en premier lieu d'une violation de son droit d'être entendu. Il soutient qu'il n'a jamais été question d'un changement d'activité tout au long de la procédure, l'intimé lui ayant au contraire toujours indiqué qu'au vu de son âge, des investissements réalisés et de sa situation personnelle, il n'était pas raisonnable d'exiger de sa part un tel changement, ce qui ressort notamment explicitement du rapport d'enquête pour activité professionnelle indépendante. Selon le recourant, c'est seulement à la lecture du jugement attaqué qu'il a pris connaissance de l'exigibilité de mettre pleinement à profit sa capacité de travail dans une activité mieux adaptée à son état de santé. Il n'aurait ainsi pas pu faire valoir ses moyens de défense. Sur le fond, il conteste le fait qu'un changement d'activité puisse être exigé de sa part. Il invoque notamment son âge, la difficulté de remettre l'exploitation viticole à un tiers, l'impossibilité de gérer son entreprise en ayant une autre activité professionnelle à côté.
5. 5.1 Le droit d'être entendu est une garantie constitutionnelle de caractère formel, dont la violation doit entraîner l'annulation de la décision attaquée, indépendamment des chances de succès du recourant sur le fond (ATF 127 V 431 consid. 3d/aa p. 437; 126 V 130 consid. 2b p. 132 et les arrêts cités). La jurisprudence, rendue sous l'empire de l'art. 4 aCst. et qui s'applique également à l'art. 29 al. 2 Cst. (ATF 129 II 497 consid. 2.2 p. 504; 127 I 54 consid. 2b p. 56; 127 III 576 consid. 2c p. 578; 126 V 130 consid. 2a), a déduit du droit d'être entendu, notamment, le droit pour le justiciable de s'expliquer avant qu'une décision ne soit prise à son détriment (ATF 126 I 15 consid. 2a/aa p. 16; 124 V 180 consid. 1a p. 181; 372 consid. 3b p. 375 et les références).
5.2 De jurisprudence constante, si le juge cantonal entend confirmer une décision pour un motif substitué (notamment dans le cas de la suppression d'une rente d'invalidité), il doit donner à l'assuré la possibilité de s'exprimer, à peine de violer son droit d'être entendu garanti par l'art. 29 al. 2 Cst. (ATF 125 V 368 consid. 2 p. 369 et les arrêts cités, consid. 4a p. 370). Le Tribunal fédéral ne saurait réparer une telle omission, compte tenu de son pouvoir d'examen restreint (arrêts 9C_272/2009 du 16 septembre 2009, in SVR 2010 IV n° 19 p. 58, et 8C_1027/2009 du 17 août 2010, in RSAS 2010 p. 514).
5.3 C'est à juste titre que le recourant reproche à la juridiction cantonale de ne pas avoir respecté son droit d'être entendu sur la question de l'exigibilité d'un changement d'activité professionnelle. En effet, cette question n'a jamais été évoquée au cours de la procédure devant la juridiction cantonale et n'a donc pas été débattue en instance cantonale. Au contraire, puisqu'elle n'était pas litigieuse, l'intimé ayant renoncé à exiger du recourant qu'il change de profession, ce qui ressort expressément du rapport d'enquête pour activité professionnelle indépendante, comme l'a relevé le recourant. Aussi, les parties, qui n'ont pas été informées par la juridiction cantonale qu'elle entendait statuer par substitution de motifs, ne pouvaient-elles pas envisager la pertinence de cette question au demeurant essentielle pour l'issue du litige en instance cantonale. L'intéressé a ainsi été privé de son droit de faire valoir ses moyens de preuve au sujet des faits litigieux, dont l'examen est limité devant le Tribunal fédéral (art. 97 LTF).
Le droit d'être entendu étant une garantie constitutionnelle de caractère formel, sa violation entraîne l'annulation du jugement attaqué, sans qu'il faille procéder à ce stade à l'examen du cas ou des autres moyens soulevés par le recourant. Il sied donc de renvoyer la cause à la juridiction cantonale pour qu'elle statue à nouveau après avoir donné au recourant la possibilité de s'exprimer sur l'exigibilité d'un changement d'activité professionnelle compte tenu de sa capacité de travail résiduelle.
6. Bien que les circonstances dans lesquelles le jugement cantonal a été rendu entraînent des frais pour les parties, les conditions permettant de mettre ceux-ci et les dépens à la charge du canton qui n'est pas partie au procès (cf. art. 66 al. 3 et 68 al. 4 LTF) ne sont toutefois pas réalisées en l'occurrence (arrêts 8C_120/2009 du 3 février 2010 consid. 3 et U 305/97 du 19 octobre 1998 consid. 4, in RAMA 1999 no U 331 p. 126).
L'intimé supportera les frais judiciaires (art. 66 al. 1 LTF) et versera en outre une indemnité de dépens au recourant (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis en ce sens que le jugement du Tribunal cantonal valaisan, Cour des assurances sociales, du 28 mars 2011 est annulé, la cause étant renvoyée à ladite juridiction pour qu'elle statue à nouveau en procédant conformément aux considérants.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. L'intimé versera au recourant la somme de 2'800 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 23 mars 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Reichen