Faits:
A. A.a Par décisions de la Caisse cantonale vaudoise de compensation des 9 juillet et 23 août 1993, respectivement de l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'OAI) du 26 avril 2002, K._, né en 1952, a bénéficié à compter du 1er septembre 1993 d'une rente d'invalidité fondée sur un taux d'invalidité de 40 % (demi-rente pour cas pénible suivie d'un quart de rente).
A.b Le 15 août 2005, l'assuré a demandé à l'OAI la révision de sa rente en raison d'une aggravation de son état de santé. Il a joint à son courrier un certificat médical du docteur H._, spécialiste de médecine générale et médecin traitant, qui faisait état d'arthrose de la jambe gauche et d'une importante discopathie L5-S1, et retenait une capacité de travail de 30 % (certificat du 27 janvier 2005). Ce médecin a par la suite confirmé ces conclusions, ajoutant que l'assuré était suivi par l'Unité de psychiatrie ambulatoire de X._ pour un état anxio-dépressif (rapport du 31 octobre 2005).
Les docteurs P._ et M._, de ladite Unité, ont indiqué à l'OAI que leur patient souffrait d'une importante arthrose de la hanche gauche, d'une discopathie L5-S1, d'un trouble somatoforme douloureux persistant et d'un trouble de la personnalité avec traits paranoïaques et impulsifs. Ils ont estimé que la capacité de travail était nulle (rapport du 13 janvier 2006).
Interrogé par l'OAI, le docteur A._, de l'Hôpital orthopédique Y._, a retenu les diagnostics de lombalgies chroniques sur discopathie L5-S1 et de coxarthrose gauche post traumatique sur nécrose de la tête fémorale; il a évalué la capacité de travail à 30 % au maximum dans l'activité habituelle (rapport du 16 janvier 2006).
L'OAI a ensuite confié la réalisation d'examens médicaux à son Service médical régional (ci-après: SMR). Les docteurs I._, spécialiste en médecine physique et rééducation et B._, spécialiste en psychiatrie, ont posé les diagnostics avec répercussion sur la capacité de travail de coxarthrose gauche dans le cadre d'un status post luxation postérieure de la hanche avec fracture parcellaire de la tête humérale en 1987, status post ostéotomie du fémur en 1990, avec faiblesse du grand fessier, de cervico-dorso-lombalgies dans le cadre d'un trouble statique et dégénératif, avec maladie de Forestier dorsale et discopathie L4-L5 et L5-S1 protrusive non déficitaire et dysbalance musculaire, de péri-arthrite scapulo-humérale et de personnalité avec des traits impulsifs et narcissiques, non décompensée. La capacité de travail était de 50 % dans une activité adaptée (rapport du 11 octobre 2007).
Le 17 octobre 2008, l'OAI a fait part à l'assuré de son intention de lui allouer une demi-rente d'invalidité à compter du 1er août 2005; admettant, pour fixer le revenu d'invalide, un abattement de 10 % sur le salaire statistique pris en compte, l'administration a établi un taux d'invalidité de 59 %.
Les docteurs L._ et C._, de l'Unité de psychiatrie ambulatoire de X._, ont signalé à l'OAI que leur patient, dont l'état de santé se détériorait, souffrait d'un trouble somatoforme persistant et d'un trouble de la personnalité avec traits paranoïaques et impulsifs. Selon eux, K._ présentait une capacité de travail nulle (rapport du 20 novembre 2008).
Par décision du 14 avril 2009, l'OAI a alloué à l'assuré, à compter du 1er mai 2009, une demi-rente de l'assurance-invalidité fondée sur un taux d'invalidité de 59 %.
B. L'assuré a déféré cette décision à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud. Il a conclu à l'octroi, à compter 1er août 2005, principalement d'une rente entière de l'assurance-d'invalidité, subsidiairement de trois quarts de rente. Par jugement du 28 mars 2011, la juridiction cantonale a rejeté le recours et confirmé la décision de l'OAI.
C. K._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut au renvoi de la cause à l'OAI pour complément d'instruction sous forme d'expertise et nouvelle décision en tenant compte, pour le calcul du revenu d'invalide, d'un abattement sur le salaire statistique d'au moins 20 %.
Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.
D. Par ordonnance du 13 juillet 2011, le Tribunal fédéral a rejeté la demande d'assistance judiciaire déposée par K._.
Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF, et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). La partie recourante qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées sinon un état de fait divergent ne peut être pris en considération. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
2. L'instance cantonale a considéré que l'aggravation de l'état de santé du recourant justifiait le passage d'un quart de rente à une demi-rente d'invalidité. Se fondant sur les conclusions des médecins du SMR, elle a retenu une capacité résiduelle de travail de 50 % dans une activité adaptée à compter de septembre 2004. Par ailleurs, il n'y avait pas de motifs particuliers qui justifiaient de s'écarter de l'abattement de 10 % sur le salaire statistique retenu par l'intimé. Compte tenu de ces éléments, le taux d'invalidité du recourant était de 59 %.
3. 3.1 Se référant à l'arrêt publié aux ATF 135 V 469, le recourant se plaint tout d'abord d'une violation de l'art. 6 CEDH en relation avec l'art. 45 LPGA. Selon lui, les premiers juges auraient dû avoir des doutes quant à l'existence d'une capacité résiduelle de travail de 50 %, retenue par les médecins du SMR. Cette conclusion reposerait essentiellement sur le fait qu'il a pu rester en position assise durant l'entretien qu'il a eu avec ces médecins, et serait démentie par ses psychiatres traitants et par le docteur A._. Dans ces conditions, l'instance cantonale aurait dû ordonner la réalisation d'une expertise pour clarifier sa situation médicale, d'autant que le taux d'invalidité retenu était proche du seuil de 60 % qui lui ouvrirait le droit à trois quarts de rente.
3.2 Cette argumentation ne résiste pas à l'examen.
3.2.1 En ce qui concerne la valeur probante d'un rapport médical, ce qui est déterminant, c'est que les points litigieux aient fait l'objet d'une étude circonstanciée, que le rapport se fonde sur des examens complets, qu'il prenne également en considération les plaintes exprimées par la personne examinée, qu'il ait été établi en pleine connaissance de l'anamnèse, que la description du contexte médical et l'appréciation de la situation médicale soient claires et enfin que les conclusions médicales soient dûment motivées. Au demeurant, l'élément déterminant pour la valeur probante n'est ni l'origine du moyen de preuve ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (ATF 125 V 351 consid. 3a p. 352; ATF 122 V 157 consid. 1c p. 160 et les références; arrêt 9C_1023/2008 du 30 juin 2009 consid. 2.1.1).
Dans une procédure portant sur l'octroi ou le refus de prestations d'assurances sociales, le Tribunal fédéral a récemment précisé que lorsqu'une décision administrative s'appuie exclusivement sur l'appréciation d'un médecin interne à l'assureur social et que l'avis d'un médecin traitant ou d'un expert privé auquel on peut également attribuer un caractère probant laisse subsister des doutes même faibles quant à la fiabilité et la pertinence de cette appréciation, la cause ne saurait être tranchée en se fondant sur l'un ou sur l'autre de ces avis et il y a lieu de mettre en oeuvre une expertise par un médecin indépendant selon la procédure de l'art. 44 LPGA ou une expertise judiciaire (ATF 135 V 465 consid. 4.6 p. 471; arrêt 8C_456/2010 du 19 avril 2011 consid. 3).
3.2.2 Le recourant n'avance aucun argument qui permettrait de remettre en cause la valeur probante du rapport des médecins du SMR pourtant circonstancié et soigneusement élaboré. Quoi qu'il en dise, ceux-ci ont motivé leurs conclusions relatives à sa capacité résiduelle de travail (cf. rapport, pp. 10 s.). Comme l'a indiqué l'instance cantonale, les docteurs I._ et B._ ont en outre exposé de manière convaincante pourquoi ils s'écartaient de la position des docteurs P._ et M._, et le rapport des docteurs L._ et C._ ne fait état d'aucun élément médical dont les médecins du SMR n'auraient pas tenu compte. Au surplus, les deux rapports de l'Unité de psychiatrie ambulatoire de X._ sont brefs, peu étayés et insuffisamment motivés pour bénéficier d'une pleine force probante. Dès lors, ils n'étaient pas à même de laisser subsister des doutes quant à la fiabilité et la pertinence de l'appréciation des docteurs I._ et B._. Il en va de même du rapport du docteur A._, lequel du reste se prononce uniquement sur la capacité résiduelle de travail dans l'activité habituelle. Dans ces conditions, il n'y avait pas lieu de mettre en ?uvre une expertise judiciaire; les premiers juges étaient donc fondés à considérer que les faits tels qu'ils ressortaient du rapport des médecins du SMR présentaient un degré de vraisemblance prépondérante et que d'autres mesures probatoires n'auraient pas pu modifier cette appréciation (appréciation anticipée des preuves; cf. ATF 130 II 425 consid. 2.1 p. 429; 125 I 127 consid. 6c/cc in fine p. 135).
4. 4.1 Le recourant critique en deuxième lieu le taux d'abattement de 10 % retenu par la juridiction cantonale pour déterminer son revenu d'invalide. Il soutient qu'au vu de ses limitations fonctionnelles et de son âge, il pouvait prétendre à une réduction de 20 % au minimum.
4.2 La mesure dans laquelle les salaires ressortant des statistiques doivent être réduits dépend de l'ensemble des circonstances personnelles et professionnelles du cas particulier (limitations liées au handicap, âge, années de service, nationalité/catégorie d'autorisation de séjour et taux d'occupation). Une déduction globale maximale de 25 % sur le salaire statistique permet de tenir compte des différents éléments qui peuvent influencer le revenu d'une activité lucrative (cf. ATF 126 V 75 consid. 5b/aa-cc p. 79 s.).
4.3 Alors que le point de savoir s'il y a lieu de procéder à un abattement sur le salaire statistique en raison de circonstances particulières (liées au handicap de la personne ou d'autres facteurs) est une question de droit qui peut être examinée librement par le Tribunal fédéral, l'étendue de l'abattement du salaire statistique dans un cas concret constitue une question relevant du pouvoir d'appréciation, qui est soumise à l'examen du juge de dernière instance uniquement si la juridiction cantonale a exercé son pouvoir d'appréciation de manière contraire au droit, soit a commis un excès positif ("Ermessensüberschreitung") ou négatif ("Ermessensunter-schreitung") de son pouvoir d'appréciation ou a abusé ("Ermessensmissbrauch") de celui-ci (ATF 137 V 71 consid. 5.1 p. 72 s.; ATF 132 V 393 consid. 3.3 p. 399).
Il y a abus du pouvoir d'appréciation lorsque l'autorité, tout en restant dans les limites du pouvoir d'appréciation qui est le sien, se fonde sur des considérations qui manquent de pertinence et sont étrangères au but visé par les dispositions légales applicables, ou viole des principes généraux du droit tels que l'interdiction de l'arbitraire et de l'inégalité de traitement, le principe de la bonne foi et le principe de la proportionnalité (ATF 123 V 150 consid. 2 p. 152 et les références). Commet un excès positif de son pouvoir d'appréciation, l'autorité qui exerce son appréciation alors que la loi l'exclut, ou qui, au lieu de choisir entre les deux solutions possibles, en adopte une troisième. Il y a également excès du pouvoir d'appréciation dans le cas où l'excès de pouvoir est négatif, soit lorsque l'autorité considère qu'elle est liée, alors que la loi l'autorise à statuer selon son appréciation, ou qu'elle renonce d'emblée en tout ou partie à exercer son pouvoir d'appréciation (ATF 137 V 71 consid. 5.1 p. 73; ATF 116 V 307 consid. 2 p. 310 et les références).
4.4 L'argumentation du recourant n'est pas propre à démontrer que la juridiction cantonale aurait commis un excès positif ou négatif de son pouvoir d'appréciation ou aurait abusé de celui-ci. Les premiers juges ont relevé que de nombreuses activités professionnelles lui étaient encore accessibles en dépit de ses limitations fonctionnelles. Le recourant n'oppose aucun argument spécifique à cette affirmation, se contentant d'énumérer ces limitations, telles qu'elles ressortent du rapport des médecins du SMR. C'est en vain qu'il reproche aux premiers juges de ne pas avoir pris en compte son âge dans une plus large mesure. En effet, au moment déterminant où la juridiction cantonale a apprécié la situation (arrêt 9C_93/2008 du 19 janvier 2009 consid. 7.3), il était âgé de 58 ans et sept mois; il n'avait par conséquent pas atteint l'âge à partir duquel le Tribunal fédéral reconnaît généralement que ce facteur devient déterminant et nécessite une approche particulière (arrêts 9C_104/2008 du 15 octobre 2008 consid. 4 et les références citées; 9C_651/2008 du 9 octobre 2009 consid. 6.2.2.2).
5. Il suit de ce qui précède que le recours est mal fondé et doit être liquidé selon la procédure simplifiée (art. 109 al. 2 let. a LTF). Le recourant, qui succombe, doit en supporter les frais (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 8 novembre 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Bouverat