Faits:
A. Par décision du 26 mai 2010, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: Office AI) a nié le droit de M._ à une rente d'invalidité. Il a considéré que si l'assuré présentait une capacité de travail nulle dans l'activité habituelle de chauffeur-livreur, il était en revanche apte à exercer une activité adaptée aux limitations fonctionnelles décrites par les médecins du SMR. Le revenu d'invalide était fondé sur le salaire auquel pouvaient prétendre des hommes effectuant une activité simple et répétitive dans le domaine privé (production et services) selon les statistiques salariales (TA1, niveau de qualification 4). Un abattement de 10 % était prévu pour tenir compte des limitations fonctionnelles de l'assuré. Pour l'année 2008 (ouverture du droit à la rente) le revenu d'invalide s'élevait à 55'251 fr. Il résultait de la comparaison avec le revenu sans invalidité de 50'609 fr. que l'assuré ne présentait aucun préjudice économique.
B. Par jugement du 16 août 2011, la Cour des assurances sociales du Tribunal cantonal vaudois a rejeté le recours formé par l'assuré contre la décision du 26 mai 2010 de l'Office AI.
C. M._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant au renvoi de la cause à la juridiction cantonale dans le sens des considérants.
Considérant en droit:
1. Le litige porte sur le montant du revenu d'invalide de l'assuré.
2. Le recourant fait tout d'abord grief aux premiers juges d'avoir confirmé le recours - par l'office intimé - aux données statistiques résultant de l'Enquête suisse sur la structure des salaires de l'Office fédéral de la statistique (ci-après: ESS) pour déterminer le revenu d'invalide exigible dans une activité adaptée. Il soutient derechef que l'application dans son cas d'un revenu d'invalide fondé sur ces statistiques créerait une inégalité de traitement flagrante compte tenu des variations très importantes entre les différents salaires générés par des activités simples et répétitives. Il conviendrait de prendre en considération la branche qui correspond à la valeur statistique la plus basse, soit 3'429 fr. par mois.
2.1 Le procédé de l'administration correspond toutefois à la jurisprudence constante en ce domaine (cf. par ex. arrêts 9C_44/2011 du 1er septembre 2011 consid. 5.4.2; 9C_210/2010 du 7 septembre 2010 consid. 3.5; 9C_71/2010 du 27 août 2010 consid. 3.6; 9C_609/2009 du 15 avril 2010 consid. 8.2.2). On ajoutera que l'évaluation du revenu d'invalide doit reposer sur un choix large et représentatif d'activités adaptées aux handicaps de la personne assurée et non pas seulement sur une seule (cf. arrêt 9C_1030/2008 du 4 juin 2009 consid. 3 et l'arrêt cité à ce propos). Le grief soulevé est mal fondé.
3. Le recourant critique par ailleurs le taux d'abattement retenu par la juridiction cantonale. Il soutient qu'au vu des circonstances, il pouvait prétendre à une réduction maximale de 25 %.
3.1 Ainsi que l'ont correctement exposé les premiers juges, la mesure dans laquelle les salaires ressortant des statistiques doivent être réduits dépend de l'ensemble des circonstances personnelles et professionnelles du cas particulier (limitations liées au handicap, âge, années de service, nationalité/catégorie d'autorisation de séjour et taux d'occupation). Une déduction globale maximale de 25 % sur le salaire statistique permet de tenir compte des différents éléments qui peuvent influencer le revenu d'une activité lucrative (cf. ATF 126 V 75 consid. 5b/aa-cc p. 79 s.). L'étendue de l'abattement (justifié dans un cas concret) constitue une question typique relevant du pouvoir d'appréciation, qui est soumise à l'examen du juge de dernière instance uniquement si la juridiction cantonale a exercé son pouvoir d'appréciation de manière contraire au droit, soit si elle a commis un excès positif ou négatif de son pouvoir d'appréciation ou a abusé de celui-ci (cf. ATF 132 V 393 consid. 3.3 p. 399), notamment en retenant des critères inappropriés, en ne tenant pas compte de circonstances pertinentes, en ne procédant pas à un examen complet des circonstances pertinentes ou en n'usant pas de critères objectifs (cf. ATF 130 III 176 consid. 1.2 p. 180).
3.2 Il n'y a pas lieu d'examiner ce qu'il en est en l'espèce. Même en admettant un abattement de 25 % sur le revenu d'invalide de 61'389 fr. (montant retenu par l'office intimé avant abattement de 10 %), il en résulterait un revenu d'invalide de 46'042 fr.; la comparaison avec le revenu sans invalidité de 50'609 fr. génère une perte de gain de 9 %, laquelle est insuffisante pour ouvrir le droit à la rente.
4. Manifestement infondé, le recours doit être rejeté selon la procédure simplifiée de l'art. 109 al. 2 let. a LTF. Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (art. 64 al. 1 LTF). Le recourant devra donc supporter les frais (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal vaudois et à l'Office fédéral des assurances sociales.
Lucerne, le 21 octobre 2011
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Berset