A.- Souffrant de graves problèmes de la vue, P._, séparé, a présenté, le 15 mars 1999, une demande d'allocation pour impotent à la Caisse de compensation des médecins, dentistes et vétérinaires, à Saint-Gall (ci-après : la caisse).
Dans un rapport du 17 juin 1999, le docteur A._, spécialiste en ophtalmologie, a diagnostiqué une pseudophakie à l'oeil gauche, une cataracte débutante à l'oeil droit, un glaucome à stade avancé ddc, un status post-thrombose de la veine centrale à l'oeil droit avec acuité visuelle réduite à l'oeil gauche et un champ visuel extrêmement restreint également à l'oeil gauche en raison d'un glaucome avancé. Il a précisé que le prénommé, d'un point de vue oculaire, avait certainement de grandes difficultés à lire et à s'orienter du fait d'un champ visuel pratiquement éteint aux deux yeux.
Dans un rapport du 4 novembre 1999, l'assistante sociale B._ a constaté que l'assuré était autonome pour tous les actes ordinaires de la vie, sauf les déplacements à l'extérieur, et qu'il courait des dangers lorsqu'il prenait son bain seul.
Par décision du 2 décembre 1999, fondée sur un projet de décision du 12 novembre 1999 de l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après : OAI), la caisse a rejeté la demande d'allocation pour impotent formée par P._.
B.- Le prénommé a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud en concluant à l'octroi d'une allocation pour impotent.
Dans le cadre de l'instruction a été produit, notamment, un rapport du 10 mars 2000 du docteur C._, spécialiste en médecine interne.
Par jugement du 24 août 2000, la cour cantonale a rejeté le recours de l'assuré.
C.- P._ interjette recours de droit administratif contre ce jugement, dont il demande implicitement l'annulation, en concluant à l'octroi d'une allocation pour impotence grave ou moyenne.
La caisse s'est abstenue de toute proposition, en soulignant que l'examen des conditions mises à l'octroi d'une allocation pour impotent n'entre pas dans sa compétence, mais dans celle de l'OAI.
Invité par la Cour de céans à se prononcer sur le recours, l'OAI du canton de Vaud déclare n'avoir aucune remarque à formuler.
L'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- La caisse intimée ne s'est pas prononcée sur le recours, pour le motif que la question du droit à l'allocation pour impotent n'est pas de sa compétence (art. 43bis al. 5 deuxième phrase LAVS). A cet égard, ainsi que le Tribunal fédéral des assurances vient de le juger dans un arrêt du 27 juillet 2001 destiné à la publication (I 158/01), contrairement à qui est désormais le cas dans l'AI où la caisse de compensation a perdu son rôle de partie dans la procédure juridictionnelle consécutive à sa décision relative à des prestations de l'assurance-invalidité, elle l'a conservé dans le domaine de l'AVS (<ref-law>), même lorsque c'est à l'OAI qu'il incombe d'instruire la demande de prestations. Cela implique qu'en cas de recours de l'assuré, la caisse de compensation qui a rendu la décision administrative litigieuse ne peut se borner, comme en l'espèce, à s'abstenir de prendre position sur les conclusions du recours. Dans un tel cas, la caisse a l'obligation de requérir et de produire avec sa réponse au recours une prise de position motivée de l'OAI qui s'est prononcé sur le droit de l'assuré à une allocation pour impotent de l'AVS. Elle ne saurait en effet se décharger de cette tâche sur l'autorité de recours.
2.- En vertu de l'<ref-law>, 1ère phrase, ont droit à l'allocation pour impotent les bénéficiaires de rentes de vieillesse ou de prestations complémentaires qui ont leur domicile et leur résidence habituelle en Suisse, qui présentent une impotence grave ou moyenne et ne peuvent pas prétendre à l'allocation pour impotent prévue par la loi fédérale sur l'assurance-accidents ou par la loi fédérale sur l'assurance militaire.
3.- En ce qui concerne la notion et l'évaluation de l'impotence, les dispositions de la loi et du règlement sur l'assurance-invalidité sont applicables par analogie (<ref-law> et <ref-law>).
4.- a) Est considéré comme impotent l'assuré qui, en raison de son invalidité, a besoin de façon permanente de l'aide d'autrui ou d'une surveillance personnelle pour accomplir les actes ordinaires de la vie (<ref-law>).
Selon la jurisprudence, sont déterminants les six actes ordinaires suivants :
- se vêtir et se dévêtir;
- se lever, s'asseoir, se coucher;
- manger;
- faire sa toilette (soins du corps)
- aller aux W.-C.;
- se déplacer à l'intérieur ou à l'extérieur, établir
des contacts (<ref-ruling> consid. 4a et la
référence).
b) L'octroi d'une allocation pour impotent de l'AVS suppose une impotence grave ou moyenne (<ref-law>). L'impotence est grave lorsque l'assuré a besoin d'une aide régulière et importante d'autrui pour tous les actes ordinaires de la vie et que son état nécessite, en outre, des soins permanents ou une surveillance personnelle (<ref-law>). En vertu de l'al. 2 de cette disposition, l'impotence est moyenne si l'assuré, même avec des moyens auxiliaires, abesoin :
a) d'une aide régulière et importante d'autrui pour accomplir la plupart des actes ordinaires de la vie oub) d'une aide régulière et importante d'autrui pour accomplir au moins deux actes ordinaires de la vie et nécessite, en outre, une surveillance personnelle permanente.
5.- a) En l'espèce le premier juge a considéré, que le recourant avait besoin de l'aide d'autrui uniquement pour les déplacements à l'extérieur, qu'il ne nécessitait pas de surveillance personnelle permanente et que les conditions de l'octroi d'une allocation d'impotence de degré moyen n'étaient dès lors pas remplies.
b) Le recourant conteste cette appréciation. Il considère que sa cécité (presque totale), et ses troubles physiques aux épaules, hanches, orteils et colonne vertébrale, justifient l'octroi d'une allocation pour impotence grave.
Il fait valoir, notamment, qu'il est dans l'impossibilité de contrôler l'état de ses vêtements et chaussures (propreté, trous), de s'asseoir, se lever et se coucher sans risque de chute, de verser correctement du liquide dans un verre pour le boire, de couper la nourriture et de la porter à la bouche, de se raser, se coiffer, se couper les ongles des mains et des pieds, de prendre un bain sans danger, de viser la cuvette des toilettes. Il ressort également d'une écriture qu'il a produite devant la juridiction cantonale que sa cécité serait responsable de nombreuses chutes ayant causé des traumatismes aux deux épaules avec écrasement des ligaments, et des ruptures de tendons.
6.- a) Le dossier médical fait ressortir sans équivoque que le recourant présente, en sus de graves troubles de la vue, une raideur du segment lombaire, liée surtout à une importante arthrose et à une maladie de Forestier avancée, une douleur du gros orteil droit en relation avec un hallux valgus, des gonalgies occasionnelles et des douleurs d'insertion des deux grands trochanters (rapport du docteur C._ du 10 mars 2000).
b) Selon la jurisprudence, de manière générale on ne saurait réputer apte à un acte ordinaire de la vie l'assuré qui ne peut l'accomplir que d'une façon non conforme aux moeurs usuelles (<ref-ruling> consid. 2b). Par ailleurs, le Tribunal fédéral des assurances a jugé que, sous l'angle juridique, il n'y a aucune raison de traiter différemment un assuré qui n'est plus en mesure d'accomplir une fonction (partielle) en tant que telle ou ne peut l'exécuter que d'une manière inhabituelle et un assuré qui peut encore accomplir cet acte, mais n'en tire aucune utilité (<ref-ruling> consid. 3b).
c) En l'espèce, il est constant que le double handicap du recourant l'empêche d'accomplir, d'une manière conforme aux moeurs usuelles, l'acte de se baigner puisqu'il ne peut le faire sans danger, de sorte qu'on doit considérer, en application de la jurisprudence précitée, qu'il n'est pas apte à accomplir seul l'acte ordinaire de la vie consistant à faire sa toilette. L'impossibilité de se coiffer et de se raser dont se plaint le recourant constituent d'ailleurs des fonctions partielles du même acte.
d) Par ailleurs, aucun élément du dossier ne permet de retenir que le recourant nécessiterait une surveillance personnelle permanente, de sorte que, même si l'on peut admettre qu'il est incapable d'accomplir seul deux actes ordinaires de la vie - soit les déplacements à l'extérieur, comme l'a retenu à juste titre la cour cantonale, et sa toilette - les conditions de l'<ref-law> ne sont pas remplies en l'occurrence.
7.- Il reste à examiner si le recourant peut se prévaloir de l'<ref-law>, soit s'il a besoin d'une aide importante et régulière pour accomplir la plupart des actes ordinaires de la vie. Force est de constater que les avis médicaux, trop elliptiques, n'expliquent pas quels autres actes quotidiens ordinaires de la vie ne pourraient pas être accomplis par le recourant ou ne pourraient l'être qu'avec difficulté. Il en va de même du rapport de l'assistance sociale B._ qui consacre une demi-page à ce sujet.
Dans ces circonstances, les faits se révèlent insuffisamment élucidés sur des points décisifs, de sorte que la cause doit être renvoyée à l'administration (VSI 2000 p. 325 sv consid. 2a).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis en ce sens que le jugement du 24 août 2000 du Tribunal des assurances du canton de
Vaud, ainsi que la décision du 2 décembre 1999 de la
Caisse de compensation des médecins, dentistes et
vétérinaires sont annulés; la cause est renvoyée à
l'intimée pour complément d'instruction au sens des
motifs et nouvelle décision.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud, à l'Office de l'assurance-invalidité pour le canton de Vaud et à
l'Office fédéral des assurances sociales.
Lucerne, le 13 août 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
La Greffière :