A.- H._, est entré en Suisse le 12 février 1993. Divorcé, il a deux enfants, nés en 1993 et 1996. Le 9 janvier 1997, H._ a présenté une demande de reclassement dans une nouvelle profession ou de rééducation dans la même profession. Il indique qu'il est traité pour un état dépressif depuis 1996. Dans un rapport du 18 août 1997, le docteur A._, médecin traitant, spécialiste en médecine générale, pose le diagnostic de troubles de l'adaptation, perturbation des émotions, traits paranoïdes et antisociaux. Il fixe le degré d'incapacité de travail de l'assuré à 100%, à partir du 1er mai 1997. Il ajoute que le début de l'atteinte à la santé remonte probablement à l'adolescence. H._ a fait sept brefs séjours, de juillet 1996 à janvier 1999, à la Fondation X._ de l'Hôpital psychiatrique Y._ (rapports médicaux des 7 août et 6 septembre 1996, du 31 juillet 1997, des 14 août, 18 et 28 décembre 1998, ainsi que du 12 février 1999). Par décision du 7 février 2000, fondée sur un rapport du 29 juillet 1999 de son médecin-conseil, le docteur B._, l'Office de l'assurance-invalidité du canton de Vaud (ci-après: OAI) a rejeté la demande de prestations de l'assuré, au motif qu'il ne présentait pas une atteinte à la santé invalidante entraînant une incapacité de travail et de gain. B.- Par jugement du 9 novembre 2000, le Tribunal des assurances du canton de Vaud a rejeté le recours formé contre cette décision par l'assuré. C.- H._ interjette recours de droit administratif contre ce jugement, en concluant implicitement au versement d'une rente entière d'invalidité. A l'appui de son recours, il invoque, notamment, un rapport du docteur A._ (du 20 avril 2000). Par la suite, il a demandé à être mis au bénéfice de l'assistance judiciaire. L'OAI conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé à son sujet.