Faits :
A.
Statuant le 12 février 2016, le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, a rejeté le recours formé par A._ contre la décision rendue en dernier lieu le 26 juin 2014 par l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) ensuite d'une demande de prestations de l'assurance-invalidité déposée le 10 mai 2000.
B.
A._ forme un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut principalement à l'octroi d'une rente entière de l'assurance-invalidité depuis le 12 janvier 2000, fondée sur un taux d'invalidité de 100 %, et subsidiairement au renvoi de la cause à l'office AI pour complément d'instruction. Son recours est par ailleurs assorti d'une demande d'assistance judiciaire.
L'office AI et l'Office fédéral des assurances sociales ont renoncé à se déterminer sur le recours.

Considérant en droit :
1.
Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), n'étant limité ni par les arguments de la partie recourante, ni par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par l'autorité précédente (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). La partie recourante qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées, sinon un état de fait divergent ne peut être pris en considération (<ref-law>).
2.
Sur le plan formel, invoquant une violation de l'art. 6 par. 1 CEDH, le recourant reproche aux premiers juges d'avoir refusé l'organisation de débats publics malgré la demande y relative formulée dans son recours du 11 juillet 2014.
2.1. L'art. 30 al. 3 Cst., selon lequel l'audience et le prononcé du jugement sont publics, ne confère pas au justiciable de droit à une audience publique. Il se limite à garantir qu'une telle audience se déroule publiquement lorsqu'il y a lieu d'en tenir une. Le droit à des débats existe seulement pour les causes qui bénéficient de la protection de l'art. 6 par. 1 CEDH, lorsque la procédure applicable le prévoit ou lorsque sa nécessité découle des exigences du droit à la preuve (<ref-ruling> consid. 2.6 p. 293). L'art. 6 par. 1 CEDH garantit notamment à chacun le droit à ce que sa cause soit entendue publiquement. L'obligation d'organiser des débats publics au sens de cette disposition suppose une demande formulée de manière claire et indiscutable. Une requête de preuve (demande tendant à la comparution personnelle, à l'interrogatoire des parties, à l'audition de témoins ou à une inspection locale) ne suffit pas à fonder une telle obligation (<ref-ruling> consid. 2c p. 51 et 3a p. 55). Saisi d'une demande tendant à la mise en oeuvre de débats publics, le juge doit en principe y donner suite. Il peut cependant s'abstenir dans les cas prévus par l'art. 6 par. 1 seconde phrase CEDH, lorsque la demande est abusive (chicanière ou dilatoire), lorsqu'il apparaît clairement que le recours est infondé, irrecevable ou, au contraire, manifestement bien fondé ou lorsque l'objet du litige porte sur des questions hautement techniques (cf. <ref-ruling> consid. 1 p. 280; <ref-ruling> consid. 2.3 p. 333; <ref-ruling> consid. 3b p. 55). Le Tribunal fédéral a par ailleurs précisé qu'il ne pouvait être renoncé à des débats publics au motif que la procédure écrite convenait mieux pour discuter de questions d'ordre médical, même si l'objet du litige porte essentiellement sur la confrontation d'avis spécialisés au sujet de l'état de santé et de l'incapacité de travail d'un assuré en matière d'assurance-invalidité (<ref-ruling> consid. 3 p. 283).
2.2. En l'espèce, les premiers juges ne pouvaient pas renoncer à organiser des débats publics pour les motifs invoqués dans l'arrêt entrepris - l'instruction du dossier était complète, la tenue d'une audience n'étant pas de nature à influer sur le sort du litige - sous peine de violer le droit fédéral. Il s'agit en effet d'une procédure bénéficiant de la protection de l'art. 6 par. 1 CEDH (<ref-ruling> consid. 2a p. 501; <ref-ruling> consid. 2a p. 50) et qui ne tombe en l'espèce pas sous le coup d'une exception prévue par la jurisprudence (supra consid. 2.1). Il ne s'agit en particulier pas d'une procédure consacrée exclusivement à des points de droit ou hautement techniques. Il existe par ailleurs une demande certes non motivée mais claire et indiscutable dans ses termes qui ne saurait être confondue avec une simple requête de preuve. Dans ces circonstances, l'acte attaqué doit être annulé et la cause renvoyée à la juridiction cantonale afin qu'elle organise des débats publics et rende une nouvelle décision.
3.
Vu l'issue du litige, il convient de mettre les frais et dépens de la procédure à la charge de l'office intimé (art. 66 al. 1 et 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est partiellement admis. La décision du Tribunal cantonal du canton de Vaud, Cour des assurances sociales, du 12 février 2016 est annulée. La cause est renvoyée à l'autorité précédente pour nouvelle décision dans le sens des considérants. Le recours est rejeté pour le surplus.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge de l'intimé.
3.
L'intimé versera à l'avocat du recourant la somme de 2'800 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 1er septembre 2016
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Présidente : Glanzmann
Le Greffier : Bleicker