A.- D._, geboren 1965, stürzte am 5. Mai 1993 während der Arbeit, wobei er sein linkes Knie anschlug; die Unfallversicherung stellte ihre Leistungen mit Verfügung vom 4. Oktober 1994 ein, was letztinstanzlich mit Urteil des Eidgenössischen Versicherungsgerichts vom 29. September 1999 bestätigt wurde.
Am 15. Februar 1994 meldete sich D._ bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Appenzell Ausserrhoden holte in der Folge die Akten des Unfallversicherers sowie je einen Bericht des Hausarztes vom 28. März 1994 und des Arbeitgebers vom 27. März 1994 ein. Nach Durchführung einer beruflichen Abklärung beim Ostschweizerischen Blindenfürsorgeverein (Bericht vom 2. März 1995) und einer Begutachtung in der Medizinischen Abklärungsstelle der Invalidenversicherung (MEDAS) am Spital X._ (Gutachten vom 1. September 1995, inkl. psychiatrischem Konsilium des Dr. med.
S._, Spezialarzt Psychiatrie und Psychotherapie, vom 10. August 1995), nahm die IV-Stelle im Weiteren ein durch D._ veranlasstes Gutachten des Dr. med. K._, Leitender Arzt des Forensisch-Psychiatrischen Dienstes der Psychiatrischen Klinik, vom 13. Oktober 1995 zu den Akten.
Nach durchgeführtem Vorbescheidverfahren lehnte die IV-Stelle mit Verfügung vom 10. November 1995 den Anspruch des D._ auf Leistungen der Invalidenversicherung ab, da er in seiner bisherigen Tätigkeit vollständig arbeitsfähig sei.
B.- Die dagegen erhobene Beschwerde des D._ wies das Verwaltungsgericht des Kantons Appenzell Ausserrhoden mit Entscheid vom 19. Juni 1996 ab, nachdem ein Privatgutachten des Dr. med. H._, Psychiatrie und Psychotherapie FMH, vom 22. Januar 1996 zu den Akten genommen worden war. In teilweiser Gutheissung der Verwaltungsgerichtsbeschwerde des D._ hob das Eidgenössische Versicherungsgericht mit Urteil vom 29. September 1999 diesen Entscheid auf und wies die Sache zur Aktenergänzung und zu neuem Entscheid an das Verwaltungsgericht zurück.
Dieses beauftragte in der Folge - gegen den Willen des D._ - Dr. med. S._, sein psychiatrisches Konsilium vom 10. August 1995 zu ergänzen, was mit Bericht vom 30. Mai 2000 erfolgt ist; D._ reichte darauf eine Stellungnahme des Dr. med. K._ vom 13. Juli 2000 ein. Mit Entscheid vom 22. November 2000 lehnte das Verwaltungsgericht des Kantons Appenzell Ausserrhoden den Anspruch des D._ auf Leistungen der Invalidenversicherung abermals ab.
C.- D._ lässt Verwaltungsgerichtsbeschwerde führen mit den Anträgen, unter Aufhebung des vorinstanzlichen Entscheides und der Verwaltungsverfügung seien ihm auf der Basis einer vollständigen Arbeits- und Erwerbsunfähigkeit die gesetzlichen Leistungen (Eingliederung und Rente) zuzusprechen, eventualiter sei die Sache zur Festlegung der Versicherungsleistungen an das kantonale Gericht oder die Verwaltung zurückzuweisen; subeventualiter sei die Sache zur weiteren Abklärung und zu neuem Entscheid an die Vorinstanz oder die IV-Stelle zurückzuweisen.
Vorinstanz und IV-Stelle schliessen auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.
D.- Im Nachgang zur Verwaltungsgerichtsbeschwerde lässt D._ via IV-Stelle ein Gutachten des Dr. med.
E._, Chefarzt des Psychiatriezentrums, vom 20. März 2002 einreichen.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) In formeller Hinsicht rügt der Beschwerdeführer, dass der Präsident und der Gerichtsschreiber der Vorinstanz befangen seien, da sie am Erlass des ausländerrechtlichen Entscheides vom 28. April 1999 (einer anderen Abteilung) des kantonalen Gerichts beteiligt gewesen seien; darin sei dem Versicherten mangels Invalidität der Anspruch auf eine ausländerrechtliche Aufenthaltsbewilligung verneint worden.
b) Nach der materiell unverändert von Art. 58 aBV in Art. 30 Abs. 1 BV überführten, ebenfalls in Art. 6 Ziff. 1 EMRK enthaltenen Garantie des verfassungsmässigen Richters hat der Einzelne Anspruch darauf, dass seine Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter ohne Einwirken sachfremder Umstände entschieden wird. Liegen bei objektiver Betrachtungsweise Gegebenheiten vor, die den Anschein der Befangenheit und die Gefahr der Voreingenommenheit zu begründen vermögen, so ist die Garantie verletzt (BGE 127 I 198 Erw. 2b mit Hinweisen).
c) Das vorliegende invalidenversicherungsrechtliche Verfahren wurde mit Beschwerde vom 7. Dezember 1995 erstmals beim vorinstanzlichen Gericht anhängig gemacht und mit Entscheid vom 19. Juni 1996 (vorläufig) abgeschlossen, während das ausländerrechtliche Verfahren vor dieser Instanz mit Beschwerde vom 22. Mai 1998 eingeleitet und - unter Mitwirkung des Präsidenten und des Gerichtsschreibers - mit Entscheid vom 28. April 1999 abgeschlossen worden ist. Im letzteren Verfahren wurden jedoch keine Wertungen zum Bestehen oder Nichtbestehen einer Invalidität getroffen, sondern einzig festgehalten, dass das Vorliegen eines invalidisierenden Gesundheitsschadens zur Zeit nicht nachgewiesen sei. Damit liegen für das invalidenversicherungsrechtliche Verfahren keine Gegebenheiten vor, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen.
2.- Die Vorinstanz hat den Invaliditätsbegriff bei psychischen Gesundheitsschäden (BGE 102 V 165; AHI 2001 S. 228 Erw. 2b mit Hinweisen; vgl. auch 127 V 298 Erw. 4c in fine) zutreffend dargestellt. Darauf wird verwiesen.
3.- Streitig ist, ob der Beschwerdeführer an einem invalidisierenden geistigen Gesundheitsschaden leidet.
a) Der erste Entscheid der Vorinstanz vom 19. Juni 1996 wurde vom Eidgenössischen Versicherungsgericht mit Urteil vom 29. September 1999 aufgehoben und es wurde die Sache an das kantonale Gericht zurückgewiesen, "damit es abklärt, ob der Beschwerdeführer an einem psychischen Gesundheitsschaden mit Krankheitswert (...) leidet und - gegebenenfalls - wie hoch die ihm unter sachlichen (Art der Arbeit) und zeitlichen (Arbeitspensum) Gesichtspunkten zumutbare Arbeitsfähigkeit ist. Anschliessend wird es erneut über die Beschwerde befinden. " Entgegen dem Antrag des Versicherten hat die Vorinstanz die Erstellung eines Obergutachtens abgelehnt und beschlossen, bei Dr. med. S._ ein Ergänzungsgutachten einzuholen, worin er sein Gutachten angesichts der Kritik des Dr. med. K._ sowie des Gutachtens des Dr. med. H._ zu ergänzen und folgende Fragen zu beantworten habe:
"1. Sie haben eine psychogene Fehlentwicklung nach Unfall diagnostiziert. Halten Sie an dieser Diagnose fest? Wenn ja, ist die Diagnose allenfalls zu ergänzen? Wenn nein, wie lautet Ihre heutige Diagnose?
2. Halten Sie daran fest, dass die 'subjektive Krankheitsüberzeugung, vor allem die Angst des Patienten, durch die Arbeit seine Gesundheit total ruinieren zu können', als unbegründet und ohne Einfluss auf dessen Arbeitsfähigkeit zu beurteilen ist?2. 1. Wenn ja, aus welchen Gründen? Kann der Beschwerdeführer, bei dem auch gemäss EVG kein somatischer Gesundheitsschaden besteht, die Fehlverarbeitung des Unfalles bzw. die beklagten Schmerzen durch das Aufbieten allen guten Willens überwinden und könnte er deshalb Arbeit im bisherigen Mass leisten?2. 2. Wenn nicht, aus welchen Gründen? Besteht ein psychischer Gesundheitsschaden mit Krankheitswert? Wie hoch ist diesfalls die dem Beschwerdeführer noch zumutbare Arbeitsfähigkeit in zeitlicher (Arbeitspensum) und sachlicher Hinsicht (Art der Arbeit)?"
Nach Eingang des - einen psychischen Gesundheitsschaden erneut verneinenden - Ergänzungsgutachtens des Dr. med.
S._ vom 30. Mai 2000 und unter Berücksichtigung der Äusserungen des Dr. med. K._ vom 13. Juli 2000, hat die Vorinstanz das Vorliegen eines psychischen Gesundheitsschadens, der die Arbeits- und Erwerbsfähigkeit beeinträchtige, verneint.
b) Der Versicherte rügt vorab, dass das kantonale Gericht ein Obergutachten hätte anordnen müssen anstatt Dr.
med. S._ zu beauftragen, sein vorheriges Gutachten und das Gegengutachten des Dr. med. K._ "autoritativ zu beurteilen".
Das Eidgenössische Versicherungsgericht hat im Urteil vom 29. September 1999 keinen konkreten Abklärungsauftrag erteilt, sondern die Umsetzung in das Ermessen der Vorinstanz gestellt. Die Bestellung eines Sachverständigen im kantonalen Verfahren wird dabei vom kantonalen Recht beherrscht, so dass das Eidgenössische Versicherungsgericht lediglich überprüfen kann, ob und inwiefern die Anwendung kantonalen Rechts eine Verletzung von Bundesrecht darstellt (ZAK 1986 S. 191 Erw. 5a mit Hinweisen), womit praktisch nur noch eine Prüfung der Verletzung verfassungsmässiger Rechte in Betracht fällt (BGE 125 V 408, 114 V 205 Erw. 1a mit Hinweisen). Es ist im Übrigen zu beachten, dass der Versicherte kein bundesrechtlich vorgesehenes Auswahlrecht betreffend Gutachter hat, sondern dass dieser von den Behörden bestimmt wird (Urteil R. vom 14. Juni 2000, I 218/00). In Rahmen ihres Ermessens konnte die Vorinstanz auf ein Obergutachten verzichten und beim ursprünglich begutachtenden Psychiater Dr. med. S._ eine Ergänzung einholen, da grundsätzlich nichts dagegen einzuwenden ist, dass ein Gutachter seine Feststellungen im späteren Verfahren ergänzt oder im Lichte neuer Tatsachen oder erhobener Einwendungen prüft, soweit dabei das bereits erstattete Gutachten zum Ausgangspunkt der weiteren Untersuchungen und Ausführungen gemacht wird (ZAK 1986 S. 191 Erw. 5b, nicht veröffentlichtes Urteil X. des schweizerischen Bundesgerichts vom 30. November 1998, 2A.259/1998). Gerade darum ging es im vorliegenden Fall: das vom Versicherten eingereichte Gutachten des Dr. med. K._ nahm einzig zum psychiatrischen Konsilium des Dr. med. S._ Stellung, ohne selber eine abschliessende Stellungnahme zur Arbeitsfähigkeit abzugeben, womit Dr. med. S._ sein ursprüngliches Konsilium ergänzt resp. im Lichte der neuen Tatsachen und Einwendungen im Gutachten des Dr. med.
K._ vom 13. Oktober 1995 überprüft hat. Das gewählte Vorgehen drängte sich um so mehr auf, als Dr. med.
S._ näher am Sachverhalt stand als ein neu zu berufender Obergutachter, und im Weiteren gemäss explizitem Auftrag des kantonalen Gerichts auch die - einen Teil des rechtserheblichen Sachverhaltes darstellende - Expertise des Dr. med. H._ vom 22. Januar 1996 zu berücksichtigen hatte.
c) Mit der gewählten Fragestellung (vgl. Erw. 3a hievor) hat das kantonale Gericht den Auftrag des Eidgenössischen Versicherungsgerichtes umgesetzt, da dem Experten die entscheidenden Fragen nach Vorliegen eines psychischen Gesundheitsschadens und der Arbeitsfähigkeit gestellt worden sind. Es bleibt dem kantonalen Gericht unbenommen, dem Experten weitere Fragen zu unterbreiten, solange diese die letztinstanzlich angeordneten Abklärungen nicht unterlaufen oder verhindern (z.B. durch widersprüchliche oder suggestive Fragestellung), was hier jedoch nicht der Fall ist. Im Übrigen waren die weiteren gestellten Fragen notwendig, da Dr. med. S._ sein Konsilium vom 10. August 1995 ja bloss ergänzen sollte; ohne diese Fragen und den damit hergestellten Zusammenhang wäre die Ergänzung nicht möglich gewesen.
d) Im Urteil des Eidgenössischen Versicherungsgerichts vom 29. September 1999 war bemängelt worden, dass Dr. med.
S._ in seinem Konsiliargutachten zuhanden der MEDAS vom 10. August 1995 zwar eine psychogene Fehlentwicklung nach Unfall diagnostiziert, aber auf der anderen Seite die "subjektive Angst des Patienten, durch die Arbeit seine Gesundheit total ruinieren zu können" als unbegründet und ohne Einfluss auf die Arbeitsfähigkeit bezeichnet hatte.
Mit Ergänzung vom 30. Mai 2000 hat der Experte am Nichtvorliegen eines invalidisierenden psychischen Gesundheitsschadens festgehalten und im Weiteren klargestellt, dass die "subjektive Angst ... durch die Arbeit die Gesundheit total ruinieren zu können" sich nicht aus der diagnostizierten psychogenen Fehlentwicklung nach Unfall entwickelt hat, sondern eine zielgerichtete Äusserung und Haltung darstellt, die im sekundären Krankheitsgewinn wurzelt; bei zumutbarer Willensanstrengung und gewisser Hilfe sei die Ausübung der bisherigen oder einer anderen Tätigkeit in vollem Ausmass zumutbar.
Die Gutachten des Dr. med. S._ sind nunmehr für den streitigen Belang des Vorliegens eines psychischen Gesundheitsschadens, der die Arbeits- und Erwerbsfähigkeit beeinträchtigt, umfassend, berücksichtigen die geklagten Beschwerden, sind in Kenntnis aller Vorakten abgegeben worden, leuchten in der Beurteilung der medizinischen Zusammenhänge und der medizinischen Situation ein und weisen begründete Schlussfolgerungen auf (BGE 125 V 352 Erw. 3a).
Dr. med. H._ hat im Privatgutachten vom 22. Januar 1996 zwar ebenfalls eine psychische Fehlentwicklung (anhaltende somatoforme Schmerzstörung; F45. 4) diagnostiziert, dieser jedoch einen Einfluss auf die Arbeitsfähigkeit beigemessen; diese Auffassung vermag die Ansicht des Dr. med.
S._ allerdings nicht zu erschüttern, da sich Dr.
med. H._ für seine Stellungnahme zur Arbeitsfähigkeit auf den Wiedereingliederungsversuch im Ostschweizerischen Blindenfürsorgeverein gestützt hat, der jedoch aus anderen als gesundheitlichen Gründen (Folgen der Falschinterpretation eines ärztlichen Zeugnisses durch den Versicherten aus sprachlichen Gründen) als nicht sehr aussagekräftig angesehen werden kann.
Der Beschwerdeführer hat das Ergänzungsgutachten des Dr. med. S._ wiederum Dr. med. K._ zur Stellungnahme unterbreitet. Die entsprechenden Ausführungen stellen jedoch kein Gutachten über den Gesundheitszustand des Versicherten dar, da Dr. med. K._ nicht sämtliche Vorakten zur Verfügung standen und er den Versicherten auch nie persönlich untersucht hat, was für ein psychiatrisches Gutachten jedoch grundsätzlich notwendig ist (RKUV 2001 Nr. U 438 S. 346 mit Hinweis) und hier keine entsprechende Ausnahmesituation vorliegt. Damit können die Beurteilungen des Gesundheitszustandes durch Dr. med.
K._ schon aus diesen Gründen keine eigenständige Grundlage für die Beurteilung der Invalidität sein. Im Übrigen vermag die Stellungnahme des Dr. med. K._ vom 13. Juli 2000 auch die Feststellungen des Dr. med.
S._ nicht zu erschüttern, da sie von unzutreffenden Prämissen ausgeht:
- Ein Hauptpunkt der Kritik des Dr. med. K._ läuft dahin, dass im Ergänzungsgutachten keine Aussagen über den heutigen Grad der Arbeitsfähigkeit gemacht würden; Dr. med.
K._ verkennt, dass praxisgemäss (BGE 121 V 366 Erw.
1b) der Zeitpunkt des Verfügungserlasses (d.h. November 1995) massgebend ist.
- Nicht als Auswirkungen einer krankhaften seelischen Verfassung (und damit invalidenversicherungsrechtlich nicht als relevant) gelten nach der Rechtsprechung (BGE 102 V 165; AHI 2001 S. 228 Erw. 2b mit Hinweisen) Beeinträchtigungen der Erwerbsfähigkeit, welche die versicherte Person bei Aufbietung allen guten Willens, Arbeit in ausreichendem Masse zu verrichten, zu vermeiden vermöchte, wobei das Mass des Forderbaren weitgehend objektiv bestimmt werden muss.
Dr. med. K._ geht demgegenüber zu Unrecht von einem rein subjektiven Massstab aus.
e) Der nachträglich eingereichte Bericht des Dr. med.
E._ vom 20. März 2002 betrifft den aktuellen Gesundheitszustand und trägt deshalb nichts weiter zur Feststellung des Sachverhaltes bei, wie er sich bis zum Verfügungserlass im November 1995 - Grenze der richterlichen Überprüfungsbefugnis (BGE 121 V 366 Erw. 1b) - verwirklicht hat, so dass offen bleiben kann, ob dieses neue Beweismittel überhaupt zu berücksichtigen ist, nachdem es nach Ablauf der Beschwerdefrist, und ohne dass ein zweiter Schriftenwechsel angeordnet wurde, aufgelegt worden ist (vgl. BGE 127 V 357 Erw. 4).
f) Somit ist davon auszugehen, dass im massgebenden Verfügungszeitpunkt (November 1995) kein psychischer Gesundheitsschaden vorlag, der die Arbeits- und Erwerbsfähigkeit beeinträchtigte. Da kein Gesundheitsschaden bestand, konnte in der Folge keine Invalidität im Sinne des Art. 4 Abs. 1 IVG und somit auch kein Anspruch auf Leistungen der Invalidenversicherung (Rente und Eingliederung) vorliegen.
Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Appenzell Ausserrhoden, der Ausgleichskasse des Kantons Appenzell Ausserrhoden und
dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 29. April 2002
Im Namen des
Eigenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Der Gerichtsschreiber: