A.- E._, geboren 1964, war bis 1986 auf dem erlernten Beruf als Autolackierer tätig gewesen. Vom 1. Dezember 1986 bis 31. Dezember 1988 war er als Kundenberater bei der Versicherung X._ und vom 1. Januar 1989 bis
30. April 1992 als Mitarbeiter im Aussendienst bei der Versicherungsgesellschaft Y._ angestellt. Die Auflösung des Arbeitsverhältnisses erfolgte seinen Angaben zufolge, weil er zusammen mit einem Geschäftspartner eine selbstständige Erwerbstätigkeit mit dem Import von Lebensmitteln aufnehmen wollte. Ab dem 9. September 1992 bezog er Arbeitslosenentschädigung. Am 14. Dezember 1992 erlitt er einen Verkehrsunfall, als ein anderes Fahrzeug in die hintere rechte Seite des von ihm gesteuerten Personenwagens stiess. In der Folge klagte er über Nacken- und Kopfschmerzen, welche nicht objektiviert werden konnten. Der Neurologe Dr. med. M._, bei welchem E._ ab
24. September 1996 in Behandlung stand, stellte die Diagnose "Posttraumatische Hirnleistungsschwäche, Status nach HWS-Distorsion, Posttraumatisches Cluster headache" und bezeichnete den Versicherten in der vorgesehenen selbstständigen Tätigkeit als vollständig arbeitsunfähig (Bericht vom 12. Februar 1997). Am 4. Februar 1997 meldete sich E._ zum Leistungsbezug bei der Invalidenversicherung an. Die IV-Stelle des Kantons St. Gallen ordnete eine stationäre Abklärung in der Beruflichen Abklärungsstelle (BEFAS) an, welche in der Zeit vom 11. August bis 5.
September 1997 stattfand und zum Schluss führte, dass dem Versicherten wegen der unregelmässig auftretenden und invalidisierenden Kopfwehattacken keine Tätigkeiten zumutbar sind, bei denen er die Arbeitszeit nicht frei einteilen kann; ungeeignet sind auch Tätigkeiten, die mit dem hauptberuflichen Führen von Fahrzeugen oder Bedienen von potentiell gefährlichen Maschinen verbunden sind. Unter Berücksichtigung dieser Einschränkungen schätzte die BEFAS die Arbeitsfähigkeit auf etwa 50 % (Bericht vom 18. September 1997). In der Folge wurde eine polydisziplinäre medizinische Begutachtung in der Medizinischen Abklärungsstelle (MEDAS) St. Gallen durchgeführt, welche die Hauptdiagnosen "posttraumatische Kopfschmerzen bei wahrscheinlicher Contusio cerebri" und "leichte neuropsychologische Funktionsstörung bei Status nach Schädel-Hirntrauma" ergab. Nach Auffassung der Gutachter ist der Versicherte in der vor dem Unfall ausgeübten Tätigkeit als Aussendienstmitarbeiter einer Versicherungsgesellschaft und in der vorgesehen gewesenen Tätigkeit als Teilhaber eines Lebensmittelimportgeschäftes arbeitsunfähig; für eine geeignete Verweisungstätigkeit wird die Arbeitsfähigkeit auf etwa 70 % geschätzt. Nach Einholung einer ergänzenden Stellungnahme der MEDAS und Durchführung des Vorbescheidverfahrens erliess die IV-Stelle am 12. Mai 1999 eine Verfügung, mit welcher sie dem Versicherten ab 1. Februar 1996 eine halbe Rente auf Grund eines Invaliditätsgrades von 50 % zusprach.
Dabei ging sie von einem Valideneinkommen als Autolackierer von Fr. 52'000.- aus und setzte das zumutbarerweise erzielbare Invalideneinkommen anhand von Tabellenlöhnen auf Fr. 26'000.- fest.
B.- Gegen diese Verfügung beschwerte sich E._ und machte geltend, die bestehenden Behinderungen schlössen jegliche Tätigkeit sowohl als Selbstständigerwerbender als auch als Angestellter auf dem allgemeinen Arbeitsmarkt aus, weshalb Anspruch auf eine ganze Rente bestehe. Mit der Beschwerde reichte er einen Bericht des Psychiaters Dr. med.
Z._ vom 7. April 1999 ein, worin die Diagnose eines organischen Psychosyndroms nach Schädel-Hirntrauma angegeben wird. Das Versicherungsgericht des Kantons St. Gallen setzte das Valideneinkommen in analoger Anwendung von Art. 26 Abs. 1 IVV auf Fr. 64'000.- fest, bejahte die Verwertbarkeit der von der MEDAS bestätigten Restarbeitsfähigkeit und ermittelte ein Invalideneinkommen von Fr. 37'665.-, wobei es vom herangezogenen Tabellenlohn einen Abzug von 25 % vornahm. Mit der Feststellung, dass der Invaliditätsgrad rund 56 % betrage, wies es die Beschwerde ab (Entscheid vom 5. Juli 2001).
C.- Vertreten durch Rechtsanwalt lic. iur. Mäder, Gossau, lässt E._ Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, in Aufhebung des angefochtenen Entscheids sei ihm ab 1. Februar 1996 eine ganze Rente zuzusprechen.
Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.
D.- Innert der gesetzlichen Frist erhebt auch die IV-Stelle St. Gallen Verwaltungsgerichtsbeschwerde und beantragt, der vorinstanzliche Entscheid sei aufzuheben und es sei festzustellen, dass kein Rentenanspruch bestehe.
E._ beantragt Abweisung der Verwaltungsgerichtsbeschwerde, soweit darauf einzutreten sei. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Da den beiden Verwaltungsgerichtsbeschwerden derselbe Sachverhalt zu Grunde liegt, sich - materiell - die gleichen Rechtsfragen stellen und die Rechtsmittel den nämlichen vorinstanzlichen Entscheid betreffen, rechtfertigt es sich, die beiden Verfahren zu vereinigen und in einem einzigen Urteil zu erledigen (BGE 123 V 215 Erw. 1; 120 V 466 Erw. mit Hinweisen; vgl. auch BGE 127 V 33 Erw. 1 und 157 Erw. 1, 126 V 285 Erw. 1; Poudret, Commentaire de la loi fédérale d'organisation judiciaire, Bd. 1, 343 unten f.).
2.- E._ bestreitet die Beschwerdebefugnis der IV-Stelle mit der Begründung, sie sei durch den angefochtenen Entscheid nicht beschwert, nachdem die Vorinstanz die Verwaltungsverfügung vom 12. Mai 1999 bestätigt habe.
a) Gemäss Art. 103 lit. c OG ist zur Verwaltungsgerichtsbeschwerde berechtigt jede andere Person, Organisation oder Behörde, die das Bundesrecht hiezu ermächtigt, wobei die Ermächtigung auch in einer Verordnung enthalten sein kann (BGE 127 V 215 Erw. 1a mit Hinweis; Gygi, Bundesverwaltungsrechtspflege,
2. Aufl. , S. 165). Nach Art. 202 AHVV, welche Bestimmung gemäss Art. 89 IVV im Bereich der Invalidenversicherung sinngemäss anwendbar ist, sind die beteiligten Ausgleichskassen und IV-Stellen (Art. 201 lit. c AHVV) berechtigt, die Entscheide der Rekursbehörden mit Verwaltungsgerichtsbeschwerde beim Eidgenössischen Versicherungsgericht anzufechten (Art. 69 IVG).
Als "beteiligt" im Sinne von Art. 201 lit. c AHVV gilt grundsätzlich jene Ausgleichskasse oder IV-Stelle, welche die im Rahmen des Beschwerdeverfahrens zu überprüfende Verfügung erlassen hat (vgl. ZAK 1992 S. 372 Erw. 2a).
b) Nach der Rechtsprechung ist die Beschwerdelegitimation nach Art. 103 lit. c OG nicht davon abhängig, dass die betreffende Person oder Institution sich über ein schutzwürdiges Interesse an der Aufhebung oder Änderung der Verfügung ausweisen kann (BGE 106 V 141 Erw. 1a mit Hinweisen).
Sachurteilsvoraussetzung bildet jedoch auch im Rahmen von Art. 103 lit. c OG, dass die beschwerdelegitimierte Person oder Institution durch den angefochtenen Entscheid beschwert ist (Gygi, a.a.O., S. 155). Im vorliegenden Fall fehlt es an einer Beschwer, nachdem die kantonale Rekursbehörde die vom Versicherten gegen die Verfügung vom 12. Mai 1999 eingereichte Beschwerde vollumfänglich abgewiesen hat.
Hieran ändert nichts, dass die Vorinstanz die Invaliditätsbemessung insofern abgeändert hat, als der Invaliditätsgrad von 50 % auf 56 % erhöht wurde. Massgebend dafür, ob eine materielle Beschwer vorliegt, ist allein das Dispositiv (ZAK 1974 S. 370 Erw. 2). Auf die Verwaltungsgerichtsbeschwerde der IV-Stelle ist daher nicht einzutreten.
3.- Streitig ist der für den Rentenanspruch massgebende Invaliditätsgrad (Art. 28 Abs. 2 IVG). Während die Vorinstanz die Invalidität mit 56 % bemessen hat, schliesst der Versicherte auf eine solche von mehr als zwei Dritteln.
a) Zu prüfen ist zunächst das für die Invaliditätsbemessung nach der Methode des Einkommensvergleichs massgebende Einkommen ohne die Invalidität (Valideneinkommen).
aa) E._ war von 1983 bis 1986 im gelernten Beruf als Autolackierer tätig gewesen, wobei er nach dem in den Akten enthaltenen IK-Auszug AHV-beitragspflichtige Einkommen zwischen Fr. 24'890.- und Fr. 32'283.- erzielt hat.
Von Dezember 1986 bis Ende 1988 war er als Aussendienstmitarbeiter bei der Versicherung X._ und von Januar 1989 bis April 1992 bei der Versicherungsgesellschaft Y._ angestellt. Während der Verdienst bei der X._ 1987 Fr. 32'301.- und 1988 Fr. 27'880.- betrug, erzielte er bei der Y._ Einkommen zwischen Fr. 41'194.- und Fr. 48'246.-. Nach der Auflösung des Arbeitsverhältnisses bereitete er sich auf die Aufnahme einer Erwerbstätigkeit als Lebensmittelimporteur vor. Noch vor der auf den 1. Januar 1993 geplanten Eröffnung des Betriebes kam es zum Unfall vom 14. Dezember 1992 und damit zur Aufgabe der vorgesehenen selbstständigen Tätigkeit. Es fehlt bezüglich dieser Tätigkeit daher an jeglichen Grundlagen für die Ermittlung des Valideneinkommens. Nicht abgestellt werden kann auch auf die frühere Tätigkeit als Autolackierer, weil der Versicherte diese Tätigkeit nur wenige Jahre ausgeübt und bereits 1986 aufgegeben hat, um in einem völlig andern Bereich zu arbeiten. Dass er ohne den Unfall wieder im ursprünglichen Beruf tätig geworden wäre, ist unwahrscheinlich, zumal er den Berufswechsel mit einer Überempfindlichkeit auf bestimmte Lacke begründet hat. Die geltend gemachte Absicht, zusammen mit dem Bruder den Betrieb des Vaters zu übernehmen, hat er anscheinend bereits vor dem Unfall fallen gelassen. Jedenfalls hat er vor dem Unfall von sich aus eine andere selbstständige Erwerbstätigkeit aufgenommen, was er kaum getan hätte, wenn eine Übernahme des väterlichen Geschäftes in absehbarer Zeit bevorgestanden hätte. Die Verwaltung ist bei der Festsetzung des Valideneinkommens daher zu Recht vom Einkommen ausgegangen, das der Versicherte ohne die Gesundheitsschädigung als Aussendienstmitarbeiter in der Versicherungsbranche erzielt hätte.
bb) Als Aussendienstmitarbeiter der Versicherungsgesellschaft Y._ hat der Versicherte laut IK-Auszug in den Jahren 1989 bis 1991 beitragspflichtige Einkommen von Fr. 45'813.-, Fr. 48'246.- und Fr. 41'194.- abgerechnet, was ein durchschnittliches Jahreseinkommen von Fr. 45'085.- ergibt. Umgerechnet auf das Jahr 1999 entsprechend der Nominallohnentwicklung (1992: 4,8 %, 1993: 2,7 %, 1994:
1,5 %, 1995: 1,3 %, 1996: 1,3 %, 1997: 0,5 %, 1998: 0,7 %, 1999: 0,3 %) resultiert ein Einkommen von Fr. 51'304.-, womit das gemäss Verfügung vom 12. Mai 1999 angenommene Valideneinkommen von Fr. 52'000.- bestätigt wird. Nach Auffassung des Versicherten kann hierauf nicht abgestellt werden, weil er bei seiner Tätigkeit einen unter dem branchenüblichen Lohn liegenden Verdienst erzielt hat. Dies trifft insofern zu, als der Versicherte nicht einmal den durchschnittlichen Monatslohn von Hilfsangestellten in der Versicherungsbranche erzielt hat, welcher sich im Jahr 1991 auf Fr. 4574.- (= Fr. 54'888.- im Jahr) belief (Lohn- und Gehaltserhebung des Bundesamtes für Industrie, Gewerbe und Arbeit [BIGA] vom Oktober 1991, S. 26, Tab. 17). Anhaltspunkte dafür, dass er sich bewusst mit einer reduzierten Erwerbstätigkeit und einem entsprechend geringen Verdienst begnügt hätte, liegen nicht vor. Es spricht angesichts der langen Beschäftigungsdauer auch nichts dafür, dass der Minderverdienst seinen Grund in fehlendem Einsatz oder mangelnden Fähigkeiten hatte. Anderseits ist zu berücksichtigen, dass der Versicherte erst 1986 in die Versicherungsbranche übergetreten war und in den Jahren 1989 bis 1991 erst über geringe Erfahrung und möglicherweise noch über keinen grossen Kundenstamm verfügte. Es darf angenommen werden, dass er das Einkommen bei einer Fortdauer des Arbeitsverhältnisses wesentlich hätte erhöhen können. Auf die effektiven Einkommen aus den Jahren 1989 bis 1991 kann daher nicht abgestellt werden. Entgegen den Erwägungen der Vorinstanz fällt auch eine analoge Anwendung von Art. 26 Abs. 1 IVV nicht in Betracht, weil es an einer entsprechenden Rechtsgrundlage fehlt und hiefür auch keine Notwendigkeit besteht. Mangels zuverlässiger anderer Unterlagen ist der hypothetische Verdienst ohne die Invalidität anhand von Tabellenlöhnen nach der vom Bundesamt für Statistik herausgegebenen Schweizerische Lohnstrukturerhebung (LSE) 1998 (Tabelle A.1.1.1) festzusetzen (zur Berücksichtigung von Tabellenlöhnen beim Valideneinkommen vgl. AHI 1999 S. 240 f. und Urteil T. vom 23. Mai 2000, U 243/99). Dabei rechtfertigt es sich, vom monatlichen Bruttolohn (Zentralwert) im Versicherungsgewerbe für Männer mit einfachen und repetitiven Tätigkeiten (Anforderungsniveau 4) von Fr. 5462.- auszugehen, was umgerechnet auf die betriebsübliche Arbeitszeit von 41,9 Stunden und unter Berücksichtigung der Nominallohnerhöhung im Jahr 1999 von 0,3 % ein Jahreseinkommen von Fr. 68'863.- ergibt.
b) Zu prüfen bleibt das vom Versicherten trotz der Gesundheitsschädigung zumutbarerweise zu erzielende Einkommen (Invalideneinkommen).
aa) Bezüglich der Zumutbarkeit von Arbeitsleistungen ist vorab auf die Ausführungen im polydisziplinären Gutachten der MEDAS vom 25. Mai 1998 abzustellen. Danach ist der Versicherte für Tätigkeiten, welche Anforderungen an die mündliche Kommunikation stellen, wie beispielsweise die vor dem Unfall ausgeübte Tätigkeit im Aussendienst von Versicherungsgesellschaften, nicht einsetzbar; ebenfalls ungeeignet ist er für Tätigkeiten, die mit dem hauptberuflichen Führen von Fahrzeugen verbunden sind. In angepassten andern Tätigkeiten beträgt die Einschränkung der Arbeitsfähigkeit 30 %. In einer Stellungnahme zuhanden der IV-Stelle vom 15. September 1998 hat die MEDAS ergänzend festgestellt, die angegebene Arbeitsfähigkeit von 70 % gelte auch für körperlich leichte Tätigkeiten in einem Anstellungsverhältnis, sofern keine direkte sprachliche Kommunikation erforderlich und die Arbeit nicht unter Zeitdruck zu verrichten sei. Die Frage, ob der Versicherte bei einem Beschäftigungsgrad von 70 % eine volle Arbeitsleistung zu erbringen vermöchte, beantworteten die Gutachter dahin, wegen der rezidivierenden Kopfschmerzen, aber vermutlich auch infolge gewisser Persönlichkeitseigenschaften, könne der Versicherte aller Wahrscheinlichkeit nach nicht konstant eine volle Arbeitsleistung erbringen. Als Verweisungstätigkeiten fielen Beschäftigungen in Betracht, die ohne Zeitdruck, im optimalen Fall mit der Möglichkeit freier Zeiteinteilung, und ohne erforderliche direkte sprachliche Kommunikation zu verrichten seien.
Auf Grund dieser ärztlichen Feststellungen kann der vom Versicherten vertretenen Auffassung, wonach er sowohl als Selbstständigerwerbender (wegen der Unfähigkeit Betriebsleitungsfunktionen zu übernehmen) als auch als Unselbstständigerwerbender (wegen der Unfähigkeit, eine feste Arbeitszeit einzuhalten) vollständig arbeitsunfähig sei, nicht gefolgt werden. Der Versicherte hat wiederholt die Kopfschmerzen in den Vordergrund gestellt, welche seinen Angaben zufolge mehrmals wöchentlich während einer halben bis zu mehreren Stunden auftreten. Aus den im MEDAS-Gutachten enthaltenen anamnestischen Angaben geht hervor, dass bezüglich der Intensität und Häufigkeit der Beschwerden eine Besserung eingetreten ist; zudem kann von der durch die MEDAS empfohlenen medikamentösen Therapie eine weitere Besserung erwartet werden. Es kann daher nicht angenommen werden, dass die Beschwerden derart schwerwiegend sind, dass sie jegliche Erwerbstätigkeit ausschliessen würden.
Wenn die BEFAS den Versicherten für alle Tätigkeiten ohne freie Wahl der Arbeitszeit als vollständig arbeitsunfähig bezeichnet, so vermag dies nicht zu überzeugen. Abgesehen davon, dass auch der BEFAS-Arzt lediglich von der Notwendigkeit einer "relativ freien Wahl" der Arbeitszeit gesprochen hatte, haben die MEDAS-Gutachter eine Tätigkeit mit freier Arbeitszeit als "optimal" bezeichnet, was dahin zu verstehen ist, dass - allenfalls mit Einschränkungen - auch andere Tätigkeiten in Betracht fallen. Im Übrigen bestehen selbst im Bereich der unselbstständigen Erwerbstätigkeit Beschäftigungen, bei denen die Arbeitszeit mehr oder weniger frei eingeteilt werden kann. Es besteht mithin kein Grund, von der MEDAS-Beurteilung abzugehen, welche auf einer eingehenden polydisziplinären Untersuchung des Versicherten beruht und in Kenntnis der Vorakten, einschliesslich der BEFAS-Beurteilung vom 18. September 1997, erfolgte.
Dies auch insofern nicht, als damit die Arbeitsfähigkeit in einer geeigneten leichteren Tätigkeit abweichend von der BEFAS auf 70 % festgesetzt wurde. Etwas anderes ergibt sich auch aus dem vom Versicherten im vorinstanzlichen Verfahren eingereichten Bericht des Psychiaters Dr.
med. Z._ vom 7. April 1999 nicht. Zwar wird darin erstmals ein organisches Psychosyndrom nach Schädel-Hirntrauma (ICD-10 F07. 2) diagnostiziert. Es handelt sich dabei jedoch nur um eine andere diagnostische Umschreibung der auch von den Ärzten der MEDAS festgestellten und berücksichtigten posttraumatischen Beschwerden bei Status nach Schädel-Hirntrauma. Anhaltspunkte für eine andere Beurteilung der Arbeitsfähigkeit ergeben sich daraus nicht.
bb) Mit der Verfügung vom 12. Mai 1999 hat die IV-Stelle das Invalideneinkommen gestützt auf die LSE 1994 auf Fr. 26'000.- festgesetzt. Sie ging dabei vom monatlichen Bruttolohn (Zentralwert) männlicher Arbeitnehmer im privaten Sektor bei einfachen und repetitiven Tätigkeiten (Anforderungsniveau 4) von Fr. 4127.- aus, was bei einer Arbeitsfähigkeit von 70 % ein Jahreseinkommen von Fr. 34'666.- ergibt, und nahm hievon einen Abzug von 25 % vor, was zum angenommenen Invalideneinkommen von Fr. 26'000.- führt. Die Vorinstanz hat diese Berechnung zu Recht in dem Sinne berichtigt, dass vom Tabellenlohn gemäss LSE 1998 von Fr. 4268.- auszugehen und dieser Betrag auf die betriebsübliche wöchentliche Arbeitszeit von 41,9 Stunden umzurechnen und der Nominallohnentwicklung im Jahr 1999 anzupassen ist, was bei einer Arbeitsfähigkeit von 70 % und einem Abzug von 25 % ein Invalideneinkommen von Fr. 28'248.- ergibt. Entgegen den Ausführungen in der Verwaltungsgerichtsbeschwerde des Versicherten kann nicht auf das 20%-Quantil (oder eine andere unter dem Median liegende Quantilsgrenze) gemäss Tabelle TB 2 der LSE abgestellt werden; vielmehr ist vom Median (in der Regel vom Zentralwert gemäss Tabelle A 1.1.1 bzw. TA 1) auszugehen und sind lohnmässige Benachteiligungen in Form eines Abzuges zu berücksichtigen (BGE 124 V 321 ff. und 126 V 75 ff.).
Im vorinstanzlichen Verfahren hat sich die IV-Stelle auf den Standpunkt gestellt, weil der Versicherte nur noch teilzeitlich angestellt werden könne, sei ein Abzug von 10 % zu tätigen, hingegen sei es nicht angebracht, einen so genannten Leidensabzug vorzunehmen, da er auch körperlich schwere Arbeiten auszuführen vermöge. Die MEDAS hat der IV-Stelle am 15. September 1998 ausdrücklich bestätigt, dass der Beschwerdeführer auch bei einem Beschäftigungsgrad von 70 % aller Wahrscheinlichkeit nach nicht konstant eine volle Arbeitsleistung zu erbringen vermöchte. Ebenso der Umstand, dass der Versicherte wegen der Kopfschmerzsymptomatik auf eine möglichst flexible Arbeitszeit angewiesen ist, spricht dafür, dass er die Restarbeitsfähigkeit im Rahmen einer Teilzeitarbeit verwerten sollte, weil bei Teilzeitbeschäftigung in der Regel eine vermehrte Flexibilität in Bezug auf die Arbeitszeit besteht. Gemäss LSE 1998 S. 20 betrug der Minderlohn für Männer (Anforderungsniveau 4) 6 % bei Teilzeitbeschäftigung zwischen 75 % und 90 % und 8,8 % bei einer Beschäftigung zwischen 50 % und 74 %. Es rechtfertigt sich daher, im vorliegenden Fall beim Abzug die Teilzeitbeschäftigung mit zu berücksichtigen. Als begründet erscheint auch das von der Vorinstanz erwähnte Merkmal der häufigen Arbeitsunterbrüche, weil sich die Notwendigkeit des Arbeitgebers, auf solche Unterbrüche Rücksicht nehmen zu müssen, erfahrungsgemäss als lohnmindernd auswirken kann. Nicht gegeben sind die Abzugskriterien des Alters, der Dienstjahre und der Nationalität bzw. Aufenthaltskategorie, weshalb ein Gesamtabzug im Maximalbetrag von 25 % (BGE 126 V 75) nicht in Betracht fällt. Angemessen erscheint ein Abzug von gesamthaft 15 %, was zu einem Invalideneinkommen von Fr. 32'015.- und im Vergleich zum Valideneinkommen von Fr. 68'863.- zu einem Invaliditätsgrad von 53,5 % führt. Im Übrigen würde der Invaliditätsgrad selbst bei einem maximalen Abzug von 25 % lediglich 59 % betragen und damit den für den Anspruch auf die ganze Rente massgebenden Wert von zwei Dritteln nicht erreichen. Mit der Vorinstanz ist die Verfügung vom 12. Mai 1999 im Ergebnis somit zu bestätigen.
c) Daran ändert sich auch dann nichts, wenn der Einkommensvergleich im Hinblick darauf, dass der Versicherte die ganze Rente ab 1. Februar 1996 verlangt, auf der Grundlage der Lohnangaben der LSE 1996 durchgeführt wird.
4.- In dem von der IV-Stelle angehobenen Verfahren obsiegt der durch einen Rechtsanwalt vertretene Versicherte, weshalb er zulasten der Gegenpartei Anspruch auf eine Parteientschädigung hat. Die für dieses Verfahren eingereichte Kostennote (Fr. 4365. 60 bei einem Honorar von Fr. 4000.-) ist übersetzt. In Anwendung des Tarifs über die Entschädigungen an die Gegenpartei für das Verfahren vor dem Eidgenössischen Versicherungsgericht vom 16. November 1992 (SR 173. 119.2) rechtfertigt es sich, die Entschädigung unter Berücksichtigung der Arbeitsleistung und des Zeitaufwandes für die Vernehmlassung auf Fr. 2000.- festzusetzen.
Mit der eigenen Verwaltungsgerichtsbeschwerde unterliegt der Versicherte. Es kann ihm für dieses Verfahren jedoch die unentgeltliche Verbeiständung gewährt werden (Art. 152 Abs. 2 OG), weil die Bedürftigkeit auf Grund der eingereichten Unterlagen zu bejahen ist, die Verwaltungsgerichtsbeschwerde nicht als aussichtslos qualifiziert werden kann und die Vertretung geboten war (BGE 124 V 309 Erw. 6).
Abweichend von der Kostennote (Fr. 6521. 30) wird die Entschädigung auf Fr. 2500.- festgesetzt. Im Übrigen wird ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten hat, wenn sie später dazu imstande ist.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verfahren I 596/01 und I 643/01 werden vereinigt.
II.Auf die Verwaltungsgerichtsbeschwerde der IV-Stelle des Kantons St. Gallen wird nicht eingetreten.
III. Die Verwaltungsgerichtsbeschwerde von E._ wird
abgewiesen.
IV.Es werden keine Gerichtskosten erhoben.
V.Die IV-Stelle des Kantons St. Gallen hat E._
eine Parteientschädigung von Fr. 2000.- (einschliesslich
Mehrwertsteuer) zu bezahlen.
VI.Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwalt lic. iur. Samuel Mäder für das Verfahren vor dem Eidgenössischen Versicherungsgericht
aus der Gerichtskasse eine Entschädigung (Honorar und
Auslagenersatz) von Fr. 2500.- (einschliesslich Mehrwertsteuer)
ausgerichtet.
VII. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, der Ausgleichskasse des Kantons St. Gallen und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 10. Juni 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Der Gerichtsschreiber: