(Beweiswürdigung; rechtliches Gehör), hat sich ergeben:
A.- Die HB Maschinen & Werkzeug AG (nachstehend: HB) war in Zusammenarbeit mit deutschen Partnerfirmen an der Entwicklung diverser Typen von Kantenanleimmaschinen beteiligt.
Im November 1992 schloss sie mit der Wilhelm Altendorf GmbH & Co. KG einen Vorvertrag zu einem "Know-how-Vertrag über die Herstellung von Kantenanleimmaschinen". In der Folge verzichtete die Wilhelm Altendorf GmbH & Co. KG auf die im Vorvertrag vereinbarte Rückgabe der Konstruktionsunterlagen und übertrug die Rechte zur Herstellung von Kantenanleimmaschinen des Typs "Altendorf Akzent V31" auf die HB.
Solche Maschinen wurden noch bis ungefähr Mai 1993 hergestellt.
Am 8. Januar 1993 schloss die HB mit Peter Fankhauser, der unter seiner Einzelfirma eine Unternehmung für die Entwicklung und Herstellung von Maschinen betreibt, einen Vertrag, wonach er den Herstellungspreis der Kantenanleimmaschine "Altendorf Akzent V31" zu ermitteln hatte.
Dazu erhielt er nebst den entsprechenden Konstruktionszeichnungen und -plänen auch eine Kantenanleimmaschine zur Ansicht.
In den Monaten April und Mai 1993 entwickelten Peter Fankhauser und seine Mitarbeiter unter Berücksichtigung von Änderungsvorschlägen der HB den Prototyp einer gegenüber der "Altendorf Akzent V31" verbesserten Kantenanleimmaschine.
Diese wurde von der HB mit "Perfect V32" bzw.
"Akzent V32" und von Peter Fankhauser mit "KLM 2000" bezeichnet.
Im August 1993 lieferte Peter Fankhauser von dieser Maschine eine Nullserie von 6 Stück an die HB aus.
In Übereinstimmung mit einer Offerte von Peter Fankhauser vom 3. November 1993 bestellte die HB mit Schreiben vom 3. und 6. September 1993 50 Kantenanleimmaschinen "Perfect V32" zu einem Stückpreis von Fr. 5'500.--. Am 8. September 1993 bestätigte Peter Fankhauser diese Bestellung.
Des Weiteren legte er den Entwurf einer Vereinbarung bezüglich einer längerfristigen Zusammenarbeit der Parteien vor. Die Auftragsbestätigung und der Vereinbarungsentwurf wurden von der HB jedoch nicht unterzeichnet. Vielmehr unterbreitete sie Peter Fankhauser am 22. November 1993 einen eigenen Vertragsentwurf, der die HB als "Bestellerin" und Peter Fankhauser als "Unternehmer" bezeichnete. Nachdem sich die Parteien nicht über eine künftige Zusammenarbeit hatten einigen können, unterzeichneten sie am 10. März 1994 eine Vereinbarung, worin sie die Beendigung ihrer Vertragsbeziehungen regelten. Nach der Unterzeichnung dieser Vereinbarung lieferte Peter Fankhauser in den Monaten April und Mai 1994 über die ihm gehörende Arosys AG noch 33 der 50 von der HB bestellten Kantenanleimmaschinen aus. Während dieser Zeit verhandelte die HB mit der Arosys AG über eine allfällige Fortsetzung der Geschäftsbeziehungen, ohne jedoch eine Einigung finden zu können. Danach gab die HB bei einer Drittfirma die Herstellung weiterer Kantenanleimmaschinen in Auftrag und vertrieb diese unter der Bezeichnung "Akzent (Perfect) V32". Die neue Herstellerfirma belieferte die HB in der Zeit von Oktober 1994 bis Ende April 1996 mit insgesamt 47 Maschinen, von denen die HB gemäss eigenen Angaben 44 weiterverkaufen konnte. Bis Juli 1997 verkaufte die HB insgesamt 60 Maschinen.
Peter Fankhauser bemühte sich seinerseits, mittels eines Inserats in der Oktober-Ausgabe 1994 der "Schreinerzeitung" und eines Mailings die von ihm hergestellten Kantenanleimmaschinen direkt oder über Wiederverkäufer abzusetzen.
Auf Grund dieser Bemühungen konnte Peter Fankhauser lediglich eine einzige Maschine verkaufen.
Das Inserat in der Oktober-Ausgabe der "Schreinerzeitung" veranlasste die HB am 18. Oktober 1994, beim Gerichtspräsidenten von Konolfingen zu verlangen, Peter Fankhauser gerichtlich zu verbieten, Kantenanleimmaschinen des Typs "KLM 2000" oder ähnliche Maschinen zu verkaufen oder zum Verkauf anzubieten. Am 19. Oktober 1994 verfügte der Gerichtspräsident superprovisorisch ein entsprechendes Verkaufsverbot, welches er mit Entscheid vom 8. Dezember 1994 bestätigte, wobei er gleichzeitig eine Sicherheitsleistung von Fr. 100'000.-- verlangte. Deren Höhe wurde auf Appellation der HB vom Appellationshof des Kantons Bern auf Fr. 50'000.-- reduziert.
B.- Am 26. April 1995 klagte die HB beim Handelsgericht des Kantons Bern und stellte zusammengefasst den Antrag, Peter Fankhauser unter Androhung der Strafe gemäss Art. 403 Abs. 1 ZPO im Falle der Widerhandlung gerichtlich zu verbieten, die Kantenanleimmaschinen des von ihm für die Klägerin hergestellten Typs "KLM 2000" oder vergleichbare Maschinen direkt oder indirekt zu verkaufen oder in Verkehr zu bringen.
Weiter verlangte die Klägerin, die bei der Gerichtsschreiberei Konolfingen in Schlosswil hinterlegte Sicherheit von insgesamt Fr. 50'000.-- sei zuzüglich Zins zu ihren Gunsten freizugeben. Der Beklagte schloss auf Abweisung der Klage und machte gegenüber der Klägerin widerklageweise Schadenersatz in gerichtlich zu bestimmender, den Betrag von Fr. 8'000.-- übersteigender Höhe geltend. Weiter beantragte der Beklagte, die klägerische Sicherheitsleistung von Fr. 50'000.-- sei in Anrechnung an den Schadenersatz an ihn zu erstatten.
Mit Gesuch vom 15. April 1996 stellte der Beklagte dem Präsidenten des Handelsgerichts den Antrag, die von der Klägerin geleistete Sicherheit von Fr. 50'000.-- sei auf Fr. 350'000.--, eventuell auf einen geringeren, gerichtlich zu bestimmenden Betrag zu erhöhen. Mit Entscheid vom 25. Juni 1996 verfügte der Handelsgerichtspräsident, die Sicherheitsleistung sei innert 20 Tagen um weitere Fr. 65'000.-- zu erhöhen. Nachdem die Klägerin mitgeteilt hatte, diese zusätzliche Sicherheit nicht zu leisten, ist das Verkaufsverbot für den Beklagten per 17. Juli 1996 dahingefallen.
In Ergänzung der Klage stellte die Klägerin den Antrag, den Beklagten zu verpflichten, ihr Schadenersatz in gerichtlich zu bestimmender Höhe, mindestens aber im Umfange von Fr. 2'000.-- für jede verkaufte Maschine des Typs "KLM 2000" oder vergleichbarer Maschinen zuzüglich Zins zu bezahlen.
Anlässlich der Hauptverhandlung vom 27. Januar 1997 verlangte der Beklagte als neues Widerklagebegehren, der Klägerin sei unter Androhung der Rechtsfolgen gemäss Art. 403 Abs. 1 ZPO gerichtlich zu verbieten, Kantenanleimmaschinen des Typs "KLM 2000" bzw. "Akzent V32" oder vergleichbare Maschinen herzustellen, herstellen zu lassen, anzubieten, zu verkaufen oder sonstwie in Verkehr zu bringen. Weiter verlangte er von der Klägerin Schadenersatz in gerichtlich zu bestimmender, den Betrag von Fr. 8'000.-- übersteigender Höhe und die Herausgabe des Gewinns, den die Klägerin mit dem Verkauf von Kantenanleimmaschinen des Typs "KLM 2000" bzw. "Akzent V32", welche nicht vom Beklagten bzw. der Arosys AG geliefert wurden, erzielte.
Mit Urteil vom 18. Januar 2000 wies das Handelsgericht die Klage ab und verurteilte die Klägerin, dem Beklagten als Widerkläger Fr. 66'335.-- zuzüglich Zins zu 5 % seit
8. September 1997 zu bezahlen. Weiter hiess es das Verbotsbegehren des Beklagten gut. Schliesslich wies das Handelsgericht die Gerichtsschreiberei des Gerichtskreises VII Konolfingen an, die bei ihr hinterlegte Sicherheitsleistung von Fr. 50'000.-- (zuzüglich allfälliger Zinsen) nach Rechtskraft dieses Urteils direkt an den Beklagten auszuzahlen.
Die Klägerin hat gegen das Urteil des Handelsgerichts neben einer Berufung und einer staatsrechtlichen Beschwerde eine kantonale Nichtigkeitsklage eingereicht. Diese wurde vom Appellationshof des Kantons Bern mit Urteil vom 3. Juli 2000 abgewiesen, soweit darauf einzutreten war.
C.- Die Klägerin ficht das Urteil des Appellationshofes mit staatsrechtlicher Beschwerde an, mit der sie beantragt, es aufzuheben. Zudem ersuchte sie darum, der Beschwerde die aufschiebende Wirkung zuzuerkennen. Dieses Gesuch hat der Präsident der I. Zivilabteilung mit Verfügung vom 9. Oktober 2000 abgewiesen, soweit es nicht gegenstandslos geworden ist.
Der Beklagte schliesst auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne.
Der Appellationshof verzichtet auf eine Vernehmlassung.

Das Bundesgericht zieht in Erwägung:
1.- Die Beschwerdeführerin macht sinngemäss geltend, der Appellationshof sei in Willkür verfallen und habe Art. 9 BV verletzt, indem er nicht angenommen habe, das Handelsgericht habe es unterlassen, das Beweisergebnis bezüglich der Frage der Vergleichbarkeit der Maschinentypen "KLM 2000" und "Altendorf Akzent V32" anzugeben.
Damit macht die Beschwerdeführerin im Ergebnis geltend, der Appellationshof hätte auf eine Verletzung der aus dem Anspruch auf rechtliches Gehör fliessenden Begründungspflicht schliessen müssen. Diese Rüge ist unbegründet, weil das Handelsgericht ausdrücklich angab, dass es sich bei der "KLM 2000" nach übereinstimmender Meinung der Fachrichter mindestens zur Hälfte um eine eigenständige Entwicklung, mithin nicht um eine blosse Kopie der "Altendorf Akzent V31" handle und feststehe, dass der Beklagte und seine Mitarbeiter einen in technischer Hinsicht zwar mit der "Altendorf Akzent V31" vergleichbaren Kantenanleimmaschinen-Typ geschaffen, jedoch wesentliche eigene Konstruktionsideen dazu beigesteuert hätten. Damit ist ohne weiteres erkennbar, von welchem Beweisergebnis das Handelsgericht ausging, weshalb eine Verletzung der Begründungspflicht zu verneinen ist (vgl. <ref-ruling> E. 2c. S. 57 mit Hinweisen).
2.- Weiter rügt die Beschwerdeführerin, der Appellationshof habe dadurch, dass er auf die Kritik an der Qualität der Fachvoten nicht eingetreten sei, eine unzulässige Einschränkung der Kognition vorgenommen. Mit dieser Rüge macht die Beschwerdeführerin sinngemäss eine willkürliche Anwendung kantonalen Prozessrechts geltend. Sie legt jedoch nicht dar, inwiefern die Praxis des Appellationshofes, wonach im Rahmen der Prüfung der Verletzung des rechtlichen Gehörs gemäss 359 Ziff. 3 ZPO/BE auf appellatorische Kritik an der antizipierten Beweiswürdigung nicht einzutreten ist (vgl. ZBJV 121/1985, S. 288 ff; <ref-ruling> E. 3), offensichtlich unhaltbar sei. Auf die Beschwerde ist daher in diesem Punkt mangels Erfüllung der Begründungsanforderungen nicht einzutreten (<ref-ruling> E. 2a; <ref-ruling> E. 1d S. 201).
3.- Alsdann bringt die Beschwerdeführerin sinngemäss vor, der Appellationshof sei in Willkür verfallen, indem er in der Ablehnung der Einvernahme der Zeugen Wilhelm Altendorf und Siegfried Thiele keine Verletzung des rechtlichen Gehörs erblickt habe. Der Appellationshof habe verkannt, dass es beim Antrag auf Befragung der beiden Zeugen nicht bloss um die technische Beschaffenheit der strittigen Maschinen gegangen sei, sondern habe nachgewiesen werden sollen, dass der Beschwerdegegner ohne Dazutun der Beschwerdeführerin gar nicht in der Lage gewesen wäre, eine funktionierende Kantenanleimmaschine zu bauen. Diese Frage ist jedoch nicht rechtserheblich (vgl. Urteil zur konnexen Berufung, E. 3), weshalb diesbezüglich ein aus dem rechtlichen Gehör fliessender Anspruch auf eine Beweisabnahme zu verneinen ist (<ref-ruling> E. 3b S. 333).
4.- Schliesslich macht die Beschwerdeführerin geltend, der Appellationshof sei in Willkür verfallen, indem er dem Beschwerdegegner eine Parteientschädigung zuerkannt habe, die mit den tarifgemässen Gebühren schlicht nicht vereinbar sei. Die Beschwerdeführerin legt jedoch auch hier nicht rechtsgenüglich dar, inwiefern die Anwendung des kantonalen Prozessrechts offensichtlich unhaltbar sein soll, weshalb auf diese Rüge nicht einzutreten ist (<ref-ruling> E. 2a).
5.- Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig.

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Die Gerichtsgebühr von Fr. 4'000.-- wird der Beschwerdeführerin auferlegt.
3.- Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Appellationshof (Plenum) des Kantons Bern schriftlich mitgeteilt.
_
Lausanne, 5. Januar 2001
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: