(Beweiswürdigung; rechtliches Gehör), hat sich ergeben:
A.- Die HB Maschinen & Werkzeug AG (nachstehend: HB) war in Zusammenarbeit mit deutschen Partnerfirmen an der Entwicklung diverser Typen von Kantenanleimmaschinen beteiligt.
Im November 1992 schloss sie mit der Wilhelm Altendorf GmbH & Co. KG einen Vorvertrag zu einem "Know-how-Vertrag über die Herstellung von Kantenanleimmaschinen". In der Folge verzichtete die Wilhelm Altendorf GmbH & Co. KG auf die im Vorvertrag vereinbarte Rückgabe der Konstruktionsunterlagen und übertrug die Rechte zur Herstellung von Kantenanleimmaschinen des Typs "Altendorf Akzent V31" auf die HB.
Solche Maschinen wurden noch bis ungefähr Mai 1993 hergestellt.
Am 8. Januar 1993 schloss die HB mit Peter Fankhauser, der unter seiner Einzelfirma eine Unternehmung für die Entwicklung und Herstellung von Maschinen betreibt, einen Vertrag, wonach er den Herstellungspreis der Kantenanleimmaschine "Altendorf Akzent V31" zu ermitteln hatte.
Dazu erhielt er nebst den entsprechenden Konstruktionszeichnungen und -plänen auch eine Kantenanleimmaschine zur Ansicht.
In den Monaten April und Mai 1993 entwickelten Peter Fankhauser und seine Mitarbeiter unter Berücksichtigung von Änderungsvorschlägen der HB den Prototyp einer gegenüber der "Altendorf Akzent V31" verbesserten Kantenanleimmaschine.
Diese wurde von der HB mit "Perfect V32" bzw.
"Akzent V32" und von Peter Fankhauser mit "KLM 2000" bezeichnet.
Im August 1993 lieferte Peter Fankhauser von dieser Maschine eine Nullserie von 6 Stück an die HB aus.
In Übereinstimmung mit einer Offerte von Peter Fankhauser vom 3. November 1993 bestellte die HB mit Schreiben vom 3. und 6. September 1993 50 Kantenanleimmaschinen "Perfect V32" zu einem Stückpreis von Fr. 5'500.--. Am 8. September 1993 bestätigte Peter Fankhauser diese Bestellung.
Des Weiteren legte er den Entwurf einer Vereinbarung bezüglich einer längerfristigen Zusammenarbeit der Parteien vor. Die Auftragsbestätigung und der Vereinbarungsentwurf wurden von der HB jedoch nicht unterzeichnet. Vielmehr unterbreitete sie Peter Fankhauser am 22. November 1993 einen eigenen Vertragsentwurf, der die HB als "Bestellerin" und Peter Fankhauser als "Unternehmer" bezeichnete und folgende Passagen aufwies:
"1. Gegenstand
Die Parteien stellen vorab fest, dass der Unternehmer,
unter Berücksichtigung der Wünsche der Bestellerin sowie
auf der Grundlage der durch diese zur Verfügung gestellten,
von der Firma Altendorf erworbenen Pläne, basierend
auf der durch diese früher hergestellten Kantenleimmaschine
des Typs V 31, eine verbesserte und in weiten
Belangen erneuerte, nunmehr unter der Typenbezeichnung
Perfekt V 32 auf den Markt gebrachte Maschine entwickelt
hat.
Nachdem sich die Parteien nicht über eine künftige Zusammenarbeit hatten einigen können, unterzeichneten sie am 10. März 1994 eine Vereinbarung, worin sie die Beendigung ihrer Vertragsbeziehungen regelten. Nach der Unterzeichnung dieser Vereinbarung lieferte Peter Fankhauser in den Monaten April und Mai 1994 über die ihm gehörende Arosys AG noch 33 der 50 von der HB bestellten Kantenanleimmaschinen aus. Während dieser Zeit verhandelte die HB mit der Arosys AG über eine allfällige Fortsetzung der Geschäftsbeziehungen, ohne jedoch eine Einigung finden zu können. Danach gab die HB bei einer Drittfirma die Herstellung weiterer Kantenanleimmaschinen in Auftrag und vertrieb diese unter der Bezeichnung "Akzent (Perfect) V32". Die neue Herstellerfirma belieferte die HB in der Zeit von Oktober 1994 bis Ende April 1996 mit insgesamt 47 Maschinen, von denen die HB gemäss eigenen Angaben 44 weiterverkaufen konnte. Bis Juli 1997 verkaufte die HB insgesamt 60 Maschinen.
Peter Fankhauser bemühte sich seinerseits, mittels eines Inserats in der Oktober-Ausgabe 1994 der "Schreinerzeitung" und eines Mailings die von ihm hergestellten Kantenanleimmaschinen direkt oder über Wiederverkäufer abzusetzen.
Auf Grund dieser Bemühungen konnte Peter Fankhauser lediglich eine einzige Maschine verkaufen.
Das Inserat in der Oktober-Ausgabe der "Schreinerzeitung" veranlasste die HB am 18. Oktober 1994, beim Gerichtspräsidenten von Konolfingen zu verlangen, Peter Fankhauser gerichtlich zu verbieten, Kantenanleimmaschinen des Typs "KLM 2000" oder ähnliche Maschinen zu verkaufen oder zum Verkauf anzubieten. Am 19. Oktober 1994 verfügte der Gerichtspräsident superprovisorisch ein entsprechendes Verkaufsverbot, welches er mit Entscheid vom 8. Dezember 1994 bestätigte, wobei er gleichzeitig eine Sicherheitsleistung von Fr. 100'000.-- verlangte. Deren Höhe wurde auf Appellation der HB vom Appellationshof des Kantons Bern auf Fr. 50'000.-- reduziert.
B.- Am 26. April 1995 klagte die HB beim Handelsgericht des Kantons Bern und stellte zusammengefasst den Antrag, Peter Fankhauser unter Androhung der Strafe gemäss <ref-law> im Falle der Widerhandlung gerichtlich zu verbieten, die Kantenanleimmaschinen des von ihm für die Klägerin hergestellten Typs "KLM 2000" oder vergleichbare Maschinen direkt oder indirekt zu verkaufen oder in Verkehr zu bringen.
Weiter verlangte die Klägerin, die bei der Gerichtsschreiberei Konolfingen in Schlosswil hinterlegte Sicherheit von insgesamt Fr. 50'000.-- sei zuzüglich Zins zu ihren Gunsten freizugeben. Der Beklagte schloss auf Abweisung der Klage und machte gegenüber der Klägerin widerklageweise Schadenersatz in gerichtlich zu bestimmender, den Betrag von Fr. 8'000.-- übersteigender Höhe geltend. Weiter beantragte der Beklagte, die klägerische Sicherheitsleistung von Fr. 50'000.-- sei in Anrechnung an den Schadenersatz an ihn zu erstatten.
Mit Gesuch vom 15. April 1996 stellte der Beklagte dem Präsidenten des Handelsgerichts den Antrag, die von der Klägerin geleistete Sicherheit von Fr. 50'000.-- sei auf Fr. 350'000.--, eventuell auf einen geringeren, gerichtlich zu bestimmenden Betrag zu erhöhen. Mit Entscheid vom 25. Juni 1996 verfügte der Handelsgerichtspräsident, die Sicherheitsleistung sei innert 20 Tagen um weitere Fr. 65'000.-- zu erhöhen.
Nachdem die Klägerin mitgeteilt hatte, diese zusätzliche Sicherheit nicht zu leisten, ist das Verkaufsverbot für den Beklagten per 17. Juli 1996 dahingefallen.
In Ergänzung der Klage stellte die Klägerin den Antrag, den Beklagten zu verpflichten, ihr Schadenersatz in gerichtlich zu bestimmender Höhe, mindestens aber im Umfange von Fr. 2'000.-- für jede verkaufte Maschine des Typs "KLM 2000" oder vergleichbarer Maschinen zuzüglich Zins zu bezahlen.
Anlässlich der Hauptverhandlung vom 27. Januar 1997 verlangte der Beklagte als neues Widerklagebegehren, der Klägerin sei unter Androhung der Rechtsfolgen gemäss <ref-law> gerichtlich zu verbieten, Kantenanleimmaschinen des Typs "KLM 2000" bzw. "Akzent V32" oder vergleichbare Maschinen herzustellen, herstellen zu lassen, anzubieten, zu verkaufen oder sonstwie in Verkehr zu bringen. Weiter verlangte er von der Klägerin Schadenersatz in gerichtlich zu bestimmender, den Betrag von Fr. 8'000.-- übersteigender Höhe und die Herausgabe des Gewinns, den die Klägerin mit dem Verkauf von Kantenanleimmaschinen des Typs "KLM 2000" bzw.
"Akzent V32", welche nicht vom Beklagten bzw. der Arosys AG geliefert wurden, erzielte.
Mit Urteil vom 18. Januar 2000 wies das Handelsgericht die Klage ab und verurteilte die Klägerin, dem Beklagten als Widerkläger Fr. 66'335.-- zuzüglich Zins zu 5 % seit
8. September 1997 zu bezahlen. Weiter hiess es das Verbotsbegehren des Beklagten gut. Schliesslich wies das Handelsgericht die Gerichtsschreiberei des Gerichtskreises VII Konolfingen an, die bei ihr hinterlegte Sicherheitsleistung von Fr. 50'000.-- (zuzüglich allfälliger Zinsen) nach Rechtskraft dieses Urteils direkt an den Beklagten auszuzahlen.
C.- Die Klägerin hat gegen das Urteil des Handelsgerichts eine kantonale Nichtigkeitsklage eingereicht, welche vom Appellationshof des Kantons Bern am 3. Juli 2000 abgewiesen wurde, soweit darauf einzutreten war. Das Bundesgericht hat eine gegen diesen Entscheid gerichtete staatsrechtliche Beschwerde mit Urteil vom heutigen Tag abgewiesen, soweit es darauf eintrat.
Die Klägerin hat das Urteil des Handelsgerichts zudem sowohl mit Berufung als auch mit staatsrechtlicher Beschwerde angefochten. Mit der vorliegenden Beschwerde stellt sie den Antrag, das angefochtene Urteil aufzuheben.
Der Beklagte schliesst auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Das Handelsgericht verzichtet auf eine Vernehmlassung.

Das Bundesgericht zieht in Erwägung:
1.- Die staatsrechtliche Beschwerde ist ein subsidiäres Rechtsmittel. Sie ist nur zulässig, wenn die behauptete Rechtsverletzung nicht sonstwie durch Klage oder Rechtsmittel beim Bundesgericht gerügt werden kann (Art. 84 Abs. 2 OG).
Die vorliegende Streitigkeit ist berufungsfähig, weshalb die Verletzung von Bundesrecht mit Berufung gerügt werden kann (Art. 43 Abs. 1 OG). Die Rüge der Beschwerdeführerin, das Handelsgericht habe <ref-law> willkürlich angewendet, betrifft Bundesrecht, weshalb darauf im Beschwerdeverfahren nicht einzutreten ist.
2.- Die Beschwerdeführerin wirft dem Handelsgericht willkürliche antizipierte Beweiswürdigung vor, indem es nach Anhörung der Voten der Fachrichter auf die Einholung einer Expertise zur Frage, ob die KLM 2000 im Wesentlichen eine Nachahmung der "Altendorf Akzent V31" (mit Weiterentwicklungen) dargestellt habe, das heisst mit dieser technisch vergleichbar sei, verzichtete habe.
In rechtlicher Hinsicht ist die technische Vergleichbarkeit im vorliegenden Fall nur zu bejahen, wenn eine blosse Nachahmung ohne erhebliche Weiterentwicklung vorliegt (vgl. Urteil zur konnexen Berufung, E. 3). Da die Beschwerdeführerin gemäss ihrem Vertragsentwurf vom 22. November 1993 selbst davon ausging, die unter der Typenbezeichnung "Perfect V32" auf den Markt gebrachte Maschine stelle gegenüber dem Typ "V31" eine verbesserte und in weiten Belangen erneuerte Kantenanleimmaschine dar, ist das Handelsgericht offensichtlich nicht in Willkür verfallen, wenn es nach der Anhörung der Voten der Fachrichter zum Ergebnis kam, bei der "KLM 2000" handle es sich gegenüber der "Altendorf Akzent V31" um eine eigenständige Entwicklung mit wesentlichen eigenen Konstruktionsideen und es davon ausging, an diesem Ergebnis könne auch eine Expertise nichts mehr ändern. Damit ist eine willkürliche antizipierte Beweiswürdigung zu verneinen.
3.- Weiter rügt die Beschwerdeführerin, die Kostenverteilung des Handelsgerichts verstosse gegen das Willkürverbot.
Diese Rüge wird gegenstandslos, weil das angefochtene Urteil zufolge teilweiser Gutheissung der Berufung bezüglich der Kostenverteilung aufgehoben wird.
4.- Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf einzutreten und sie nicht gegenstandslos geworden ist. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig.

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten und sie nicht gegenstandslos geworden ist.
2.- Die Gerichtsgebühr von Fr. 4'000.-- wird der Beschwerdeführerin auferlegt.
3.- Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Bern schriftlich mitgeteilt.
_
Lausanne, 5. Januar 2001
Im Namen der I. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: