(Beweiswürdigung; rechtliches Gehör), hat sich ergeben: A.- Die HB Maschinen & Werkzeug AG (nachstehend: HB) war in Zusammenarbeit mit deutschen Partnerfirmen an der Entwicklung diverser Typen von Kantenanleimmaschinen beteiligt. Im November 1992 schloss sie mit der Wilhelm Altendorf GmbH & Co. KG einen Vorvertrag zu einem "Know-how-Vertrag über die Herstellung von Kantenanleimmaschinen". In der Folge verzichtete die Wilhelm Altendorf GmbH & Co. KG auf die im Vorvertrag vereinbarte Rückgabe der Konstruktionsunterlagen und übertrug die Rechte zur Herstellung von Kantenanleimmaschinen des Typs "Altendorf Akzent V31" auf die HB. Solche Maschinen wurden noch bis ungefähr Mai 1993 hergestellt. Am 8. Januar 1993 schloss die HB mit Peter Fankhauser, der unter seiner Einzelfirma eine Unternehmung für die Entwicklung und Herstellung von Maschinen betreibt, einen Vertrag, wonach er den Herstellungspreis der Kantenanleimmaschine "Altendorf Akzent V31" zu ermitteln hatte. Dazu erhielt er nebst den entsprechenden Konstruktionszeichnungen und -plänen auch eine Kantenanleimmaschine zur Ansicht. In den Monaten April und Mai 1993 entwickelten Peter Fankhauser und seine Mitarbeiter unter Berücksichtigung von Änderungsvorschlägen der HB den Prototyp einer gegenüber der "Altendorf Akzent V31" verbesserten Kantenanleimmaschine. Diese wurde von der HB mit "Perfect V32" bzw. "Akzent V32" und von Peter Fankhauser mit "KLM 2000" bezeichnet. Im August 1993 lieferte Peter Fankhauser von dieser Maschine eine Nullserie von 6 Stück an die HB aus. In Übereinstimmung mit einer Offerte von Peter Fankhauser vom 3. November 1993 bestellte die HB mit Schreiben vom 3. und 6. September 1993 50 Kantenanleimmaschinen "Perfect V32" zu einem Stückpreis von Fr. 5'500.--. Am 8. September 1993 bestätigte Peter Fankhauser diese Bestellung. Des Weiteren legte er den Entwurf einer Vereinbarung bezüglich einer längerfristigen Zusammenarbeit der Parteien vor. Die Auftragsbestätigung und der Vereinbarungsentwurf wurden von der HB jedoch nicht unterzeichnet. Vielmehr unterbreitete sie Peter Fankhauser am 22. November 1993 einen eigenen Vertragsentwurf, der die HB als "Bestellerin" und Peter Fankhauser als "Unternehmer" bezeichnete. Nachdem sich die Parteien nicht über eine künftige Zusammenarbeit hatten einigen können, unterzeichneten sie am 10. März 1994 eine Vereinbarung, worin sie die Beendigung ihrer Vertragsbeziehungen regelten. Nach der Unterzeichnung dieser Vereinbarung lieferte Peter Fankhauser in den Monaten April und Mai 1994 über die ihm gehörende Arosys AG noch 33 der 50 von der HB bestellten Kantenanleimmaschinen aus. Während dieser Zeit verhandelte die HB mit der Arosys AG über eine allfällige Fortsetzung der Geschäftsbeziehungen, ohne jedoch eine Einigung finden zu können. Danach gab die HB bei einer Drittfirma die Herstellung weiterer Kantenanleimmaschinen in Auftrag und vertrieb diese unter der Bezeichnung "Akzent (Perfect) V32". Die neue Herstellerfirma belieferte die HB in der Zeit von Oktober 1994 bis Ende April 1996 mit insgesamt 47 Maschinen, von denen die HB gemäss eigenen Angaben 44 weiterverkaufen konnte. Bis Juli 1997 verkaufte die HB insgesamt 60 Maschinen. Peter Fankhauser bemühte sich seinerseits, mittels eines Inserats in der Oktober-Ausgabe 1994 der "Schreinerzeitung" und eines Mailings die von ihm hergestellten Kantenanleimmaschinen direkt oder über Wiederverkäufer abzusetzen. Auf Grund dieser Bemühungen konnte Peter Fankhauser lediglich eine einzige Maschine verkaufen. Das Inserat in der Oktober-Ausgabe der "Schreinerzeitung" veranlasste die HB am 18. Oktober 1994, beim Gerichtspräsidenten von Konolfingen zu verlangen, Peter Fankhauser gerichtlich zu verbieten, Kantenanleimmaschinen des Typs "KLM 2000" oder ähnliche Maschinen zu verkaufen oder zum Verkauf anzubieten. Am 19. Oktober 1994 verfügte der Gerichtspräsident superprovisorisch ein entsprechendes Verkaufsverbot, welches er mit Entscheid vom 8. Dezember 1994 bestätigte, wobei er gleichzeitig eine Sicherheitsleistung von Fr. 100'000.-- verlangte. Deren Höhe wurde auf Appellation der HB vom Appellationshof des Kantons Bern auf Fr. 50'000.-- reduziert. B.- Am 26. April 1995 klagte die HB beim Handelsgericht des Kantons Bern und stellte zusammengefasst den Antrag, Peter Fankhauser unter Androhung der Strafe gemäss Art. 403 Abs. 1 ZPO im Falle der Widerhandlung gerichtlich zu verbieten, die Kantenanleimmaschinen des von ihm für die Klägerin hergestellten Typs "KLM 2000" oder vergleichbare Maschinen direkt oder indirekt zu verkaufen oder in Verkehr zu bringen. Weiter verlangte die Klägerin, die bei der Gerichtsschreiberei Konolfingen in Schlosswil hinterlegte Sicherheit von insgesamt Fr. 50'000.-- sei zuzüglich Zins zu ihren Gunsten freizugeben. Der Beklagte schloss auf Abweisung der Klage und machte gegenüber der Klägerin widerklageweise Schadenersatz in gerichtlich zu bestimmender, den Betrag von Fr. 8'000.-- übersteigender Höhe geltend. Weiter beantragte der Beklagte, die klägerische Sicherheitsleistung von Fr. 50'000.-- sei in Anrechnung an den Schadenersatz an ihn zu erstatten. Mit Gesuch vom 15. April 1996 stellte der Beklagte dem Präsidenten des Handelsgerichts den Antrag, die von der Klägerin geleistete Sicherheit von Fr. 50'000.-- sei auf Fr. 350'000.--, eventuell auf einen geringeren, gerichtlich zu bestimmenden Betrag zu erhöhen. Mit Entscheid vom 25. Juni 1996 verfügte der Handelsgerichtspräsident, die Sicherheitsleistung sei innert 20 Tagen um weitere Fr. 65'000.-- zu erhöhen. Nachdem die Klägerin mitgeteilt hatte, diese zusätzliche Sicherheit nicht zu leisten, ist das Verkaufsverbot für den Beklagten per 17. Juli 1996 dahingefallen. In Ergänzung der Klage stellte die Klägerin den Antrag, den Beklagten zu verpflichten, ihr Schadenersatz in gerichtlich zu bestimmender Höhe, mindestens aber im Umfange von Fr. 2'000.-- für jede verkaufte Maschine des Typs "KLM 2000" oder vergleichbarer Maschinen zuzüglich Zins zu bezahlen. Anlässlich der Hauptverhandlung vom 27. Januar 1997 verlangte der Beklagte als neues Widerklagebegehren, der Klägerin sei unter Androhung der Rechtsfolgen gemäss Art. 403 Abs. 1 ZPO gerichtlich zu verbieten, Kantenanleimmaschinen des Typs "KLM 2000" bzw. "Akzent V32" oder vergleichbare Maschinen herzustellen, herstellen zu lassen, anzubieten, zu verkaufen oder sonstwie in Verkehr zu bringen. Weiter verlangte er von der Klägerin Schadenersatz in gerichtlich zu bestimmender, den Betrag von Fr. 8'000.-- übersteigender Höhe und die Herausgabe des Gewinns, den die Klägerin mit dem Verkauf von Kantenanleimmaschinen des Typs "KLM 2000" bzw. "Akzent V32", welche nicht vom Beklagten bzw. der Arosys AG geliefert wurden, erzielte. Mit Urteil vom 18. Januar 2000 wies das Handelsgericht die Klage ab und verurteilte die Klägerin, dem Beklagten als Widerkläger Fr. 66'335.-- zuzüglich Zins zu 5 % seit 8. September 1997 zu bezahlen. Weiter hiess es das Verbotsbegehren des Beklagten gut. Schliesslich wies das Handelsgericht die Gerichtsschreiberei des Gerichtskreises VII Konolfingen an, die bei ihr hinterlegte Sicherheitsleistung von Fr. 50'000.-- (zuzüglich allfälliger Zinsen) nach Rechtskraft dieses Urteils direkt an den Beklagten auszuzahlen. Die Klägerin hat gegen das Urteil des Handelsgerichts neben einer Berufung und einer staatsrechtlichen Beschwerde eine kantonale Nichtigkeitsklage eingereicht. Diese wurde vom Appellationshof des Kantons Bern mit Urteil vom 3. Juli 2000 abgewiesen, soweit darauf einzutreten war. C.- Die Klägerin ficht das Urteil des Appellationshofes mit staatsrechtlicher Beschwerde an, mit der sie beantragt, es aufzuheben. Zudem ersuchte sie darum, der Beschwerde die aufschiebende Wirkung zuzuerkennen. Dieses Gesuch hat der Präsident der I. Zivilabteilung mit Verfügung vom 9. Oktober 2000 abgewiesen, soweit es nicht gegenstandslos geworden ist. Der Beklagte schliesst auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Der Appellationshof verzichtet auf eine Vernehmlassung.