A.- N._ (geboren 1964) war nach dem Abschluss der Lehre als Vergolder kurze Zeit in diesem Beruf tätig. Er arbeitete danach als Farbanalytiker, als Qualitätskontrolleur bei der Warenannahme sowie als Magaziner und Stellvertreter des Speditionschefs. Am 20. August 1998 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Er machte geltend, er leide unter Rückenschmerzen, und beantragte u.a. Berufsberatung und Umschulung auf eine neue Tätigkeit. Die IV-Stelle des Kantons Zürich klärte im Rahmen einer Berufsberatung Umschulungsmöglichkeiten ab. Mit Verfügung vom 1. Dezember 1999 bejahte sie den grundsätzlichen Anspruch von N._ auf berufliche Massnahmen der Invalidenversicherung. Sie lehnte es aber ab, den vom Versicherten geäusserten Umschulungswunsch, den Besuch der Technikerschule für Informatik und Netzwerktechnik, Zug, zu unterstützen. B.- Der Hausarzt von N._, Dr. med. D._, Facharzt FMH für Innere Medizin, und der Versicherte richteten je ein Schreiben an die IV-Stelle, in welchem sie diese um die Überprüfung des Entscheides ersuchten. Die IV-Stelle überwies die beiden Eingaben als "Beschwerde" (Schreiben des Arztes vom 13. Dezember 1999) und als "Vollmachtserklärung" (Schreiben des Versicherten vom 27. Januar 2000) an das Sozialversicherungsgericht des Kantons Zürich. Dieses legte das Schreiben des Arztes als "Beschwerdebeilage" zu den Akten und befasste sich mit ihm in der Folge nicht mehr. Das Schreiben des Versicherten vom 27. Januar 2000 qualifizierte es als Beschwerde, trat jedoch mit Entscheid vom 20. Juni 2001 darauf nicht ein. Es befand, die Verfügung vom 1. Dezember 1999 sei darin gar nicht angefochten worden. Es handle sich dabei um ein beschwerdeweise erhobenes neues Umschulungsgesuch, über das zuerst die IV-Stelle zu befinden habe. C.- Mit Verwaltungsgerichtsbeschwerde lässt N._ beantragen, der kantonale Gerichtsentscheid sei aufzuheben, und die Sache sei zur materiellen Beurteilung an die Vorinstanz zurückzuweisen. Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.