(Kündigung als Volksschullehrer), hat sich ergeben:
A.- X._ (geb. 29. Mai 1951) unterrichtete ab 1975 als Verweser und seit dem Schuljahr 1978/79 als gewählter Sekundarlehrer in der Gemeinde Adliswil. Auf Antrag der Schulpflege kündigte das Volksschulamt des Kantons Zürich sein Dienstverhältnis am 14. Februar 2000 (mit Begründung vom 21. März 2000) auf das Ende der Amtsdauer 1996/2000, da das Vertrauen zwischen der Schulpflege und ihm massiv gestört erscheine und keine Anzeichen dafür bestünden, dass der Konflikt in einer für beide Seiten erträglichen Form gelöst werden könnte.
Die Bildungsdirektion des Kantons Zürich hiess einen hiergegen gerichteten Rekurs am 3. August 2000 im Sinne der Erwägungen teilweise gut. Sie bestätigte zwar die Rechtmässigkeit der Entlassung mit der Begründung, der "rüde Umgangston" von X._ "mit den Schülerinnen und Schülern und die für einen Lehrer nicht akzeptablen Wutausbrüche vor der Klasse" seien erstellt, ohne dass er die entsprechenden "Defizite" je aufgearbeitet hätte. Sie sprach ihm indessen eine Entschädigung in der Höhe eines Jahreslohns zu, da er nicht schlechter gestellt sein solle, als wenn die Auflösung des Dienstverhältnisses erst nach Ansetzung einer dreimonatigen Bewährungsfrist gemäss den Vorschriften des Gesetzes vom 27. September 1998 über das Arbeitsverhältnis des Staatspersonals (Personalgesetz, PG) erfolgt wäre (§ 19 PG). Eine Abfindung im Sinne von § 26 PG sei nicht geschuldet, da X._ die Kündigung durch sein "uneinsichtiges Verhalten" und seine implizite Weigerung, in den vergangenen Jahren "an sich zu arbeiten und zu einem respektvollen Umgang mit den ihm anvertrauten Schülerinnen und Schülern zu finden", selbst verschuldet habe.
B.- Sowohl die Stadt Adliswil als auch X._ gelangten hiergegen an das Verwaltungsgericht des Kantons Zürich, welches am 14. März 2001 die Beschwerde der Gemeinde vollständig und jene von X._ teilweise guthiess. Das Verwaltungsgericht bestätigte die Rechtmässigkeit der Entlassung, sprach X._ indessen eine Abfindung nach § 26 PG von 10 Monatslöhnen zu. Entgegen der Ansicht der Bildungsdirektion sei nicht das (allgemeine) Personalgesetz, sondern ausschliesslich der auf den 1. Februar 2000 in Kraft gesetzte § 29 des Gesetzes vom 10. Mai 1999 über das Arbeitsverhältnis der Lehrpersonen an der Volksschule (Lehrerpersonalgesetz, LPG) auf den Rechtsstreit anwendbar. Danach behielten die bei Inkrafttreten des Gesetzes gewählten Lehrpersonen ihren bisherigen Wahlstatus bis zum Ablauf der Amtsperiode (Abs. 1). Auf diesen Zeitpunkt hin wandle sich das Dienstverhältnis in ein Anstellungsverhältnis nach dem neuen Lehrerpersonalgesetz um, soweit es nicht bis zum 15. Februar 2000 gekündigt worden sei (Abs. 2). Für die Kündigung gelte dabei gemäss § 29 Abs. 3 LPG ausschliesslich § 26 PG hinsichtlich einer allfälligen Abfindung. Für eine analoge Anwendung von § 19 PG verbleibe kein Raum. Gestützt auf die festgestellten Unzulänglichkeiten von X._ sei die Kündigung zwar rechtens, doch müsse sie als "unverschuldet" gelten, weshalb ihm in Abweichung vom angefochtenen Entscheid eine Abfindung geschuldet sei.
C.- Die Stadt Adliswil hat am 14. Mai 2001 hiergegen staatsrechtliche Beschwerde eingereicht mit dem Antrag, das Urteil des Verwaltungsgerichts aufzuheben, soweit X._ darin eine Abfindung zugesprochen werde. Der Entscheid verletze sie in ihrer Autonomie und sei willkürlich. Die Verpflichtung, einer Lehrperson, die sich erwiesenermassen zahlreicher Verfehlungen gegenüber der Schülerschaft schuldig gemacht habe und charakterliche Defizite aufweise, eine Abfindung von zehn Monatslöhnen bezahlen zu müssen, verstosse "in höchstem Masse gegen das Gerechtigkeitsempfinden".
Das Verwaltungsgericht des Kantons Zürich und X._ beantragen, auf die Beschwerde nicht einzutreten bzw. sie abzuweisen. Die Bildungsdirektion des Kantons Zürich hat auf eine Vernehmlassung verzichtet.
D.- Mit Verfügung vom 14. Juni 2001 legte der Abteilungspräsident der Beschwerde aufschiebende Wirkung bei.

Das Bundesgericht zieht in Erwägung:
1.- Die Beschwerdeführerin wird durch den angefochtenen Entscheid als Trägerin hoheitlicher Gewalt betroffen, weshalb sie sich auf ihre Autonomie berufen kann. Ob ihr Autonomie zusteht, ist nicht eine Frage des Eintretens, sondern der materiellrechtlichen Beurteilung (<ref-ruling> E. 1b S. 226; <ref-ruling> E. 3a, je mit Hinweisen). Auf die frist- und formgerecht eingereichte staatsrechtliche Beschwerde ist deshalb einzutreten.
2.- a) Die Bundesverfassung gewährt die Gemeindeautonomie nach Massgabe des kantonalen Rechts (<ref-law>).
Ob eine Gemeinde autonom ist, beurteilt sich daher nach den einschlägigen kantonalen Regeln. Eine Gemeinde gilt in einem Sachbereich als autonom, wenn das kantonale Recht diesen nicht abschliessend ordnet, sondern ihn ganz oder teilweise der Gemeinde zur Regelung überlässt und ihr dazu eine relativ erhebliche Entscheidungsfreiheit einräumt (<ref-ruling> E. 2 S. 136; <ref-ruling> E. 2b S. 226 f., je mit Hinweisen).
Der geschützte Autonomiebereich kann sich auf die Befugnis zum Erlass oder Vollzug eigener kommunaler Vorschriften beziehen oder einen entsprechenden Spielraum bei der Anwendung des kantonalen oder eidgenössischen Rechts betreffen. Der Schutz der Gemeindeautonomie setzt eine relativ erhebliche Entscheidungsfreiheit nicht in einem ganzen Aufgabengebiet, sondern bloss im strittigen Bereich voraus. Es ist jeweils von Fall zu Fall zu prüfen, ob die Gemeinde im Rahmen der Streitfrage über Gestaltungsfreiheit verfügt (<ref-ruling> E. 2b S. 227; <ref-ruling> E. 8b S. 290; <ref-ruling> E. 4b S. 294 f., je mit Hinweisen). Autonomie im Vollzug von kantonalem Recht kann bestehen, wenn die Gemeinde (erstinstanzlich) hierfür zuständig erscheint und die zu beurteilende Materie für ein Selbstbestimmungsrecht Raum lässt (<ref-ruling> E. 3b/c S. 219 f.). Eine Gemeinde ist unter Umständen auch befugt, eine Verletzung ihrer Autonomie geltend zu machen, wenn eine kantonale Behörde zur Handhabung kommunaler Vorschriften berufen ist; sie kann von dieser alsdann verlangen, dass sie das kommunale Recht nicht willkürlich anwende (<ref-ruling> E. 2a S. 54 f.; <ref-ruling> E. 3a S. 37 f.).
Kein relativ erheblicher Entscheidungsspielraum besteht, falls eine kantonale Behörde für den erstinstanzlichen Vollzug kantonalen Rechts zuständig ist; dies gilt selbst dann, wenn der entsprechende Entscheid für die Gemeinde unmittelbar mit finanziellen oder anderen Auswirkungen verbunden sein sollte (unveröffentlichtes Urteil vom 20. November 2000 i.S. Stadt Bern, E. 2b, mit Hinweis).
b) aa) Die umstrittene Entlassung ging erstinstanzlich vom Volksschulamt und damit von einer kantonalen Behörde auf Antrag der kommunalen Schulpflege aus. Grundlage der Kündigung bildete das einschlägige kantonale Dienstrecht.
Vor Inkrafttreten des neuen Lehrerpersonalgesetzes am 1. Oktober 2000 konnten die Schulgemeinden gewählte Lehrkräfte nicht aus eigener Kompetenz entlassen. Es bestand für sie lediglich die Möglichkeit, diese nach Ablauf der Amtsperiode nicht wiederzuwählen; die Auflösung des Dienstverhältnisses aus wichtigen Gründen hatte demgegenüber durch den Erziehungs- bzw. später den Bildungsrat, d.h. kantonale Instanzen, zu erfolgen (vgl. Thomas Wyss, Die dienstrechtliche Stellung des Volksschullehrers im Kanton Zürich, Zürich 1986, S. 113 ff. und S. 246 ff.). Das Dienstverhältnis der gewählten Volksschullehrer wird in der Doktrin dementsprechend - trotz der Wahl durch die Gemeinden - als ein solches mit dem Kanton und nicht mit diesen selber gewertet, auch wenn sie nach § 2 Abs. 2 des Gesetzes vom 3. Juli 1949 über die Besoldung der Volksschullehrer (Lehrerbesoldungsgesetz) zwei Drittel der jeweiligen Grundbesoldung aufzubringen haben (vgl. Tobias Jaag, Rechtsfragen der Volksschule, insbesondere im Kanton Zürich, in: ZBl 98/1997 S. 548; Thomas Wyss, a.a.O., S. 118; Werner A. Rechsteiner, Die Volksschule im Bundesstaat, Zürich 1978, S. 731). Der übergangsrechtliche § 29 des Lehrerpersonalgesetzes, welcher mit Blick auf die Abschaffung der Wahl bzw. Wiederwahl der Volksschullehrer und die Aufhebung von deren Amtszeit auf den 1. Februar 2000 in Kraft gesetzt wurde, sieht vor, dass sich das bisherige Dienstverhältnis mit Inkrafttreten des Gesetzes in ein Anstellungsverhältnis umwandelt, "sofern das Dienstverhältnis nicht bis zum 15. Februar 2000" gekündigt ist. Die Kompetenz hierzu behielt der Regierungsrat dem Volksschulamt und nicht - wie dies gemäss § 8 LPG künftig der Fall sein wird - der Gemeindeschulpflege vor (vgl. II.a. der Teilinkraftsetzung des Lehrerpersonalgesetzes vom 19. Januar 2000 durch den Regierungsrat in Verbindung mit § 4 Abs. 2 der Verordnung vom 9. Dezember 1998 über die Delegation von Entscheidungsbefugnissen [Delegationsverordnung]). Stand der Beschwerdeführerin beim Entscheid über die Entlassung somit keine eigenständige Entscheidungsbefugnis zu, kann sie sich vor Bundesgericht nicht unter Berufung auf Art. 9 oder 29 BV gegen die damit verbundene Zusprechung einer Abfindung zur Wehr setzen.
bb) Dies gilt selbst dann, wenn mit der Beschwerdeführerin angenommen würde, bei der Kündigung im Rahmen der Überführung ins neue Recht auf Ende der Amtszeit habe es sich in der Sache eigentlich um eine Nichtwiederwahl gehandelt, bei welcher der Schulgemeinde eine relativ erhebliche Entscheidungsfreiheit zugekommen sei: Gegenstand des vorliegenden Verfahrens bildet nicht mehr die Entlassung, sondern ausschliesslich die Anwendung von § 26 PG, der unter gewissen Voraussetzungen, insbesondere bei Fehlen eines Verschuldens des Betroffenen, die Ausrichtung einer Abgangsentschädigung vorsieht (vgl. Fritz Lang, Das Zürcher Personalgesetz vom 27. September 1998, in: Helbling/Poledna, Personalrecht des öffentlichen Dienstes, Bern 1999, S. 69).
Zwar besteht bei der Anwendung der entsprechenden Regelung ein erheblicher Beurteilungsspielraum, doch ist dieser nicht "gemeindefreiheitsbezogen". Die Offenheit der Norm will - wie etwa bei einem pädagogischen Urteil über einen einzelnen Schüler (vgl. <ref-ruling> E. 3e S. 222 f.) - lediglich eine einzelfallgerechte Sachentscheidung und nicht die Rücksichtnahme auf besondere lokale Bedürfnisse ermöglichen.
Dass die Gemeinde beim Entscheid über die Nichtwiederwahl bzw. die Kündigung vernünftigerweise auch allfällige finanzielle Folgen einer solchen Massnahme (Anspruch auf Abfindung) im Auge behalten wird, ändert hieran nichts. Rechtlich handelt es sich bei der Auflösung des Dienstverhältnisses einerseits und den damit verbundenen finanziellen (Entschädigungs-)Folgen andererseits um zwei getrennte Fragen; eine kommunale Autonomie könnte somit einzig hinsichtlich der Beendigung des Dienstverhältnisses, indessen nicht auch bezüglich der Problematik bestehen, ob und in welcher Höhe dem entlassenen Lehrer nach dem kantonalen Recht eine Abfindung zusteht.
3.- Die staatsrechtliche Beschwerde erweist sich deshalb als unbegründet. Dem Verfahrensausgang entsprechend wird die unterliegende Beschwerdeführerin, welche mit ihrer Beschwerde vermögensrechtliche Interessen wahrgenommen hat, kostenpflichtig (Art. 156, 153 und 153a OG). Sie hat den Beschwerdegegner für das bundesgerichtliche Verfahren zudem angemessen zu entschädigen (Art. 159 OG).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 3'000.-- wird der Beschwerdeführerin auferlegt.
3.- Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien, dem Volksschulamt der Bildungsdirektion sowie dem Verwaltungsgericht des Kantons Zürich (4. Abteilung) schriftlich mitgeteilt.
_
Lausanne, 6. September 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: