Erwägungen:
1.
C.A._ (geboren 2008) besuchte ab dem Schuljahr 2018/19 die Primarschule B._ im Schulkreis Oberwinterthur/ZH, wo er von Mitschülerinnen und Mitschülern gemobbt worden sein soll. Im Nachgang zu diesbezüglichen Gesprächen erklärten seine Eltern (A.A._ und B.A._) mit Schreiben vom 21. und 22. März 2019, dass die ihnen vorgeschlagene "Umteilung [ihres Sohnes] in C._ [bzw. die Schule C._] [...] keinen Sinn" mache, jedoch ein "'Homeschooling' mit Klassenarbeitsabgaben" vereinbart bzw. erlaubt werden soll, so "dass C.A._ in der Klasse verbleibt, aber zu Hause seinen Stoff erarbeitet". Daraufhin dispensierte die Kreisschulpflege Oberwinterthur am 25. März 2019 C.A._ ab dem 1. April 2019 teilweise vom Unterricht.
Am 17. Juni und 28. August 2019 ersuchten A.A._, B.A._ und C.A._ um Übernahme von Kosten für "Homeschooling", für die Beauftragung von "Hilfslehrern" und für einen angeblich erlittenen Verdienst- und "Steuerabzugsausfall" im Gesamtbetrag von rund Fr. 14'000.--. Die Kreisschulpflege Oberwinterthur wies das Gesuch mit Beschluss vom 9. November 2019 ab. Die hiergegen erhobenen kantonalen Rechtsmittel blieben ohne Erfolg (Beschluss des Bezirksrates Winterthur vom 22. April 2020 und Urteil des Verwaltungsgerichts des Kantons Zürich vom 18. August 2020).
Am 22. September 2020 erhoben A.A._, B.A._ und C.A._ gemeinsam Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht, und zwar im Wesentlichen mit dem Antrag, das Urteil des Verwaltungsgerichts des Kantons Zürich vom 18. August 2020 sei aufzuheben und die von den kantonalen Behörden verweigerte Kostenübernahme sei zu gewähren. Ferner verlangen die Beschwerdeführer Schadenersatz und Genugtuung.
Das Bundesgericht erhob einen Kostenvorschuss und holte die Akten ein. Weitere Instruktionsmassnahmen sind nicht angeordnet worden.
2.
2.1. Der angefochtene kantonal letztinstanzliche Endentscheid (Art. 86 Abs. 1 lit. d und Art. 90 BGG) betrifft eine Angelegenheit des öffentlichen Rechts, weshalb die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich offen steht (<ref-law>). Die Ausnahme gemäss Art. 83 lit. t BGG greift nicht, da es vorliegend nicht um eine Fähigkeitsbewertung geht (vgl. Urteile 2C_982/2019 vom 3. Juli 2020 E. 1.1; 2C_713/2018 vom 27. Mai 2019 E. 1.1; 2C_405/2016 vom 9. Januar 2017 E. 1.1; 2C_10/2016 vom 18. Juli 2016 E. 1.1). Die Beschwerdeführer sind als Adressaten des angefochtenen Entscheids ohne Weiteres zur Erhebung der Beschwerde legitimiert (<ref-law>). Die Beschwerde wurde im Übrigen fristgerecht erhoben (<ref-law>).
2.2. Allfällige Schadenersatz- und Genugtuungsansprüche bildeten nicht Gegenstand des angefochtenen Urteils (und hätten in diesem nicht thematisiert werden müssen), weshalb sie auch nicht zum Gegenstand der vorliegenden Beschwerde gemacht werden können. Diesbezüglich ist somit schon deshalb nicht auf die Beschwerde einzutreten.
2.3. Die Beschwerdeführer müssen in Auseinandersetzung mit den Ausführungen im angefochtenen Entscheid sachbezogen darlegen, dass und inwiefern die Vorinstanz mit ihrem Entscheid Recht verletzt hat (vgl. Art. 42 Abs. 1 bzw. <ref-law>; <ref-ruling> E. 1.4.3; <ref-ruling> E. 1.3). Mit Bezug auf die Rüge des offensichtlich unrichtig, sprich willkürlich festgestellten Sachverhalts (vgl. E. 2.4.2) und in Bezug auf die Verletzung von Grundrechten und kantonalem Recht gilt eine qualifizierte Rüge- und Substantiierungspflicht (<ref-law>; <ref-ruling> E. 2.2 S. 232 mit zahlreichen Hinweisen). Ob die vorliegende Eingabe den gesetzlichen Begründungsanforderungen genügt und weiterführende sachbezogene Darlegungen enthält, erscheint zweifelhaft (vgl. LAURENT MERZ, in: Niggli/Uebersax/Wiprächtiger/Kneubühler [Hrsg.], Basler Kommentar BGG, 3. Aufl. 2018, N. 53 zu <ref-law>), da sich die Beschwerdeführer über weite Strecken darauf beschränken, ihre Sicht der Dinge darzulegen (vgl. dazu auch E. 2.4.2). Ob auf die Eingabe deswegen insgesamt nicht einzutreten ist, kann dahingestellt bleiben, da die Beschwerde sich in der Sache selber als unbegründet erweist.
2.4.
2.4.1. Mit der Beschwerde beim Bundesgericht kann die Verletzung von Bundesrecht und Völkerrecht gerügt werden (<ref-law>). Die Anwendung von kantonalem Recht überprüft das Bundesgericht insoweit, als - rechtsgenügend begründet (qualifizierte Rüge- und Begründungspflicht gemäss <ref-law>) - vorgebracht wird, die kantonale Vorinstanz habe bei dessen Anwendung verfassungsmässige Rechte bzw. Grundsätze der Bundesverfassung (<ref-ruling> E. 1.2 S. 145) wie insbesondere das Willkürverbot verletzt (<ref-ruling> E. 3.1 S. 227 f.; <ref-ruling> E. 2.4 S. 249).
Das Bundesgericht wendet das Recht grundsätzlich von Amtes wegen an (<ref-law>); es ist indessen nicht gehalten, alle sich potentiell stellenden Fragen zu beantworten (vgl. <ref-ruling> E. 1.2.2). Der vorliegend angefochtene Entscheid leidet an keinem offensichtlichen Rechtsfehler, der von Amtes wegen zu berücksichtigen wäre (vgl. <ref-ruling> E. 1.4.1 S. 254).
2.4.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>; <ref-ruling> E. 1.5 S. 31). Es kann die Sachverhaltsfeststellungen der Vorinstanz von Amtes wegen oder auf Rüge hin berichtigen oder ergänzen, wenn sie offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (<ref-law> und <ref-law>; <ref-ruling> E. 5.1 S. 232). "Offensichtlich unrichtig" ist mit "willkürlich" gleichzusetzen (<ref-ruling> E. 2.3.3 S. 42 f.). Inwiefern die vorinstanzliche Beweiswürdigung oder die Sachverhaltsfeststellungen klarerweise unhaltbar sein sollen, muss in der Beschwerdeschrift detailliert aufgezeigt werden (<ref-ruling> E. 4.2 S. 53; <ref-ruling> E. 2.2 S. 246; <ref-ruling> E. 1.3 S. 262; vorne E. 2.3).
Die Beschwerdeführer beanstanden den angefochtenen Entscheid weitgehend bloss appellatorisch, d.h. sie wiederholen ihre Sicht der Dinge und stellen diese jener der Vorinstanz gegenüber, ohne sich mit deren Begründung vertieft auseinander zusetzen. Eine derart begründete Kritik genügt im bundesgerichtlichen Verfahren nicht; entsprechend formulierte Rügen gelten als ungenügend substantiiert (vgl. Urteil 2C_300/2020 vom 30. April 2020 E. 2.3.3 mit Hinweis).
Nicht als hinreichend substantiiert zu betrachten sind namentlich die in der Beschwerde aufgestellten Behauptungen, die Beschwerdeführer hätten nie ein "Homeschooling" beantragt und es sei bei der Vorinstanz "implizit" ein Betrag zwischen Fr. 30'000.-- und Fr. 80'000.-- gefordert worden, wird doch nicht ausgeführt, inwiefern die von dieser Darstellung abweichenden tatsächlichen Feststellungen der Vorinstanz augenfällig unzutreffend sein sollen.
2.4.3. Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>), was in der Beschwerde näher darzulegen ist (<ref-ruling> E. 2.2.1 S. 226 mit Hinweis).
In ihrer Beschwerde berufen sich die Beschwerdeführer auf zahlreiche, im angefochtenen Urteil nicht festgestellte und damit neue Tatsachen, ohne darzulegen, inwiefern erst das angefochtene Urteil dazu Anlass gegeben haben soll, diese Tatsachen vorzubringen. Diese Tatsachen sind im Folgenden nicht zu berücksichtigen. Dies gilt namentlich für die Behauptung der Beschwerdeführer, es sei behördlicherseits suggeriert worden, dass eine Kostenübernahme erfolge, wenn der Beschwerdeführer 3 die Schule nicht wechsle und keine (aufsichtsrechtliche) Meldung oder (Straf-) Anzeige erstattet werde.
3.
3.1. Die Vorinstanz führte sinngemäss aus, die angeordnete Teildispensation des Beschwerdeführers 3 lasse sich auf § 29 Abs. 1 der Volksschulverordnung (des Kantons Zürich) vom 28. Juni 2006 (VSV; LS 412.101) in Verbindung mit § 28 des Volksschulgesetzes (des Kantons Zürich) vom 7. Februar 2005 (VSG; LS 412.100) stützen, da nach der entsprechenden kantonalen Regelung die Gemeinden dazu ermächtigt seien, Schüler für einen bestimmten Zeitraum aus zureichenden Gründen vom Unterrichtsbesuch zu dispensieren, und ein entsprechender Grund prinzipiell auch in der Unzumutbarkeit des weiteren Besuches einer Schule wegen Mobbings erblickt werden könne.
3.2. Die Auslegung und Anwendung der (Kantonal-) Zürcher Schulgesetzgebung überprüft das Bundesgericht nur unter dem Gesichtspunkt der Willkür (<ref-law>; vorne E. 2.4.1). Frei prüft das Bundesgericht jedoch, ob das kantonale Recht und seine Anwendung den verfassungsrechtlichen Garantien genügen (<ref-ruling> E. 3.3 S. 13; <ref-ruling> E. 2a S. 64). Die Beschwerdeführer legen nicht hinreichend substantiiert dar, inwiefern die erwähnte Anwendung kantonalen Rechts und die vorinstanzlichen Verneinung eines kantonalrechtlichen Anspruchs auf den geforderten Kostenersatz willkürlich sein sollen. Indessen machen sie sinngemäss (und in genügend substantiierter Weise einzig) geltend, die Kostenübernahme sei geboten, weil die Teildispensation gegen <ref-law> verstossen habe.
3.3. <ref-law> gewährleistet einen Anspruch auf ausreichenden und unentgeltlichen Grundschulunterricht. Dieses soziale Grundrecht verleiht einen individuellen subjektiven Anspruch auf eine staatliche Leistung, nämlich auf eine grundlegende Ausbildung. Es dient insbesondere der Verwirklichung der Chancengleichheit, indem in der Schweiz alle Menschen ein Mindestmass an Bildung erhalten, das nicht nur für ihre Entfaltung, sondern auch für die Wahrnehmung der Grundrechte unabdingbar ist. Aus <ref-law> ergibt sich jedoch kein Recht auf optimale bzw. am besten geeignete Schulung eines Kindes. Vielmehr garantiert <ref-law> im Sinne einer Minimalgarantie ein angemessenes, erfahrungsgemäss ausreichendes Bildungsangebot an öffentlichen Schulen (<ref-ruling> E. 3.3 S. 13; <ref-ruling> E. 3.2 S. 165; <ref-ruling> E. 4.1 S. 16; Urteile 2C_982/2019 vom 3. Juli 2020 E. 5.1; 2C_561/2018 vom 20. Februar 2019 E. 3.1). Aus der Bundesverfassung und namentlich aus <ref-law> ergibt sich kein Anspruch auf staatliche (Mit-) Finanzierung des privaten Grundschulunterrichts, jedenfalls so lange nicht, als an öffentlichen Schulen ein ausreichender (<ref-law>) Unterricht angeboten wird (vgl. Urteil 2C_686/2012 vom 13. Juni 2013 E. 3.1.5 mit Hinweisen). Die Anforderung des ausreichenden Grundschulunterrichts im Sinne von <ref-law> belässt dabei den Kantonen bei der Regelung des Grundschulwesens einen erheblichen Gestaltungsspielraum (<ref-ruling> E. 4.2 S. 24; <ref-ruling> E. 3.3 S. 13; <ref-ruling> E. 3.2 S. 354).
3.4.
3.4.1. Gemäss den bindenden vorinstanzlichen Feststellungen wurde bei der Teildispensation des Beschwerdeführers 3 vom Unterricht angeordnet, dass er "für die Zeit des dispensierten Unterrichtsbesuchs [...] zu Hause unter Aufsicht der Eltern an den gestellten Aufgaben" arbeite und "für die Begleitung der selbständigen Arbeit [...] jeweils nach Vereinbarung ein Austausch mit der Klassenlehrerin" stattfinde (E. 3.5 Abs. 1 des angefochtenen Urteils). Die Vorinstanz konnte dabei willkürfrei annehmen, dass in diesem Kontext unter "Aufsicht der Eltern" nach Treu und Glauben nur die allgemeinen Betreuungs- und Aufsichtspflichten der Eltern eines schulpflichtigen Kindes gemeint sind (vgl. E. 3.5 Abs. 2 des angefochtenen Urteils). Nach ihren Feststellungen hatte der Beschwerdeführer 3 dabei trotz der Teildispensation alle 14 Prüfungen bzw. Leistungskontrollen, welche auch der Klassenverband zu absolvieren hatte, unter Aufsicht der Klassenlehrerin abzulegen und sich mit dieser an insgesamt vier Terminen ausserhalb des Unterrichts zu Besprechungen der von ihm zu Hause zu erledigenden Aufgaben zu treffen. Die entsprechenden Aufgaben liessen sich dabei jeweils vorgängig einem detaillierten Wochenplan entnehmen (vgl. E. 3.4 Abs. 2 des angefochtenen Urteils). Auf Rückfragen des Beschwerdeführers 3 hin gab die Klassenlehrerin ihm auch weitere Arbeitsblätter und wies ihn auf geeignete Materialien hin. Von einer Kostengutsprache zugunsten der Eltern war bei der Anordnung der Teildispensation (soweit ersichtlich) nicht die Rede (vgl. auch E. 2.4.3 hiervor).
Angesichts des den Kantonen zustehenden Gestaltungsspielraumes (vgl. E. 3.3 hiervor) durfte die Vorinstanz, ohne damit Bundesrecht zu verletzen, davon ausgehen, dass mit den hier genannten Rahmenbedingungen der Teildispensation im Sinne von <ref-law> an der Primarschule B._ ein ausreichender Grundschulunterricht für den Beschwerdeführer 3 gewährleistet blieb. Die Anordnung dieser Rahmenbedingungen erfolgte denn auch gemäss nicht substantiiert bestrittenen Angaben im angefochtenen Entscheid im Einvernehmen aller Beteiligten und wurde von diesen als mit Blick auf das Wohl des Beschwerdeführers 3 "geeignetste" Massnahme betrachtet (vgl. E. 3.4 Abs. 2 des angefochtenen Urteils).
3.4.2. Unter diesen Umständen bestand kein bundesverfassungsrechtlicher Anspruch auf (Mit-) Finanzierung von weitergehenden privaten Unterrichtsmassnahmen. Auch ist bei dieser Sachlage nicht ersichtlich, dass und inwiefern die Behörden den Beschwerdeführern berechtigten Anlass dazu gegeben hätten, darauf zu vertrauen, dass ihnen für die in der Dispensationsverfügung vom 25. März 2019 genannte elterliche Aufsicht und/oder für weitere Unterrichtsmassnahmen ein Kostenersatz geleistet werden wird.
Damit erweist es sich als bundesrechtskonform, dass die Vorinstanz die Abweisung des Kostenersatzbegehrens der Beschwerdeführer bestätigt hat. Ergänzend ist auf das angefochtene Urteil zu verweisen (vgl. <ref-law>).
4.
Die Beschwerde kann nach dem Gesagten ohne Weiterungen im Verfahren nach <ref-law> erledigt werden. Sie ist abzuweisen, soweit darauf einzutreten ist.
Bei diesem Ausgang tragen die Eltern des gesetzlich vertretenen Beschwerdeführers 3 die Gerichtskosten unter solidarischer Haftung (Art. 65 und Art. 66 Abs. 1 und 5 BGG). Es sind keine Parteientschädigungen geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern 1 und 2 unter solidarischer Haftung auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Zürich, 4. Abteilung, schriftlich mitgeteilt.
Lausanne, 23. Oktober 2020
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: König