Sachverhalt:
A.
A.a. B._ (geb. 1973) und A._ (geb. 1964) sind die nicht miteinander verheirateten Eltern von C._ (geb. 2011).
A.a.a. Am 2. August 2016 schlug die Kindes- und Erwachsenenschutzbehörde Arbon (KESB) im Rahmen von Vermittlungsbemühungen eine Regelung des persönlichen Verkehrs zwischen A._ und seinem Sohn vor. Vorgesehen wurden ein Besuchsrecht jedes zweite Wochenende von Freitagnachmittag bis Montagmorgen sowie zusätzlich wöchentlich am Donnerstagnachmittag. Auch eine Feiertags- bzw. Ferienregelung war enthalten.
A.a.b. Auf der Grundlage der Rahmenordnung vom 2. August 2016 legte ein Mitglied der KESB am 13. März 2017 den Ferien- und Feiertagsplan (einschliesslich Muttertag und Geburtstage der Eltern) fest.
A.b.
A.b.a. Am 15. Januar 2020 meldete B._ der KESB, es sei während den Besuchen beim Vater zu sexuellen Übergriffen durch zwei in der Nachbarschaft des Vaters lebende Jungen gekommen.
A.b.b. Am 7. Februar 2020 wandte sich A._ an die KESB, weil sich B._ seit Herbst 2019 nicht an das am 2. August 2016 vereinbarte Besuchsrecht halte. Sie begründe ihre Weigerung mit falschen Behauptungen. Letztmals sei der Sohn am 11. und 12. Januar 2020 an einem regulären Besuchswochenende bei ihm gewesen. B._ habe ihn am 15. Januar 2020 angerufen und mitgeteilt, dass der Sohn im Sommer 2019 während Besuchen bei ihm von zwei Spielkameraden sexuell belästigt worden sei. Seit Anfang November 2019 sei der Sohn bei einer Kinderpsychiaterin, die ihm die Auskunft verweigere.
A.b.c. Am 10. Februar 2020 machte B._ eine Gefährdungsmeldung wegen der sexuellen Übergriffe.
A.c.
A.c.a. Am 12. Februar 2020 lud die KESB die Eltern zu einem am 21. Februar 2020 vorgesehenen Gespräch ein. Sodann gelangte die Kinderpsychiaterin am 13. Februar 2020 mit einer Gefährdungsmeldung an die KESB. Sie erklärte, infolge erheblicher Schwierigkeiten zwischen den Eltern sei unklar, inwieweit der Sohn während der Besuchszeit beim Vater vor erneuten Übergriffen geschützt sei. Nachdem der in Aussicht genommene Termin vom 21. Februar 2020 aufgrund einer Krankmeldung von A._ nicht stattfand, hörte die KESB diesen am 19. März 2020 zur Regelung des persönlichen Verkehrs mit seinem Sohn an. Am 26. März 2020 legte die KESB für die Dauer des Verfahrens ein angepasstes Besuchsrecht in Form von Tagesbesuchen fest. A._ war mit dieser Massnahme nicht einverstanden und beharrte auf der Regelung vom 2. August 2016. Alle weiteren Bemühungen der KESB, eine einvernehmliche Besuchsrechtsregelung zu finden, schlugen fehl.
A.c.b. Mit Entscheid vom 17. Dezember 2020 ordnete die KESB den persönlichen Verkehr zwischen A._ und seinem Sohn wie folgt: Zunächst Tagesbesuche jeden zweiten Samstag oder wahlweise jeden zweiten Sonntag von 09.00 Uhr bis 19.00 Uhr (Dispositiv-Ziffer 1a); bei ausreichend gefestigter Vertrauensbeziehung und bei Bereitstehen eines Einzelbetts für den Sohn: jedes zweite Wochenende von Freitag, 16.00 Uhr bis Sonntag, 19.00 Uhr (Dispositiv-Ziffer 1b); zusätzlich einmal pro Quartal vom Freitag, 16.00 Uhr bis Sonntag, 19.00 Uhr (Dispositiv-Ziffer 1c). Alsdann regelte die KESB die Feiertage und die Ferien (Dispositiv-Ziffern 1d und 1e). Ausserdem errichtete die KESB eine Besuchsrechtsbeistandschaft gemäss Art. 308 Abs. 2 ZGB (Dispositiv-Ziffer 2), ernannte die Beiständin (Dispositiv-Ziffer 3), erteilte dieser bestimmte Aufträge (Dispositiv-Ziffer 4) und regelte die Verteilung der Verfahrenskosten (Dispositiv-Ziffer 5).
B.
B.a. Gegen diesen Entscheid führte A._ Beschwerde beim Obergericht des Kantons Thurgau. In der Hauptsache verlangte er, den Entscheid vom 17. Dezember 2020 aufzuheben und die am 2. August 2016 getroffene Regelung weiterzuführen. Eventualiter beantragte er, das vierzehntägliche Wochenendbesuchsrecht gemäss Dispositiv-Ziffer 1b und 1c sei sofort in Kraft zu setzen, und stellte Anträge zur Feiertags- und Ferienregelung (wobei nicht ersichtlich ist, inwiefern sich seine Anträge von den Anordnungen der KESB unterscheiden). Auch sei B._ zu verpflichten, ihre Informationspflicht ihm gegenüber regelmässig auszuüben und sie unter Strafandrohung von Art. 292 StGB darauf hinzuweisen, dass sie sich an diese Vereinbarung zu halten habe. Den Vergleichsbemühungen des Obergerichts war kein Erfolg beschieden.
B.b. In teilweiser Gutheissung der Berufung regelte das Obergericht mit Entscheid vom 17. August 2021 den persönlichen Verkehr wie folgt: Am Samstag, 25. September 2021 und am Samstag 9. Oktober 2021 von 09.00 Uhr bis 19.00 Uhr; ab Freitag, 22. Oktober 2021 an jedem zweiten Wochenende von Freitag, 16.00 Uhr bis Sonntag, 19.00 Uhr. Zusätzlich ist der Vater berechtigt, einmal pro Quartal den Sohn von Freitag, 16.00 Uhr bis Sonntag, 19.00 Uhr zu sich auf Besuch zu nehmen. Alsdann regelte es die Feiertage und die Ferien. Die Dispositiv-Ziffern 2, 3, 4 und 5 bestätigte es.
C.
C.a. Mit Eingabe vom 21. September 2021 wendet sich A._ (Beschwerdeführer) an das Bundesgericht. Er beantragt, es sei der Entscheid der KESB vom 17. Dezember 2020 aufzuheben, das rechtswidrige Verhalten der KESB festzustellen, die am 2. August 2016 getroffene Besuchsregelung weiterzuführen und durchzusetzen und B._ (Beschwerdegegnerin) unter Strafandrohung nach Art. 292 StGB anzuweisen, ihren Verpflichtungen nachzukommen (Rechtsbegehren 1). Eventualiter sei der Entscheid der KESB vom 17. Dezember 2020 an die Vorinstanz zur vollständigen Sachverhaltsabklärung und unter dessen Berücksichtigung sowie des Anpassungsvorschlags des Beschwerdeführers vom 30. Oktober 2020 und zur Prüfung der Erteilung eines gemeinsamen Sorgerechts zum Neuentscheid zurückzuweisen (Rechtsbegehren 2). Es sei dem Sohn aufgrund der Verweigerung der von ihm gewünschten Besuche bei seinem Vater eine vom Bundesgericht in der Höhe zu bestimmende Genugtuung zu Lasten der Beschwerdegegnerin und der KESB zuzusprechen (Rechtsbegehren 3). Es sei dem Beschwerdeführer für das vorinstanzliche Beschwerdeverfahren eine Parteientschädigung zuzusprechen; eventualiter seien im Fall des Unterliegens für das vorinstanzliche Beschwerdeverfahren sämtliche Partei- und Verfahrenskosten auf die Staatskasse zu nehmen (Rechtsbegehren 4). Es sei für das vorliegende Verfahren auf die Erhebung eines Kostenvorschusses zu verzichten und dem Beschwerdeführer eine angemessene Parteientschädigung zuzusprechen (Rechtsbegehren 5). Unter Kosten- und Entschädigungsfolgen zu Lasten der KESB (Rechtsbegehren 6).
C.b. Mit Verfügung vom 22. September 2021 hat der Präsident der urteilenden Abteilung dem Beschwerdeführer die Bezahlung eines Kostenvorschusses auferlegt und damit dessen Gesuch um Absehen von einem solchen abgelehnt.
C.c. Das Bundesgericht hat die kantonalen Akten, hingegen keine Vernehmlassungen eingeholt.

Erwägungen:
1.
1.1.
1.1.1. Angefochten ist der Endentscheid (Art. 90 BGG) einer letzten kantonalen Instanz, die als oberes Gericht (Art. 75 BGG) über eine Besuchsrechtsregelung und die Anordnung einer Besuchsrechtsbeistandschaft entschieden hat. Für diese nicht vermögensrechtliche Zivilsache (Art. 72 Abs. 1 BGG) bzw. öffentlich-rechtliche Angelegenheit in engem Zusammenhang mit Zivilrecht (Art. 72 Abs. 2 lit. b Ziff. 6 BGG) gilt kein Streitwerterfordernis. Der Beschwerdeführer ist zur Beschwerde legitimiert (Art. 76 Abs. 1 BGG) und hat diese rechtzeitig erhoben (Art. 100 Abs. 1 BGG). Die Beschwerde ist damit grundsätzlich zulässig.
1.1.2. Anfechtungsgegenstand ist der Entscheid des Obergerichts vom 17. August 2021. Dieser ersetzt den Entscheid der KESB vom 17. Dezember 2020. Obwohl der Beschwerdeführer bloss die Aufhebung des Entscheids der KESB vom 17. Dezember 2020 verlangt, ergibt sich aus der Beschwerdebegründung, dass er den Entscheid des Obergerichts anficht. Die Beschwerde wird in diesem Sinne entgegengenommen. Hingegen kann auf das als Teil des Hauptbegehrens gegen die KESB gerichtete Feststellungsbegehren und auf sämtliche Ausführungen, mit welchen der Beschwerdeführer den Entscheid der KESB als rechtsfehlerhaft auszuweisen versucht, nicht eingetreten werden.
1.1.3. Wie bereits im kantonal oberinstanzlichen Verfahren bezeichnet der Beschwerdeführer die KESB als Beschwerdegegnerin. Einer KESB kommt im Verfahren vor der gerichtlichen Beschwerdeinstanz grundsätzlich keine Parteistellung zu. Das Bundesgericht betrachtet die verfügende Behörde im Verfahren der Beschwerde in Zivilsachen mit öffentlich-rechtlichem Einschlag (insbesondere Art. 72 Abs. 2 lit. b Ziff. 6 BGG) nicht als Partei, sondern führt sie im Rubrum unter der Rubrik "Verfahrensbeteiligte" oder "verfügende Behörde" auf, ohne sie als Beschwerdegegnerin zu bezeichnen (<ref-ruling> E. 4.2).
1.1.4. Aus dem angefochtenen Entscheid lassen sich keine Anträge betreffend das gemeinsame Sorgerecht sowie auf Zuspruch einer Genugtuung an den Sohn entnehmen und der Beschwerdeführer erhebt diesbezüglich keine Sachverhaltsrügen. Diese Begehren sind daher neu und somit unzulässig (Art. 99 Abs. 2 BGG).
1.2. Mit der Beschwerde in Zivilsachen können Rechtsverletzungen gemäss Art. 95 f. BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG) und prüft mit freier Kognition, ob der angefochtene Entscheid Recht verletzt. Es befasst sich aber nur mit formell ausreichend begründeten Einwänden. In der Beschwerdebegründung ist daher in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid rechtswidrig sein soll (Art. 42 Abs. 2 BGG). Die Begründung muss sachbezogen sein und sich auf den Streitgegenstand beziehen und beschränken. Die beschwerdeführende Partei hat in gezielter Auseinandersetzung mit den für das Ergebnis des angefochtenen Entscheids massgeblichen Erwägungen plausibel aufzuzeigen, welche Rechte bzw. Rechtsnormen die Vorinstanz verletzt haben soll (<ref-ruling> E. 2.4; <ref-ruling> E. 1.7.1; <ref-ruling> E. 2; je mit Hinweisen). Sie soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen (<ref-ruling> E. 2 mit Hinweis). Die Begründung hat ferner in der Beschwerdeschrift selbst zu erfolgen und der blosse Verweis auf Ausführungen in anderen Rechtsschriften oder auf die Akten reicht nicht aus (<ref-ruling> E. 2 mit Hinweis).
1.3. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Gegen die tatsächlichen Feststellungen der Vorinstanz kann einzig vorgebracht werden, sie seien offensichtlich unrichtig, d.h. willkürlich (<ref-ruling> E. 2.3 mit Hinweis), oder sie würden auf einer anderen Rechtsverletzung im Sinne von Art. 95 BGG (z.B. Art. 29 Abs. 2 BV oder Art. 8 ZGB) beruhen. Ausserdem muss in der Beschwerde aufgezeigt werden, inwiefern die Behebung der vorerwähnten Mängel für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; <ref-ruling> E. 4.2 mit Hinweis). Es gilt das strenge Rügeprinzip nach Art. 106 Abs. 2 BGG (<ref-ruling> E. 4.1). Auf ungenügend substanziierte Rügen und rein appellatorische Kritik am Sachverhalt tritt das Bundesgericht nicht ein (<ref-ruling> E. 4.1.2; <ref-ruling> E. 5.4, 249 E. 1.3.1; <ref-ruling> E. 2.3; je mit Hinweisen). Tatfrage ist auch die Beweiswürdigung. Die Anfechtung der diesbezüglichen vorinstanzlichen Feststellungen unterliegt ebenfalls der qualifizierten Begründungspflicht (BGE 146 I 240 E. 8.2; Urteil 5A_907/2019 vom 27. August 2021 E. 2.2 mit Hinweis).
Über gut fünfzehn Seiten schildert der Beschwerdeführer detailreich einen Sachverhalt aus seiner Sicht. Soweit dieser von jenem abweicht, den das Obergericht festgestellt hat, ohne dass der Beschwerdeführer eine wirksame Willkürrüge erhebt, bleiben seine Ausführungen unbeachtet.
2.
In der Hauptsache beantragt der Beschwerdeführer die Weiterführung der zwischen den Eltern am 2. August 2016 vereinbarten Besuchsrechtsregelung.
2.1. Zu dieser Frage erwog das Obergericht, bei Abschluss der Besuchsregelung vom 2. August 2016 sei der Sohn knapp fünf Jahre alt gewesen. Zwischenzeitlich sei er fast zehn Jahre alt geworden und sein Alltag, seine Bedürfnisse und Gewohnheiten hätten sich naturgemäss verändert. Dessen sei sich auch der Beschwerdeführer bewusst, denn er äussere selber die Ansicht, dass die Regelung von 2016/2017 nur mit Änderungen aufgrund der Schule und Freizeit des Sohnes, also in angepasster Form fortgeführt werden könne. Die ursprüngliche Regelung spiegle nicht die Gegenwart wider. Damit dränge sich eine neue Besuchsregelung auf. Die Neuregelung habe insbesondere deshalb durch die KESB zur Wahrung des Kindeswohls angeordnet werden müssen, weil sich die Eltern trotz intensiver Bemühungen nicht über die notwendigen Anpassungen der bisherigen Besuchsregelungen hätten einigen können. Darüber hinaus hätten sowohl die Beschwerdegegnerin mit ihrer Forderung nach einem Besuchsrechtsbeistand als auch der Sohn eine Anpassung des Besuchsrechts verlangt. Damit sei die Beschwerde im Hauptantrag (Weiterführung der Besuchsrechtsregelung 2016/2017) abzuweisen.
2.2. Der Beschwerdeführer erhebt in mehrfacher Hinsicht Sachverhaltsrügen, die allesamt an der Sache vorbei zielen: So rügt er mehrfach, die Vorinstanz habe die Vorgänge, die Anlass zum Verfahren gegeben haben, das letztlich in einer neuen Besuchsrechtsregelung gemündet hat, nicht vollständig abgeklärt und auch weitere Umstände nicht berücksichtigt. Er zeigt jedoch nicht auf, inwiefern die Behebung der behaupteten Mängel für den Ausgang des Verfahrens entscheidend sein könnten (vgl. E. 1.3). Wie die vorstehend wiedergegebenen Erwägungen des Obergerichts aufzeigen, wird die Neuregelung des Besuchsrechts nicht mit der Vorgeschichte und den in diesem Zusammenhang im Raum stehenden, an den Beschwerdeführer gerichteten und von diesem bestrittenen Vorwürfen (er garantiere keinen genügenden Schutz vor sexuellen Übergriffen durch jugendliche Dritte) begründet, sondern allgemein mit den Veränderungen der Verhältnisse im Vergleich zu 2016/2017 (Alter des Kindes; die damit zusammenhängenden Veränderungen seiner Bedürfnisse und Gewohnheiten punkto Schule und Freizeit). Die vom Obergericht geschilderten Veränderungen im Leben des Kindes bestreitet der Beschwerdeführer nicht. Daher läuft der Vorwurf, unter dem Verhältnismässigkeitsgrundsatz hätte genügt, die Beschwerdegegnerin wenn nötig mittels Strafdrohung zur Einhaltung der Besuchsrechtsregelung 2016/2017 anzuhalten, ins Leere, und ist nicht einzusehen, inwiefern die Abweisung des Antrags auf Weiterführung der Besuchsrechtsregelung 2016/2017 bundesrechtswidrig sein könnte. Auch eine Verletzung von Art. 449b Abs. 2 ZGB bzw. des rechtlichen Gehörs ist nicht ersichtlich.
3.
Mit Blick auf die von der KESB getroffene Besuchsrechtsregelung beanstandet der Beschwerdeführer einzig, zufolge der offenen Formulierungen sei die streitgegenständliche Regelung interpretationsbedürftig und erfordere weitere Absprachen zwischen den Eltern, was keinen Beitrag zur Konfliktlösung leiste und weder den Ablauf des persönlichen Verkehrs noch den Informationsaustausch sicherstelle. Mit diesen Einwendungen vermag der Beschwerdeführer keine Bundesrechtswidrigkeit darzutun. Er übergeht vollständig, dass das Obergericht die von der KESB angeordnete Besuchsrechtsbeistandschaft bestätigt hat, nachdem der Beschwerdeführer weder gegen die Beistandsperson als solche noch gegen ihren Auftrag, der auch Vermittlung in der Kommunikation und Information der Eltern umfasst, Einwendungen vorgetragen hatte. Vor Bundesgericht begründet der Beschwerdeführer im Übrigen nicht, weshalb die Anordnung der Besuchsrechtsbeistandschaft aufgehoben werden sollte und erhebt keine Einwendungen gegen die Beistandsperson oder deren Auftrag.
4.
Zu seinem Eventualantrag auf Rückweisung der Sache an das Obergericht zu neuem Entscheid führt der Beschwerdeführer lediglich aus, "[w]enn wider Erwarten keine Gutheissung der bisherigen Regelung 2016/ 2017 mit Strafandrohung bei Widerhandlung erfolgt, so ist die Sache an die Vorinstanz zurückzuweisen, da weder die Vorinstanz, noch die KESB ihren Untersuchungspflichten nachgekommen sind, den relevanten Sachverhalt nicht ausreichend abgeklärt haben und erhebliche Sachverhalts-Widersprüche bestehen, auf deren Basis der streitgegenständliche Entscheid getroffen wurde." Diese allgemein gehaltenen Ausführungen erfüllen die an die Begründung einer Beschwerde an das Bundesgericht gestellten Anforderungen nicht. Sie sind entsprechend nicht geeignet, die Sachverhaltsbasis des angefochtenen Entscheids oder die Rechtsanwendung durch das Obergericht infrage zu stellen. Auch in diesem Punkt erweist sich die Beschwerde als unbegründet, soweit überhaupt darauf eingetreten werden kann.
5.
Der Beschwerdeführer beanstandet die vorinstanzliche Kostenregelung. Er begründet seinen Standpunkt indes ausschliesslich mit der - hiervor verworfenen - Rechtsfehlerhaftigkeit der kantonalen Entscheide. Darauf ist nicht weiter einzugehen.
6.
Damit ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Der Beschwerdeführer unterliegt und wird kostenpflichtig (Art. 66 Abs. 1 BGG). Eine Parteientschädigung ist dagegen nicht geschuldet, zumal der Beschwerdegegnerin kein entschädigungspflichtiger Aufwand entstanden ist (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Thurgau mitgeteilt.
Lausanne, 8. März 2022
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Herrmann
Die Gerichtsschreiberin: Lang