Sachverhalt:
A.
Der 1980 geborene A._, zuletzt Serienapparatemonteur bei der B._ AG meldete sich im Oktober 2015 bei der Eidgenössischen Invalidenversicherung (IV) zum Leistungsbezug an. Die IV-Stelle des Kantons Thurgau gewährte dem Versicherten daraufhin Frühinterventionsmassnahmen in Form von Arbeitsplatzerhalt und tätigte Abklärungen. Am 3. Mai 2019 erstattete die estimed AG, MEDAS Zug, ein polydisziplinäres Gutachten. Nach durchgeführten Vorbescheidverfahren sprach die IV-Stelle dem Versicherten mit Verfügung vom 24. September 2020 eine vom 1. Mai bis 31. Dezember 2016 befristete ganze Invalidenrente zu. Mit Verfügung vom 25. September 2020 verneinte sie den Anspruch auf berufliche Massnahmen (Berufsberatung, Umschulung, Arbeitsvermittlung).
B.
Der Versicherte erhob gegen beide Verfügungen Beschwerde, zog die Beschwerde gegen die Verfügung vom 24. September 2020 jedoch in der Folge zurück. Nach Vereinigung der Verfahren schrieb das Verwaltungsgericht des Kantons Thurgau die Beschwerde vom 26. Oktober 2020 gegen die Verfügung vom 24. September 2020 betreffend Invalidenrente mit Entscheid vom 22. September 2021 infolge Rückzugs am Protokoll ab, die Beschwerde vom 28. Oktober 2020 gegen die Verfügung vom 25. September 2020 betreffend berufliche Massnahmen wies sie ab.
C.
A._ lässt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen, es sei der Entscheid des Verwaltungsgerichts des Kantons Thurgau vom 22. September 2021 aufzuheben und die IV-Stelle anzuweisen, ihm berufliche Massnahmen (Umschulung, Arbeitsvermittlung) zu gewähren. Sodann ersucht er um Gewährung der unentgeltlichen Rechtspflege.
Die Beschwerdegegnerin ersucht unter Verweis auf den angefochtenen Entscheid um Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen (BSV) verzichtet auf eine Vernehmlassung.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Indes prüft es, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 mit Hinweis).
2.
2.1. Streitig und zu prüfen ist, ob Bundesrecht verletzt wurde, indem die Vorinstanz die Ansprüche des Beschwerdeführers auf Arbeitsvermittlung und Umschulung verneint hat.
2.2.
2.2.1. Im angefochtenen Entscheid wurden die massgeblichen rechtlichen Grundlagen teils dargelegt. Es betrifft dies namentlich die Erwägungen zur Invalidität und Erwerbsunfähigkeit (Art. 7 und 8 Abs. 1 ATSG) sowie die Grundsätze, gemäss welchen Anspruch auf Eingliederungsmassnahmen besteht (<ref-law>). Darauf wird verwiesen.
2.2.2. Zu ergänzen ist Folgendes: Nach <ref-law> hat der Versicherte Anspruch auf Umschulung auf eine neue Erwerbstätigkeit, wenn die Umschulung infolge Invalidität notwendig ist und dadurch die Erwerbsfähigkeit voraussichtlich erhalten oder verbessert werden kann.
Gemäss <ref-law> gelten als Umschulung Ausbildungsmassnahmen, die Versicherte nach Abschluss einer erstmaligen beruflichen Ausbildung oder nach Aufnahme einer Erwerbstätigkeit ohne vorgängige berufliche Ausbildung wegen ihrer Invalidität zur Erhaltung oder Verbesserung der Erwerbsfähigkeit benötigen (Abs. 1). Als Umschulungsmassnahmen gelten auch Ausbildungsmassnahmen, die zu einer höherwertigen als die vorhandene Ausbildung führen, sofern sie zur Erhaltung oder Verbesserung der Erwerbsfähigkeit notwendig sind (Abs. 1bis).
Arbeitsunfähige (<ref-law>) Versicherte, welche eingliederungsfähig sind, haben nach <ref-law> schliesslich unter anderem Anspruch auf aktive Unterstützung bei der Suche eines geeigneten Arbeitsplatzes (lit. a).
3.
3.1. Das kantonale Gericht hat dem estimed-Gutachten vom 3. Mai 2019 Beweiskraft zuerkannt. Gestützt hierauf hat es in der angestammten Tätigkeit als Serienapparatemonteur auf eine vollständige Arbeitsunfähigkeit und in leidensangepasster Tätigkeit auf eine Leistungsfähigkeit von 80 % geschlossen.
Den Anspruch auf Arbeitsvermittlung hat die Vorinstanz mit der Begründung abgewiesen, die hierfür leistungsspezifische Invalidität müsse sich dahingehend auswirken, dass diese selbst Probleme bei der Stellensuche verursache. Derartige spezifische Einschränkungen seien vorliegend ohne Weiteres zu verneinen, weshalb eine Arbeitsvermittlung nach <ref-law> nicht in die Zuständigkeit der Beschwerdegegnerin falle.
Hinsichtlich des Anspruchs auf Umschulung hat das kantonale Gericht ausgeführt, zwar erleide der Beschwerdeführer ohne zusätzliche berufliche Ausbildung eine dauernde Erwerbseinbusse von 20 %. Jedoch wirke sich die festgestellte Leistungsbeeinträchtigung in jeder angepassten Tätigkeit aus. Eine Umschulung des Beschwerdeführers zur Erzielung eines höheren Einkommens würde demnach zu einer Besserstellung führen, zumal sich aus dem nicht weiter bestrittenen Einkommensvergleich der IV-Stelle bei einem Pensum von 100 % ein im Wesentlichen identisches Validen- und Invalideneinkommen ergebe. Da kein Anspruch auf die bestmöglichen Vorkehrungen bestehe, habe die Beschwerdegegnerin den Anspruch auf Umschulung zu Recht verneint. Sonstige Umstände, die eine Selbsteingliederung zu verhindern oder erschweren vermöchten, seien nicht ersichtlich.
3.2.
3.2.1. Es ist weder ersichtlich noch mit den Vorbringen des Beschwerdeführers dargetan, inwiefern die vorinstanzliche Feststellung, wonach beim Beschwerdeführer keine Einschränkungen vorlägen, die Probleme bei der Stellensuche verursachen würden, offensichtlich unrichtig sein soll. Der diesbezügliche Einwand, die 20%ige Leistungsminderung sei für einen Arbeitgeber "nicht einfach zu handhaben", zielt genauso an der Sache vorbei, wie der Umstand, dass der Beschwerdeführer bei der Stellenwahl eingeschränkt sein soll. Mit der Verneinung des Anspruchs auf Arbeitsvermittlung hat das kantonale Gericht somit kein Bundesrecht verletzt.
3.2.2. Eine Erwerbseinbusse von 20 % als Voraussetzung für eine Umschulung liegt sodann unbestritten vor. Wie das kantonale Gericht selbst ausführt, ist unter einer Umschulung die Summe der Eingliederungsmassnahmen berufsbildender Art zu verstehen, die notwendig und geeignet sind, der vor Eintritt der Invalidität bereits erwerbstätig gewesenen versicherten Person eine ihrer früheren annähernd gleichwertige Erwerbsmöglichkeit zu vermitteln. Der Begriff der annähernden Gleichwertigkeit bezieht sich dabei auf die nach der Eingliederung zu erwartende Verdienstmöglichkeit.
Sinn und Zweck einer Umschulung ist es somit, die durch die Invalidität erlittene Erwerbseinbusse so gut als möglich auszugleichen. Entgegen der Ansicht der Vorinstanz ist hierzu eine Umschulung in eine besser entlöhnte Tätigkeit nicht per se ausgeschlossen. Solange diese der Wiederherstellung der verloren gegangenen Erwerbsfähigkeit dient und nicht zu einer im Vergleich zum Zeitpunkt vor Eintritt der Invalidität verbesserten Erwerbslage führt, spricht nichts dagegen (so explizit auch <ref-law>, E. 2.2.2 hiervor). Die Vorinstanz verletzt mit ihrer Begründung daher Bundesrecht. Die Beschwerde ist unter diesem Aspekt begründet. Die Sache ist zwecks Prüfung einer Umschulung an die Beschwerdegegnerin zurückzuweisen.
4.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten den Parteien je zur Hälfte aufzuerlegen (<ref-law>; vgl. zur Rückweisung statt vieler: <ref-ruling> E. 7.1; Urteil 9C_559/2019 vom 9. Dezember 2019 E. 7). Da die gesetzlichen Voraussetzungen für die unentgeltliche Rechtspflege erfüllt sind (Art. 64 Abs. 1 und 2 BGG), ist der auf den Beschwerdeführer entfallende Anteil der Gerichtskosten auf die Bundesgerichtskasse zu nehmen. Sodann hat die Beschwerdegegnerin dem Beschwerdeführer dem teilweisen Obsiegen entsprechend die Hälfte der Parteikosten zu ersetzen (Art. 68 Abs. 1 und 2 BGG). Die Differenz ist ihm zufolge Gewährung der unentgeltlichen Verbeiständung aus der Bundesgerichtskasse zu vergüten. Der Beschwerdeführer wird jedoch auf <ref-law> hingewiesen. Danach hat die Partei der Gerichtskasse Ersatz zu leisten, wenn sie später dazu in der Lage ist. Die Sache ist zur Neuverlegung der Kosten und Parteientschädigung des vorangegangenen Verfahrens an die Vorinstanz zurückzuweisen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Thurgau vom 22. September 2021 und die Verfügung der IV-Stelle des Kantons Thurgau vom 25. September 2020 werden aufgehoben, soweit sie den Anspruch auf Umschulung betreffen. Die Sache wird zu neuer Verfügung an die IV-Stelle des Kantons Thurgau zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Das Gesuch um unentgeltliche Rechtspflege wird gutgeheissen, soweit es nicht gegenstandslos ist, und Rechtsanwältin Bettina Surber wird als unentgeltlicher Rechtsbeistand bestellt.
3.
Die Gerichtskosten von Fr. 500.- werden den Parteien je zur Hälfte auferlegt. Der Anteil des Beschwerdeführers wird vorläufig auf die Bundesgerichtskasse genommen.
4.
Die Beschwerdegegnerin hat die Rechtsvertreterin des Beschwerdeführers für das bundesgerichtliche Verfahren mit Fr. 1400.- zu entschädigen. Aus der Bundesgerichtskasse wird ihr ebenfalls eine Entschädigung von Fr. 1400.- ausgerichtet.
5.
Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Thurgau zurückgewiesen.
6.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Thurgau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. Februar 2022
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Die Gerichtsschreiberin: Nünlist