Abänderung des Scheidungsurteils, hat sich ergeben:
A.- Die Parteien heirateten im Jahre 1981. Aus ihrer Ehe gingen zwei Kinder hervor, nämlich T._, geboren am 19. Februar 1982, und S._, geboren am 4. März 1984.
Das Bezirksgericht Rorschach schied die Ehe der Parteien, stellte die beiden Kinder unter die elterliche Gewalt der Mutter (Dispositiv-Ziffern 1 und 2) und genehmigte die Vereinbarung über die Nebenfolgen der Scheidung (Dispositiv-Ziffer 3 des Urteils vom 19. Juni 1997). K._ hatte sich in der Vereinbarung bereit erklärt, "an den Unterhalt der beiden Kinder monatlich und monatlich vorauszahlbare Kinderalimente von je Fr. 850.-- zuzüglich Kinderzulagen zu bezahlen" (Ziffer 4 Abs. 1). Das Scheidungsurteil wurde den Parteien am 2. September 1997 zugestellt und mit unbenütztem Ablauf der dreissigtägigen Berufungsfrist rechtskräftig.
Während des Scheidungsprozesses war auf Antrag von K._ ein IV-Abklärungsverfahren eingeleitet worden (Gesuch vom 3. März 1997). Mit Vorbescheid vom 15. Juli 1999 und Beschluss vom 9. August 1999 teilte die Sozialversicherungsanstalt des Kantons St. Gallen K._ mit, auf Grund seiner seit rund zehn Jahren bestehenden Einschränkung in der Arbeitsfähigkeit werde ihm mit Wirkung ab 1. März 1996 eine halbe IV-Rente ausgerichtet. Am 28. Oktober 1999 erliess die Sozialversicherungsanstalt zwei Rentenverfügungen für die Zeit ab 1. November 1997: Die eine Verfügung betraf die hälftige Invalidenrente an K._ und die andere die Zusatzrente für die Kinder von monatlich je Fr. 373.--; die Auszahlung der Zusatzrente erfolgte direkt an die Kinder. Die Verfügungen blieben unangefochten. B._ war bereits mit Schreiben vom 23. September 1999 darüber informiert worden, dass zu Gunsten der Kinder eine Nachzahlung von insgesamt Fr. 16'400.-- für die Zeit vom November 1997 bis August 1999 an sie erfolgen werde.
B.- Nachdem er am 26. Oktober 1999 das Vermittlungsbegehren gestellt und am 4. Dezember 1999 den Leitschein erhalten hatte, erhob K._ innert der gesetzlichen Einschreibefrist Klage auf Abänderung des Scheidungsurteils.
Er stellte insbesondere das Begehren, er sei zu verpflichten, an den Unterhalt der beiden Kinder je Fr. 850.-- abzüglich der jeweiligen Kinderzusatzrenten der IV zu bezahlen, und B._ sei zu verpflichten, ihm für zu viel bezahlte Kinderunterhaltsbeiträge Fr. 33'498.-- zu erstatten.
Das Bezirksgericht Rorschach (1. Abteilung) stellte fest, der Kläger habe gemäss Scheidungsurteil Kinderunterhaltsbeiträge von Fr. 850.-- abzüglich allfälliger Kinder-IV- Renten zu bezahlen. Es verpflichtete die Beklagte, dem Kläger Fr. 22'060.-- zu erstatten (Entscheid vom 15. Dezember 2000).
Nach Auffassung des Bezirksgerichts vermindern die Kinder-IVRenten den Kinderunterhaltsbeitrag von Gesetzes wegen, was auf Antrag gerichtlich festzustellen ist (E. 3 S. 3 ff.). Der zuerkannte Rückforderungsbetrag umfasst zu viel bezahlten Kinderunterhalt vom 1. November 1997 bis zum 31. Oktober 2000 nach Verrechnung mit den für November 2000 geschuldeten Beiträgen (E. 4 S. 8 f.).
Die Beklagte legte Berufung ein. Das Kantonsgericht St. Gallen (II. Zivilkammer) bestätigte den bezirksgerichtlichen Entscheid der Sache nach, formulierte aber das Dispositiv neu als Abänderung des Scheidungsurteils (Entscheid vom 17. Oktober 2001).
C.- Dem Bundesgericht beantragt die Beklagte, es sei festzustellen, dass der Kläger seit dem 1. Januar 2000 von den Kinderunterhaltsbeiträgen für seine beiden Kinder von monatlich je Fr. 850.-- die IV-Kinderrenten abziehen dürfe; im Übrigen sei die Klage abzuweisen. Das Kantonsgericht hat auf Gegenbemerkungen verzichtet. Der Kläger stellt den Antrag, auf die Berufung sei nicht einzutreten, eventuell sei sie abzuweisen. Er ersucht um unentgeltliche Rechtspflege.

Das Bundesgericht zieht in Erwägung:
1.- Streitig ist, ab welchem Zeitpunkt der vom Kläger auf Grund des Scheidungsurteils geschuldete Unterhaltsbeitrag an die Kinder herabzusetzen sowie ob und in welchem Betrag zu viel bezahlter Kinderunterhalt zurückzuerstatten sei. Hierbei handelt es sich um eine vermögensrechtliche Zivilrechtsstreitigkeit (<ref-ruling> E. 1, nicht veröffentlicht; <ref-ruling> E. 2b S. 495); die Berufungssumme von Fr. 8'000.-- wird überschritten (Art. 46 i.V.m. Art. 36 Abs. 4 OG). Auf die im Übrigen form- und fristgerechte Berufung ist einzutreten. Was das IV-Abklärungsverfahren angeht (lit. A hiervor), hat das Bundesgericht die kantonsgerichtlichen Tatsachenfeststellungen anhand zweier Verfügungen der kantonalen Sozialversicherungsanstalt (Nrn. 21 und 22 des bezirksgerichtlichen Aktenverzeichnisses) in nebensächlichen Punkten vervollständigt (Art. 64 Abs. 2 OG).
2.- Bevor beurteilt werden kann, ob und welcher Betrag der Kläger zurückfordern kann, ist zu prüfen, ob und auf welchen Zeitpunkt das Scheidungsurteil aus dem Jahre 1997 abzuändern ist. Zur Beurteilung der Abänderungsklage muss vorerst das anwendbare Recht bestimmt werden.
a) Gemäss des auf den 1. Januar 2000 in Kraft gesetzten Art. 7a Abs. 3 SchlTZGB erfolgt die Abänderung eines nach altem Recht ausgesprochenen Scheidungsurteils nach den Vorschriften des früheren Rechts. Vorbehalten bleiben die Bestimmungen über die Kinder und das Verfahren. Unter die vom Vorbehalt erfassten Kinderbelange fällt auch der Kinderunterhalt (Leuenberger, in: Praxiskommentar Scheidungsrecht, Basel 2000, N. 8 zu Art. 7a/b SchlTZGB). Die Frage, ob die Unterhaltsbeiträge zu ändern sind, ist demnach seit dem 1. Januar 2000 nach neuem Recht zu entscheiden.
b) Fraglich ist, welche Bestimmungen für die Zeit vor dem 1. Januar 2000 anwendbar sind. Die kantonale Sozialversicherungsanstalt erliess bereits am 28. Oktober 1999 eine Verfügung, wonach den Kindern rückwirkend ab 1. November 1997 eine Zusatzrente von monatlich je Fr. 373.-- ausbezahlt werde. Umstritten sind die Zahlungen zwischen November 1997 (Rechtskraft der Scheidung) und Ende 1999 (Inkrafttreten des neuen Rechts). Es ist unter den Parteien an sich unbestritten und wurde von der Vorinstanz bestätigt, dass für die Zeit der Klageerhebung und vorher altes Recht anwendbar ist, weil <ref-law> nicht rückwirkend auf Sachverhalte anwendbar ist, die sich vor seinem Inkrafttreten verwirklicht haben (Art. 1 SchlTZGB). Anders ist von Amtes wegen zu entscheiden, wenn die Bestimmung "um der öffentlichen Ordnung und Sittlichkeit willen" aufgestellt worden und daher rückwirkend anzuwenden ist (Art. 2 SchlTZGB). In der Lehre wird die Auffassung vertreten, bei <ref-law> handle es sich um eine solche Bestimmung (Hegnauer, Berner Kommentar, N. 158 zu <ref-law>). Wie es sich damit verhält, kann dahingestellt bleiben. <ref-law> regelt jedenfalls lediglich den Sonderfall von nachträglichen Sozialversicherungsleistungen, die Erwerbseinkommen ersetzen; die Bestimmung begünstigt den unterhaltspflichtigen Elternteil gegenüber dem Kind insofern, als dieser von der Pflicht entbunden wird, vorerst ein Abänderungsurteil zu erwirken, bevor er den bisherigen Unterhaltsbeitrag reduzieren darf. Diese Bestimmung liegt nicht derart im öffentlichen Interesse, dass sie dem "ordre public" angehört und rückwirkend angewendet werden muss (vgl. zum Begriff: Vischer, Basler Kommentar, N. 3 f. zu Art. 2 SchlTZGB). Das bedeutet, dass zur Beurteilung der Frage, ob und auf welchen Zeitpunkt vor dem 1. Januar 2000 der Kinderunterhalt gemäss Scheidungsurteil abgeändert werden muss, die bis Ende 1999 gültige Regelung anwendbar ist.
3.-Gemäss dem neuen <ref-law> hat der Unterhaltspflichtige Sozialversicherungsrenten oder ähnliche für den Unterhalt des Kindes bestimmte Leistungen, die er infolge Alter oder Invalidität nachträglich erhält und die Erwerbseinkommen ersetzen, dem Kind zu zahlen; der bisherige Unterhaltsbeitrag vermindert sich von Gesetzes wegen im Umfang dieser neuen Leistungen. Voraussetzungen der Anwendung dieser Bestimmung sind, dass der Rentenanspruch bei der Festsetzung der Unterhaltsbeiträge nicht berücksichtigt worden ist und dass die IV-Kinderzusatzrente Erwerbseinkommen ersetzt (vgl. Wullschleger, im zit. Praxiskommentar, N. 76 zu <ref-law>). Diese Voraussetzungen sind erfüllt. Der Kläger hat das Gesuch um eine Invalidenrente zwar bereits am 3. März 1997, also ein halbes Jahr vor der Scheidung gestellt, aber die Beklagte und das Gericht darüber nicht informiert, so dass dieser Umstand im Urteil nicht berücksichtigt worden ist. Weiter stützt sich die Zusatzrente für die Kinder auf Art. 35 des Bundesgesetzes vom 19. Juni 1959 über die Invalidenversicherung (IVG; SR 831. 20) und steht der invaliden Person zu. Sie dient der Erleichterung der Unterhaltspflicht des invalid gewordenen Schuldners und soll dessen Einkommenseinbusse ausgleichen und nicht der Bereicherung der Unterhaltsempfänger dienen (<ref-ruling> E. 2b S. 125). Dies bedeutet, dass der Kläger die Zusatzrente seit dem 1. Januar 2000 an seine beiden Kinder zu bezahlen hat, wobei sich seine eigene Unterhaltspflicht ohne Abänderung des Scheidungsurteils von Gesetzes wegen entsprechend vermindert hat. Diese rechtliche Folge auf Grund des neuen Rechts ist unbestritten. Die Beklagte hat deshalb beantragt, es sei festzustellen, dass der Kläger seit dem 1. Januar 2000 von den Kinderunterhaltsbeiträgen von monatlich je Fr. 850.-- die IV-Kinderzusatzrente abziehen dürfe.
4.-Gemäss dem seit 1. Januar 1978 in Kraft stehenden <ref-law> sind Kinderzulagen, Sozialversicherungsrenten und ähnliche für den Unterhalt des Kindes bestimmte Leistungen, die dem Unterhaltspflichtigen zustehen, zusätzlich zum Unterhaltsbeitrag zu zahlen, soweit das Gericht es nicht anders bestimmt. Es gilt folglich der Grundsatz der Kumulation von Unterhaltsbeitrag und Sozialleistungen, soweit das Gericht keine andere Regelung trifft.
a) Das Bezirksgericht führte in seinem Entscheid vom 15. Dezember 2000 aus, diese Bestimmung regle einzig die Behandlung von Sozialleistungen im Zeitpunkt der Bestimmung der Unterhaltsbeiträge, also im Scheidungszeitpunkt, nicht aber nachträglich veränderte Verhältnisse. Bei nachträglich veränderten Verhältnissen habe auch unter der Herrschaft des alten Rechts der Gehalt von <ref-law> gegolten. Eine Abänderung des Scheidungsurteils sei im Fall einer nachträglich zugesprochenen IV-Kinderzusatzrente nicht notwendig gewesen.
Das Bezirksgericht hielt deshalb eine Änderung des Scheidungsurteils nicht für erforderlich, stellte aber immerhin urteilsmässig fest, dass der Kläger verpflichtet sei, Kinderunterhaltsbeiträge von Fr. 850.-- abzüglich allfälliger Kinder-IV-Renten zu bezahlen.
Das Kantonsgericht führte im angefochtenen Entscheid aus, mit <ref-law> werde für den Kinderunterhalt eine Koordinationsregelung zwischen Sozialversicherungs- und Zivilrecht getroffen. Weder sollte damit eine unbedingte Kumulierung von Unterhalt und Sozialversicherungsrenten noch eine unbedingte Anrechnung (Tilgung des Unterhalts durch Drittleistung), wie nun mit <ref-law>, festgelegt werden. Habe der Rentenanspruch bereits im Urteilszeitpunkt bestanden, verlange die Bestimmung, dass er bei der Bemessung des Unterhaltsbeitrages berücksichtigt werde. Entstehe die Rente erst nachher, sollte ihr mit einer nachträglichen Urteilsabänderung gemäss <ref-law> Rechnung getragen werden. Dies bedeute, dass nach bisherigem Recht - im Gegensatz zum neuen - keine automatische Anpassung des Unterhaltsbeitrags erfolge. Vielmehr sei eine Abänderungsklage notwendig.
b) Der Kläger und die Beklagte beanstanden den angefochtenen Entscheid in diesem Punkt mit Recht nicht: Das Bundesgericht hat in <ref-ruling> Nr. 20 zwar erkannt, es sei nicht willkürlich, davon auszugehen, dass gerichtlich festgelegte Beiträge an den Unterhalt des Kindes dadurch getilgt werden, dass eine erst nach der Scheidung entstandene Kinder-Zusatzrente des Unterhaltsschuldners an die Inhaberin der elterlichen Gewalt ausbezahlt werde (E. 2c S. 125 f.). Das Bundesgericht hat demnach die Auffassung der Vorinstanz als nicht willkürlich bezeichnet, wonach bereits unter der Herrschaft des alten Rechts der Gehalt von <ref-law> gegolten habe. Dieser Entscheid ist in der Lehre auf Kritik gestossen (vgl. insbesondere Hegnauer, N. 105 ff. zu <ref-law>; Breitschmid, Basler Kommentar, N. 31 zu <ref-law>).
Bei freier Prüfung ergibt sich denn auch, dass nach dem Wortlaut und Wortsinn und auf Grund der Entstehungsgeschichte (vgl. dazu im Einzelnen Hegnauer, N. 106-108 zu <ref-law>) von <ref-law> der Grundsatz der Kumulation gilt.
Kinderzulagen, Sozialversicherungsrenten und ähnliche für den Unterhalt des Kindes bestimmte Leistungen, die dem Unterhaltspflichtigen zustehen, sind deshalb zusätzlich zum Unterhaltsbeitrag zu zahlen, soweit das Gericht es nicht anders bestimmt. Es handelt sich bei dieser Bestimmung in erster Linie um eine Anweisung an das Scheidungsgericht die erwähnten Sozialleistungen bei der Bemessung des Unterhaltsbeitrags vorweg abzuziehen. Eine Änderung der Sozialleistungen nach dem Scheidungsurteil berührt den Grundsatz der Kumulation nach dieser Bestimmung nicht schon von Gesetzes wegen. Vielmehr muss der Unterhaltsbeitrag bei veränderten Verhältnissen durch das Gericht abgeändert werden, wenn die Voraussetzungen von <ref-law> erfüllt sind. Bis zum Zeitpunkt der Abänderung gilt nach dieser Regelung die Kumulation.
5.-Gemäss <ref-law> kann der "Veränderung der Verhältnisse" (Randtitel) auf zwei Arten Rechnung getragen werden:
Einerseits durch Abänderung zum Voraus, indem das Gericht die Anpassung des Unterhaltsbeitrags an künftige veränderte Verhältnisse im Urteil selbst anordnet (Abs. 1), andererseits durch nachträgliche Abänderung in einem neuen Verfahren, in welchem das Gericht bei erheblicher Veränderung der Verhältnisse den Unterhaltsbeitrag auf Parteiantrag hin neu festsetzt oder aufhebt (Abs. 2).
a) Das Kantonsgericht ist davon ausgegangen, dass die Verfügung der Sozialversicherungsanstalt vom 28. Oktober 1999, mit der für die Kinder rückwirkend ab 1. November 1997 eine Kinderrente als Zusatz zur Rente des Vaters zugesprochen wurde, erheblich veränderte Verhältnisse geschaffen habe. Die Beklagte macht geltend, nicht die Verfügung vom 28. Oktober 1999, sondern die Invalidität des Klägers sei es, welche die von diesem behauptete Leistungsfähigkeit massgeblich verändert habe. Die Invalidität sei aber bereits vor dem Scheidungsurteil eingetreten. Bei dieser Sachlage hätte der Kläger - wenn schon - die Revision des Scheidungsurteils und nicht dessen Abänderung verlangen müssen.
b) Da der Kläger kein entsprechendes Gesuch gestellt hat, kann dahingestellt bleiben, ob ein bundes- oder kantonalrechtlicher Revisionsgrund (vgl. <ref-law> und <ref-law>/SG) gegeben ist. Einzig zu entscheiden ist, ob eine erhebliche Veränderung der Verhältnisse im Sinne von <ref-law> vorliegt. Dass die neue Tatsache vorhersehbar war, ist unerheblich, solange ihr nicht schon im Sinne von <ref-law> zum Voraus Rechnung getragen worden ist (vgl. dazu Breitschmid, N. 11 zu <ref-law>, e contrario; ebenso beim nachehelichen Unterhalt: Lüchinger/Geiser, Basler Kommentar, N. 12 zu aArt. 153 ZGB). Wie der Kläger zutreffend hervorhebt, liegt eine Veränderung gemäss <ref-law> vor, wenn Sozialleistungen nach Festlegung des Unterhaltsbeitrags zugesprochen und dabei nicht mitberücksichtigt worden sind und wenn die Kinder dadurch mehr erhalten als ihnen nach <ref-law> zusteht (Hegnauer, N. 79 zu <ref-law>; Breitschmid, N. 31 zu <ref-law>).
c) Die Unterhaltsbeiträge sind im Scheidungsurteil gestützt auf eine Vereinbarung der Parteien auf Fr. 850.-- pro Kind festgelegt worden. Der Beitrag entsprach den damaligen Bedürfnissen der Kinder sowie der Lebensstellung und Leistungsfähigkeit der Eltern (<ref-law>). Der Umstand, dass der Kläger möglicherweise Anspruch auf eine IVKinderzusatzrente haben würde, wurde bei der Festsetzung der Unterhaltsbeiträge nicht berücksichtigt (vgl. oben E. 3).
Dieser Anspruch wurde mit Verfügung der Sozialversicherungsanstalt vom 28. Oktober 1999 für die massgebliche Zeit auf Fr. 373.-- pro Kind festgelegt. Wie bereits ausgeführt (oben E. 3), ersetzt die IV-Kinderzusatzrente Erwerbseinkommen des Klägers und soll nicht der Bereicherung der Kinder dienen.
Bei dieser Sachlage sind die erheblich veränderten Verhältnisse zu bejahen. Das Kantonsgericht hat daher die Regelung der Unterhaltspflicht im Scheidungsurteil mit Recht derart abgeändert, dass vom Unterhaltsbeitrag von Fr. 850.-- pro Kind die IV-Kinderzusatzrente abgezogen werden darf.
6.-a) Nach der Rechtsprechung des Bundesgerichts wirkt die vom Unterhaltsschuldner verlangte Abänderung der Unterhaltsleistung frühestens ab dem Zeitpunkt der Klageeinreichung.
Im Gegensatz zum Kind, welches gestützt auf die ausdrückliche gesetzliche Grundlage in <ref-law> eine Erhöhung des Unterhaltsbeitrags für ein Jahr vor Klageeinreichung verlangen kann, steht diese Möglichkeit dem Unterhaltsschuldner nicht zu. Er kann eine Herabsetzung des Unterhaltsbeitrages erst mit Wirkung auf den Zeitpunkt der Klageerhebung erlangen (<ref-ruling> Nr. 84). Der Kläger hat am 26. Oktober 1999 das Vermittlungsbegehren gestellt und anschliessend innert der Einschreibefrist von zwei Monaten die Klage beim Bezirksgericht eingereicht. Daher können veränderte Verhältnisse ab dem 26. Oktober 1999 berücksichtigt werden.
b) Mit Verfügung vom 28. Oktober 1999 hat die Sozialversicherungsanstalt für die beiden Kinder des Klägers eine Kinderzusatzrente nicht nur für die Zukunft anerkannt, sondern rückwirkend ab 1. November 1997. Wie gezeigt, gilt nach <ref-law> bis zum Einreichen der Änderungsklage von Gesetzes wegen der Grundsatz der Kumulation, so dass die rückwirkend auszurichtende Rente den Kindern zusätzlich zum Unterhaltsbeitrag zu leisten ist. Die Kumulation entfällt erst ab 26. Oktober, also per November 1999.
7.- a) Was die Rückforderungsklage anbelangt, erhebt die Beklagte zunächst die Einrede der fehlenden Passivlegitimation.
Sie führt aus, sie sei durch die Nachzahlungen der IVKinderzusatzrente nicht ungerechtfertigt bereichert, und es bestehe daher kein Rückforderungsanspruch ihr gegenüber, weil sich aus der Verfügung der Sozialversicherungsanstalt ausdrücklich ergebe, dass die Renten für die beiden Kinder auch auf deren Bankkonto auszubezahlen seien. Sie macht geltend, durch die angeblich rechtswidrige Kumulation von IV-Kinderzusatzrente und Unterhaltsbeitrag sei - wenn überhaupt - nicht sie bereichert worden, sondern es hätten gegebenenfalls die Kinder zu viel erhalten, so dass sich die Rückforderungsklage gegen die Kinder hätte richten müssen. Sie sieht darin eine Verletzung von <ref-law>. Der Kläger wendet gegen diese Betrachtungsweise ein, weder er noch die Vorinstanz habe den Rückforderungsanspruch auf die Zahlungen der Sozialversicherungsanstalt abgestützt. Die ungerechtfertigte Bereicherung ergebe sich vielmehr daraus, dass der Kläger der Beklagten Kinderunterhaltsbeiträge ausgerichtet habe, deren Höhe infolge der nachträglich zugesprochenen Kinderzusatzrenten nicht mehr gerechtfertigt gewesen sei.
b) Die Einrede der fehlenden Passivlegitimation hat die Beklagte vor Kantonsgericht nicht erhoben. Im Berufungsverfahren sind neue Einreden zwar ausgeschlossen (Art. 55 Abs. 1 lit. c OG), doch müssen nach der Rechtsprechung des Bundesgerichts die Aktiv- und Passivlegitimation als materiellrechtliche Voraussetzungen des eingeklagten Anspruchs von Amtes wegen geprüft werden. Das gilt freilich nur für die Rechtsanwendung, nicht für den ihr zu Grunde liegenden Sachverhalt (<ref-ruling> E. 1), weil das Bundesgericht an die tatsächlichen Feststellungen der letzten kantonalen Instanz grundsätzlich gebunden ist (Art. 55 Abs. 1 lit. c und Art. 63 Abs. 2 OG). In diesem Zusammenhang rügt die Beklagte ein offensichtliches Versehen und eine Verletzung von <ref-law>:
Aus den Akten ergebe sich klar, dass die Zahlungen der Sozialversicherungsanstalt direkt auf ein Bankkonto der Kinder und nicht an sie erfolgt seien.
c) Es trifft zu, dass das Kantonsgericht - gleich wie die Beklagte und im Übrigen auch der Kläger - davon ausgegangen ist, dass die IV-Kinderzusatzrente gemäss der massgeblichen Verfügung der Sozialversicherungsanstalt den Kindern direkt auszubezahlen war und damit dem Kindesvermögen zugerechnet werden muss. Ebenso trifft zu, dass der Anspruch auf Unterhaltsbeiträge gemäss <ref-law> dem Kind zusteht und die Beitragsforderung deswegen zum Kindesvermögen gehört (vgl. dazu Hegnauer, N. 9 zu Art. 289 und N. 8 ff.
zu aArt. 290 ZGB). Der Anspruch auf Unterhaltsbeiträge wird aber, solange das Kind unmündig ist, durch Leistung an dessen gesetzlichen Vertreter oder den Inhaber der Obhut erfüllt.
Tatsächlich wurden die Unterhaltsbeiträge im vorliegenden Fall an die Beklagte zu Gunsten der Kinder geleistet.
d) Die Eltern haben, solange ihnen die elterliche Sorge zusteht, das Recht und die Pflicht, das Kindesvermögen zu verwalten (<ref-law>). Aus diesem Pflichtrecht hat die Praxis abgeleitet, dass der Inhaber der elterlichen Sorge die (Vermögens-)Rechte des Kindes vor Gericht in eigenem Namen als Partei wahrnimmt (<ref-ruling> S. 245, zum gleichlautenden aArt. 290 Abs. 1 ZGB). Die vorherrschende Lehre teilt diese Sicht und hält dafür, die Klage auf Abänderung der durch Scheidungsurteil festgelegten Kindesunterhaltsbeiträge richte sich - oder könne jedenfalls gerichtet werden - gegen den Inhaber der elterlichen Sorge als Prozessstandschafter (vgl. etwa Bühler/Spühler, Berner Kommentar und Ergänzungsband, N. 59 und N. 279 zu aArt. 156 ZGB; Hegnauer, N. 63 zu <ref-law>). Dasselbe gilt für die Rückforderung von zu viel bezahlten Kindesunterhaltsbeiträgen, weil diese zum Kindesvermögen gehören (E. 7c soeben) und weil die Befugnis des Inhabers der elterlichen Sorge, einen Prozess anstelle des verpflichteten Kindes in eigenem Namen als Partei zu führen, das Kindesvermögen insgesamt betrifft. Die Sachverhaltsrügen, auf wessen Bankkonto die IV-Kinderzusatzrenten ausbezahlt worden sind, sind für die rechtliche Beurteilung der Prozessstellung der Beklagten daher unerheblich.
e) Die Einrede der Beklagten muss nach dem Gesagten abgewiesen werden. Sie hat nicht die Passivlegitimation im eigentlichen Sinne zum Gegenstand gehabt, sondern die Befugnis der Beklagten, den Prozess in eigenem Namen als Partei anstelle ihrer Kinder als materiellrechtlich Verpflichtete zu führen. Diese Unterscheidung wird auch für die Frage der Verrechnung entscheidend sein (E. 9 hiernach).
8.- Die kantonalen Gerichte haben die Rückforderungsklage im Wesentlichen zugesprochen, und zwar für den Zeitraum ab November 1997 (Rechtskraft der Scheidung) bis zum bezirksgerichtlichen Entscheid (Ende Oktober 2000), also für drei Jahre.
a) Aus den Schlussfolgerungen aus dem Abänderungsprozess erhellt ohne weiteres, dass die Rückforderungsklage für die Zeit vor dem 26. Oktober 1999 unbegründet ist, weil sich die Pflicht zur Leistung des vollen Unterhaltsbeitrags aus dem rechtskräftigen Scheidungsurteil ergibt und bezüglich der IV-Kinderzusatzrente der Grundsatz der Kumulation galt.
Die Berufung ist in diesem Umfang gutzuheissen.
b) Anders könnte es sich nur verhalten, wenn der Beklagten - wie der Kläger behauptet - Rechtsmissbrauch vorgeworfen werden müsste. Es kann rechtsmissbräuchlich sein, auf der Weiterzahlung der bisherigen Unterhaltsbeiträge und der neuen oder erhöhten Sozialleistungen zu beharren, wo die Kumulation zu einer offensichtlichen Überdeckung des Unterhaltsbeitrages führt (Hegnauer, N. 109 zu <ref-law>). Ob die Beklagte ein solcher Vorwurf trifft, kann nur auf Grund der wirtschaftlichen Situation insgesamt beurteilt werden.
Die Leistungsfähigkeit des Klägers musste im Scheidungsverfahren durch Gutachten festgestellt werden (E. c S. 10 des Urteils) und hat Kinderunterhaltsbeiträge ermöglicht, obwohl der Kläger offenbar bereits damals nur mehr reduziert arbeitsfähig gewesen ist. Es ist unter diesen Umständen ungewiss, ob das Scheidungsgericht überhaupt eine Ausnahme vom Grundsatz der Kumulation gemäss <ref-law> gemacht hätte. Dass die Beklagte auf der Bezahlung von Unterhaltsbeiträgen und IV-Kinderzusatzrenten beharrt hat, kann ihr deshalb auch nicht als offenbarer Rechtsmissbrauch angelastet werden. Umgekehrt spricht das Verhalten des Klägers im Scheidungsprozess gegen eine weitergehende Zulassung der Rückforderung.
Er hat weder die Beklagte noch das Gericht darüber informiert, dass auf sein Gesuch hin ein IV-Abklärungsverfahren bereits während des Scheidungsprozesses im Gang war, dessen Ausgang allenfalls hätte abgewartet oder im Scheidungsurteil hätte vorbehalten werden können. Dadurch hat der Kläger zwar nicht seinen Abänderungsanspruch verwirkt, doch sein Verhalten rechtfertigt es, die Rückforderungsklage für die Zeit vor dem 26. Oktober 1999 abzuweisen und eine Ausnahmesituation zu verneinen.
c) Für die Zeit ab November 1999 ist die Rückforderungsklage dagegen begründet und die Berufung in diesem Umfang abzuweisen, soweit der Kläger für diese Zeit den vollen Unterhaltsbeitrag bezahlte, obwohl er seit Einreichung der Abänderungsklage die IV-Kinderzusatzrente hätte abziehen können. Da das Bundesgericht über die genauen Zahlen nicht verfügt und von den weiterlaufenden Zahlungen keine Kenntnis hat, muss die Sache zur Bestimmung des Rückforderungsbetrags ab November 1999 an das Kantonsgericht zurückgewiesen werden (Art. 64 Abs. 1 OG).
9.-Die Beklagte stellt der Rückforderungsklage eine eigene Forderung aus nicht bezahlten Frauenunterhaltsbeiträgen im Betrage von Fr. 4'600.-- zur Verrechnung. Die Vorinstanz liess offen, ob eine solche Verrechnungsforderung besteht, weil die Verrechnung nach <ref-law> Gegenseitigkeit der Forderung voraussetze. Diese Voraussetzung sei nicht erfüllt, stehe die Frauenunterhaltsforderung doch der Beklagten selber und die Kinderunterhaltsforderung den Kindern zu. Diese Auffassung trifft zu. Gemäss <ref-law> muss, wer Verrechnung erklären will, Gläubiger des Verrechnungsgegners und dieser wiederum Gläubiger des Verrechnenden sein. Wie oben ausgeführt (E. 7d), nimmt die Beklagte zwar in eigenem Namen und als Partei am Prozess teil, der Anspruch auf Unterhaltsbeiträge gemäss <ref-law> steht aber dem Kind zu, so dass dieses Gläubiger ist (Hegnauer, N. 8 ff. zu <ref-law>). Die Beklagte ist bloss zur Geltendmachung einer fremden Forderung in eigenem Namen befugt, so dass ihre Frauenunterhaltsforderung nicht mit der Rückforderung von Kinderunterhaltsbeiträgen verrechnet werden kann (Aepli, Zürcher Kommentar, N. 24 zu <ref-law> mit Beispielen in N. 35 und N. 39).
Soweit dies im erstinstanzlichen Entscheid zu Lasten des Klägers gleichwohl geschehen ist, ist dieser Teilbetrag mangels Anfechtung durch ihn allerdings in Rechtskraft erwachsen.
10.-a) Diese rechtlichen Ausführungen haben zur Folge, dass die Berufung mehrheitlich gutzuheissen und der kantonsgerichtliche Entscheid in den angefochtenen Punkten aufzuheben ist. In Dispositiv-Ziffer 1 ist - wie ausgeführt - neu festzuhalten, dass das Abänderungsurteil seine Wirkung ab Einreichung des Vermittlungsbegehrens vom 26. Oktober 1999 entfaltet. Die Ziffern 2, 3 und 4 des angefochtenen Entscheids sind aufzuheben und zur Neubeurteilung im Sinne der Erwägungen an die Vorinstanz zurückzuweisen.
b) Was die Kosten des Bundesgerichts und die Parteientschädigung anbelangt, können diese verhältnismässig verlegt werden, wenn keine Partei vollständig obsiegt (Art. 156 Abs. 3 und Art. 159 Abs. 3 OG). Der Kläger ist mehrheitlich unterlegen. Es rechtfertigt sich, die Kosten zu zwei Dritteln dem Kläger und zu einem Drittel der Beklagten aufzuerlegen, und der Beklagten eine im gleichen Verhältnis herabgesetzte Parteientschädigung zuzuerkennen. Über die Kosten und Entschädigungen des kantonalen Verfahrens wird das Kantonsgericht zu befinden haben (Art. 157 und Art. 159 Abs. 6 OG).
c) Dem Gesuch des Klägers um unentgeltliche Rechtspflege kann entsprochen werden (Art. 152 OG).

Demnach erkennt das Bundesgericht:
1.- Die Berufung wird teilweise gutgeheissen, und der Entscheid des Kantonsgerichts St. Gallen, II. Zivilkammer, vom 17. Oktober 2001 wird aufgehoben.
2.- a) Die Ziffer 3 im Urteil des Bezirksgerichtes Rorschach vom 19. Juni 1997 betreffend die Genehmigung von Ziffer 4 Abs. 1 der Scheidungskonvention wird wie folgt abgeändert:
"Der Vater hat an den Unterhalt der beiden Kinder monatlich und zum Voraus je Fr. 850.--, ab November 1999 vermindert im Umfang der IV-Kinderzusatzrente, zu bezahlen.. "
b) Die Beklagte wird verpflichtet, dem Kläger den von ihm ab November 1999 zu viel bezahlten Kindesunterhalt zurückzuerstatten; zur Bestimmung des Rückforderungsbetrags wird die Sache an das Kantonsgericht zurückgewiesen.
c) Im Übrigen wird die Klage abgewiesen.
3.- Dem Kläger wird die unentgeltliche Rechtspflege gewährt, und es wird ihm Rechtsanwalt Dr. Stephan Thurnherr, Neugasse 55, 9000 St. Gallen, als amtlicher Vertreter bestellt.
4.- Die Gerichtsgebühr von Fr. 3'000.-- wird zu zwei Dritteln dem Kläger und zu einem Drittel der Beklagten auferlegt; der auf den Kläger entfallende Anteil wird vorläufig auf die Gerichtskasse genommen.
5.- a) Der Kläger hat die Beklagte für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
b) Rechtsanwalt Dr. Stephan Thurnherr, Neugasse 55, 9000 St. Gallen, wird als amtlichem Vertreter des Klägers aus der Bundesgerichtskasse ein Honorar von Fr. 2'000.-- ausgerichtet.
6.- Die Sache wird zur Neuverlegung der Kosten und Entschädigungen des kantonalen Verfahrens an das Kantonsgericht zurückgewiesen.
7.- Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, II. Zivilkammer, schriftlich mitgeteilt.
_
Lausanne, 20. Juni 2002
Im Namen der II. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: