(Art. 153 Abs. 2 aZGB und Art. 286 ZGB), hat sich ergeben: A.- Mit Urteil des Kantonsgerichts Appenzell Ausserrhoden vom 14. Februar 1996 wurde die Ehe von B._, geboren am 24. Februar 1950, und A._, geboren am 1. September 1947, geschieden. In der richterlich genehmigten Scheidungskonvention vom 7. November 1995 verpflichtete sich A._ unter anderem, an B._ gestützt auf Art. 151 aZGB während 10 Jahren nach Rechtskraft des Scheidungsurteils einen Unterhaltsbeitrag von Fr. 3'500.--/Monat und alsdann während 20 Jahren nach Rechtskraft des Scheidungsurteils einen solchen von Fr. 2'000.--/Monat zu leisten. Zudem verpflichtete er sich zu einem Unterhaltsbeitrag für die Kinder C._, geboren am 25. April 1980, und D._, geboren am 8. April 1985, von je Fr. 1'500.--/Monat bis zu deren Mündigkeit bzw. dem Abschluss der Erstausbildung. Sämtliche Unterhaltsbeiträge wurden der Teuerung angepasst. B.- Die von A._ am 29. September 1999 beim Kantonsgericht von Appenzell Ausserrhoden eingereichte Klage auf Abänderung des Scheidungsurteils, nämlich den Unterhaltsbeitrag an die Kinder auf je Fr. 1'000.--/Monat herabzusetzen und denjenigen an B._ gänzlich aufzuheben, wurde mit Urteil vom 14. Dezember 2000 abgewiesen. In der dagegen erhobenen Appellation wiederholte A._ seine bisherigen Rechtsbegehren und beantragte zusätzlich, eventualiter die Unterhaltsbeiträge in herabgesetzter Höhe zu sistieren, bis er ein jährliches Einkommen von Fr. 200'000.-- erziele, subeventualiter sei der Fall zur Neubeurteilung an das Kantonsgericht zurückzuweisen. Im Verlaufe des Verfahrens verzichtete er auf die Herabsetzung des Unterhaltsbeitrages an die Tochter C._, die nach Abschluss ihrer Lehrerausbildung nunmehr eine Stelle angetreten habe, und auf die allfällige Rückvergütung aus einer Urteilsänderung. Das Obergericht des Kantons Appenzell wies die Klage am 28. August 2001 ab, soweit sie nicht durch Rückzug hinfällig geworden war. C.- Mit Berufung ans Bundesgericht beantragt A._, das Urteil des Obergerichts aufzuheben. Er erneuert die in der kantonalen Appellation gestellten Abänderungsanträge. Zudem stellt er das Gesuch um unentgeltliche Rechtspflege. Das Obergericht verzichtet auf Gegenbemerkungen. B._ ist nicht zur Berufungsantwort eingeladen worden.