Sachverhalt:
A.
Über A._ wurde am 29. August 2019 infolge Insolvenzerklärung der Konkurs eröffnet. Das Konkursverfahren wurde am 22. Juli 2020 abgeschlossen. Der B._ AG wurde ein Konkursverlustschein über Fr. 5'631'961.75 ausgestellt. Gestützt auf diesen Verlustschein leitete die B._ AG die Betreibung ein (Betreibung Nr. xxx des Betreibungsamtes Olten-Gösgen). A._ erhob dagegen am 13. August 2020 Rechtsvorschlag mit der Begründung, er sei nicht zu neuem Vermögen gekommen. Mit Urteil vom 23. Oktober 2020 bewilligte das Richteramt Olten-Gösgen den Rechtsvorschlag mangels neuen Vermögens teilweise nicht und stellte das Vorliegen neuen Vermögens fest. Gestützt auf dieses Urteil verlangte die B._ AG die Fortsetzung der Betreibung im Umfang von Fr. 35'110.20.
B.
Mit Eingabe vom 27. Januar 2021 erhob A._ gegen die Existenzminimumsberechnung und Pfändungsverfügung des Betreibungsamtes Olten-Gösgen vom 21. Januar 2021 bei der Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn Beschwerde. Mit Urteil vom 1. April 2021 (SCBES.2021.6) wurde die Beschwerde in dem Sinne teilweise gutgeheissen, als die Lohnpfändung auf den im Urteil des Richteramtes Olten-Gösgen vom 23. Oktober 2020 als neues Vermögen festgestellten Betrag von Fr. 2'925.85 pro Monat zu beschränken sei. Im Übrigen wurde die Beschwerde abgewiesen. Aufgrund dieses Entscheides wurde vom Betreibungsamt am 13. April 2021 eine neue Berechnung erstellt, wobei es dem Beschwerdeführer betreffend die Monate Februar und März 2021 gepfändete Beträge von insgesamt Fr. 5'640.90 zurückerstattete.
C.
Weil A._ per Ende April 2021 seine Arbeitsstelle verlor, zog das Betreibungsamt die Einkommenspfändung am 28. April 2021 in Revision. Es reduzierte das betreibungsrechtliche Existenzminimum von Fr. 3'045.65 auf Fr. 2'654.10 und die pfändbare Quote von Fr. 2'925.85 auf Fr. 2'158.90.
D.
Gegen diese Verfügung erhob A._ bei der Aufsichtsbehörde für Schuldbetreibung und Konkurs Beschwerde. Mit Urteil vom 25. Mai 2021 wies die Aufsichtsbehörde die Beschwerde ab, soweit sie darauf eintrat und wies das Betreibungsamt von Amtes wegen an, in der Existenzminimumsberechnung die Kosten für auswärtige Verpflegung sowie für den Arbeitsweg des Beschwerdeführers revisionsweise nicht mehr zu berücksichtigen. Mit Verfügung vom 31. Mai 2021 ermittelte das Betreibungsamt daraufhin neu eine pfändbare Quote von Fr. 2'262.45.
E.
Mit Eingabe vom 5. Juni 2021 erhebt A._ gegen das Urteil der Aufsichtsbehörde vom 25. Mai 2021 beim Bundesgericht Beschwerde. Er beantragt, es seien die betreibungsamtlichen Verfügungen betreffend Revision der Einkommenspfändung vom 28. April 2021 und 31. Mai 2021 per 1. Mai 2021 vollumfänglich aufzuheben. Der ungerechtfertigt gepfändete Betrag sei ihm zurückzuerstatten. Zudem ersucht er um aufschiebende Wirkung und stellt ein Gesuch um unentgeltliche Rechtspflege.
Mit Verfügung vom 15. Juni 2021 wurde der Beschwerde in dem Sinne die aufschiebende Wirkung zuerkannt, als das Betreibungsamt angewiesen wurde, die in der Pfändung Nr. yyy eingegangenen oder noch eingehenden Beträge während der Dauer des bundesgerichtlichen Verfahrens nicht zu verteilen.
In der Sache stellen die Vorinstanz und das Betreibungsamt den Antrag, die Beschwerde sei abzuweisen.

Erwägungen:
1.
Entscheide kantonaler Aufsichtsbehörden über Beschwerden gegen Verfügungen von Vollstreckungsorganen gemäss <ref-law> unterliegen der Beschwerde in Zivilsachen (<ref-law> i.V.m. <ref-law>). Das Rechtsmittel ist unabhängig von einer gesetzlichen Streitwertgrenze zulässig (<ref-law>). Als Pfändungsschuldner ist der Beschwerdeführer zur Anfechtung des Entscheides, mit dem die kantonale Aufsichtsbehörde seine Beschwerde abgewiesen hat, legitimiert (<ref-law>). Auf die rechtzeitig (<ref-law>) eingereichte Beschwerde ist demnach einzutreten.
2.
Mit der vorliegenden Beschwerde kann insbesondere die Verletzung von Bundesrecht gerügt werden (<ref-law>). In der Beschwerde ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (<ref-law>; <ref-ruling> E. 1 2). Die Verletzung verfassungsmässiger Rechte ist ebenfalls zu begründen, wobei hier das Rügeprinzip gilt (<ref-law>; <ref-ruling> E. 2.4).
3.
Anlass zur Beschwerde gibt das Verhältnis der gerichtlichen Feststellung neuen Vermögens gemäss <ref-law> zur nachfolgenden Pfändung.
3.1. Der Beschwerdeführer macht geltend, das Betreibungsamt hätte bei der Ermittlung der pfändbaren Quote auf das erweiterte Existenzminimum abstellen müssen, wie es im Urteil des Richteramtes Olten-Gösgen vom 23. Oktober 2020 definiert und von der Vorinstanz selbst im Urteil SCBES.2021.6 vom 1. April 2021 noch beachtet worden sei. Da er nach dem Verlust seiner Arbeitsstelle lediglich noch die AHV-Rente in der Höhe von Fr. 1'862.-- sowie die zwei Pensionskassenrenten in der Höhe von insgesamt Fr. 2'951.-- beziehe, sei eine pfändbare Quote nicht mehr vorhanden. Ausserdem sei nicht nachvollziehbar, weshalb sich die Vorinstanz im angefochtenen Entscheid trotz der erheblich veränderten Einkommenssituation im Wesentlichen mit einem blossen Verweis auf ihr Urteil vom 1. April 2021 begnügt habe.
3.2. Gemäss <ref-law> kann gestützt auf einen Konkursverlustschein nur eine neue Betreibung eingeleitet werden, wenn der Schuldner zu neuem Vermögen gekommen ist. <ref-law> bezweckt, dass der Schuldner sich von seinem Konkurs finanziell erholen und sich eine neue Existenz aufbauen, d.h. sich in wirtschaftlicher und sozialer Hinsicht erholen kann, ohne ständig den Betreibungen von Gläubigern, die im Konkurs zu Verlust gekommen sind, ausgesetzt zu sein (<ref-ruling> E. 3.1; <ref-ruling> E. 2.1). Die finanzielle Erholung wird dadurch erreicht, dass das Zugriffsrecht von Verlustscheingläubigern davon abhängig gemacht wird, dass der Schuldner zu neuem Vermögen gekommen ist. Solches liegt nicht schon vor, wenn der Schuldner über pfändbare Vermögenswerte verfügt, d.h. sein betreibungsrechtliches Existenzminimum decken kann, sondern erst, wenn überdies ausreichend Vermögen vorhanden ist, um ein standesgemässes Leben zu führen (BGE <ref-ruling> E. 2.1; Urteil 5A_21/2010 vom 19. April 2010 E. 4.1; HUBER/SOGO, in: Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs, 3. Aufl. 2021, N. 13 zu <ref-law>; JAEGER/WALDER/KULL/KOTTMANN, Bundesgesetz über Schuldbetreibung und Konkurs, Bd. II, 4. Aufl. 1997/1999, N. 16 zu <ref-law>; MARCHAND/HARI, Précis de droit des poursuites, 3. Aufl. 2022, Rz. 735). Als "neues Vermögen" kann auch das vom Schuldner erzielte Einkommen betrachtet werden, wenn es den Betrag übersteigt, der zur standesgemässen Lebensführung notwendig ist, und erlaubt, Ersparnisse zu bilden. Das neue Vermögen kann somit durchaus eine fiktive Grösse sein. Gerechtfertigt ist dies deshalb, weil es der Schuldner ansonsten in der Hand hätte, trotz neuen grossen Einkommens nichts auf die Seite zu legen und im Bestreben, seine alten Gläubiger leer ausgehen zu lassen, seinen ganzen Verdienst zu verschwenden (<ref-ruling> E. 3.1; <ref-ruling> E. 2.1; zit. Urteil 5A_21/2010 E. 4.1; FRITZSCHE/WALDER, Schuldbetreibung und Konkurs nach schweizerischem Recht, Bd. II, 1993, § 53 Rz. 16; GILLIÉRON, Poursuite pour dettes, faillite et concordat, 5. Aufl. 2012, Rz. 2107; JAEGER/WALDER/KULL/KOTTMANN, a.a.O, N. 17 zu <ref-law>). Massgebend sind die Einkommens- und Vermögensverhältnisse im Zeitpunkt der Anhebung der Betreibung, wobei nach gängiger Praxis das neue Vermögen grundsätzlich aufgrund der Einkünfte und Ausgaben des Jahres, welches der Anhebung der Betreibung vorausgeht, berechnet wird (vgl. Urteile 5D_194/2016 vom 5. April 2017 E. 2.1; 5D_170/2014 vom 17. Dezember 2014 E. 5.2; zit. Urteil 5A_21/2010 E. 4.1 und 5; Urteil des Kantonsgerichts Wallis vom 30. Januar 2015, in: Zeitschrift für Walliser Rechtsprechung [ZWR] 2015 S. 294 ff.; Urteil des Obergerichts des Kantons Basel-Landschaft vom 16. Mai 2000, in: BlSchK 2001 S. 181 ff.).
3.3. Erhebt der Schuldner Rechtsvorschlag mit der Begründung, er sei nicht zu neuem Vermögen gekommen, so legt das Betreibungsamt von Amtes wegen den Rechtsvorschlag dem Richter des Betreibungsortes vor, welcher die Parteien anhört und entscheidet (<ref-law>). Der Rechtsvorschlag wird bewilligt, wenn der Schuldner seine Einkommens- und Vermögensverhältnisse darlegt und glaubhaft macht, dass er nicht zu neuem Vermögen gekommen ist (<ref-law>). Der Entscheid über das Vorliegen neuen Vermögens wird im summarischen Verfahren getroffen (<ref-law>); für die Beweismittel gilt <ref-law> (zit. Urteil 5D_194/2016 E. 2.1; MUSTER, Le retour à meilleure fortune: un état de lieux, BlSchK 2014, S. 11; HUBER/SOGO, a.a.O., N. 24 zu <ref-law>).
3.4. Was das Verhältnis der gerichtlichen Feststellung neuen Vermögens gemäss <ref-law> zur nachfolgenden Pfändung anbelangt, hat das Bundesgericht klargestellt, dass die Betreibung nur für den vom Einredegericht als neues Vermögen festgesetzten Betrag fortgesetzt werden und nur zur Pfändung von so viel Vermögen und Lohn des Schuldners führen kann, als das Gericht neues Vermögen angenommen hat. Im Rahmen dieser summenmässigen Begrenzung hat der Schuldner dann aber mit seinem gesamten Vermögen einzustehen, was bedeutet, dass er nach Massgabe von <ref-law> bis zum betreibungsrechtlichen Existenzminimum gepfändet werden kann (<ref-ruling> E. 3; HUBER/SOGO, a.a.O., N. 19 zu <ref-law> und N. 28 zu <ref-law>; STOFFEL/CHABLOZ, Voies d'exécution, 3. Aufl. 2016, § 11 Rz. 144). Es handelt sich bei der Feststellung neuen Vermögens und der nachfolgenden Pfändung somit um verschiedene Vorgänge (<ref-ruling> E. 3.1; zit. Urteil 5A_21/2010 E. 5; JEANDIN, Commentaire romand, Poursuite et faillite, 2005, N. 28 zu <ref-law>).
3.5. Anstatt unmissverständlich den Betrag zu nennen, für den die Betreibung fortgesetzt werden kann, hat das Richteramt in seinem Urteil vom 23. Oktober 2020 den als neues Vermögen rücklegbaren Teil des Einkommens mit Fr. 2'925.85 pro Monat beziffert. Dieser Entscheid wurde von den kantonalen Behörden mit der Gläubigerin dahingehend verstanden, dass das Richteramt implizit davon ausgegangen ist, der Beschwerdeführer sei im Umfang von Fr. 35'110.20 (12 x Fr. 2'925.85) als zu neuem Vermögen gekommen zu betrachten, was von diesem nicht beanstandet wurde.
3.6. Vor Bundesgericht behauptet der Beschwerdeführer nicht, dass sein Einkommen oder das betreibungsrechtliche Existenzminimum vom Betreibungsamt und der Vorinstanz fehlerhaft bestimmt worden sei. Er macht einzig geltend, dass das Betreibungsamt ihm als Folge seines Privatkonkurses Mittel für eine standesgemässe Lebensführung, mithin ein erweitertes Existenzminimum hätte belassen müssen. Streitpunkt des vorliegenden Verfahrens bildet somit die Frage, ob es rechtens war, dass das Betreibungsamt den Beschwerdeführer nach dem Verlust seiner Arbeitsstelle per Ende April 2021 mit Revisionsverfügung vom 28. April 2021 für die restliche Dauer der Einkommenspfändung (erneut) auf das blosse betreibungsrechtliche Existenzminimum im Sinne von <ref-law> verwiesen und damit insbesondere weder einen Zuschlag zum Grundbetrag gewährt noch die laufenden Steuern berücksichtigt hat. Dies ist - wie erwähnt - zu bejahen, weil nach geltendem Recht der Gläubiger, dessen Forderung vor Konkurseröffnung entstanden ist, in dem Umfang, in welchem das Einredegericht neues Vermögen festgestellt hat, in der nachfolgenden Pfändung gegen den Schuldner wie ein Gläubiger zu behandeln ist, dessen Forderung erst nach der Konkurseröffnung entstanden ist. In beiden Fällen kann der Schuldner nach Massgabe von <ref-law> bis zum betreibungsrechtlichen Existenzminimum gepfändet werden (s. vorne E. 3.4; <ref-ruling> E. 3.4). Aus dem Umstand, dass die Vorinstanz im Urteil SCBES.2021.6 vom 1. April 2021 von der bundesgerichtlichen Rechtsprechung abgewichen ist und dem Beschwerdeführer für die Monate Februar und März 2021 entgegen der geltenden Rechtslage in der Folge ein Betrag belassen wurde, der weit über seinem damaligen betreibungsrechtlichen Notbedarf lag, kann der Beschwerdeführer für das vorliegende Verfahren nichts zu seinen Gunsten ableiten. Wie das Betreibungsamt in seiner bundesgerichtlichen Vernehmlassung zutreffend ausführt, bleibt die von der Vorinstanz in ihrem unangefochten gebliebenen Urteil SCBES.2021.6 vom 1. April 2021 angeordnete Beschränkung der Pfändung auf den Betrag von Fr. 2'925.85 pro Monat mit der am 28. April 2021 revisionsweise verfügten pfändbaren Quote von Fr. 2'158.90 (bzw. der am 31. Mai 2021 verfügten pfändbaren Quote von Fr. 2'262.45) gewahrt.
4.
Aus den dargelegten Gründen ist der Beschwerde kein Erfolg beschieden. Angesichts der konkreten Umstände wird auf die Erhebung von Gerichtskosten verzichtet (<ref-law>). Damit ist das Gesuch um unentgeltliche Rechtspflege gegenstandslos.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Es werden keine Gerichtskosten erhoben.
3.
Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird als gegenstandslos geworden abgeschrieben.
4.
Dieses Urteil wird dem Beschwerdeführer, dem Betreibungsamt Olten-Gösgen und der Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn mitgeteilt.
Lausanne, 15. März 2022
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Buss