Sachverhalt:
A. Am 21. November 2007 vollzog das Betreibungsamt A._ in den beiden Betreibungen Nrn 1 und 2 gegen X._ (Beschwerdeführer) die Pfändung für Forderungen von insgesamt CHF 19'896.25 nebst Zins und Kosten. Dabei verfügte es eine Einkommenspfändung in dem das Existenzminimum von CHF 4'104.10 bzw. ab 1. April 2008 von CHF 3'591.10 übersteigenden Betrag. Zum Einkommen des Beschwerdeführers hielt das Betreibungsamt in der am 20. März 2008 versandten Pfändungsurkunde fest, der Schuldner und seine Ehefrau erhielten neben einer AHV-Rente von je CHF 339.-- und den Ergänzungsleistungen von CHF 1'392.-- eine Alterspension des Beschwerdeführers aus Österreich im Sinne von § 130 des gewerblichen Sozialversicherungsgesetzes von monatlich CHF 2'413.65 (EUR 1'466.37). Das Existenzminimum des Beschwerdeführers und seiner Ehefrau berechnete das Betreibungsamt folgendermassen:
- Grundnotbedarf CHF 1'550.--
- Mietzins (reduziert ab 1.4.08: CHF 1'700.--) CHF 2'255.--
- Krankenkasse CHF 514.80
- öffentlicher Verkehr
(Schuldner und Ehefrau je CHF 60.--) CHF 120.--
_
total CHF 4'439.80
Der Anteil des Beschwerdeführers am gemeinsamen Existenzminimum beträgt nach dieser Rechnung bis 31. März 2008 CHF 4'104.10 und ab 1. April 2008 CHF 3'591.10.
B. Dagegen reichte der Beschwerdeführer Beschwerde bei der Justizkommission des Obergerichts des Kantons Zug ein und machte einerseits die Unpfändbarkeit seiner österreichischen Altersrente geltend und beanstandete anderseits die Berechnung des Existenzminimums. Am 28. Mai 2008 wies die Justizkommission als Aufsichtsbehörde über Schuldbetreibung und Konkurs die Beschwerde ab.
C. Am 9. Juni 2008 erhob der Beschwerdeführer Beschwerde beim Bundesgericht mit den Begehren, das angefochtene Urteil und die vorgängige Pfändung seien insoweit aufzuheben, als einerseits die österreichische Rente teilweise gepfändet, und anderseits im Existenzminimum der zulässige Mietzins ab 1. April 2008 auf CHF 1'700.-- reduziert worden sei. Gleichzeitig stellte er ein Gesuch um unentgeltliche Rechtspflege und aufschiebende Wirkung. Das Gesuch um aufschiebende Wirkung hat der Präsident der II. zivilrechtlichen Abteilung am 11. Juni 2008 abgewiesen, am 17. Juni 2008 hat es der Beschwerdeführer erneuert. In der Sache sind keine Vernehmlassungen eingeholt worden.

Erwägungen:
1. Der Beschwerde in Zivilsachen unterliegen unabhängig vom Streitwert (<ref-law>) auch Entscheide der kantonalen Aufsichtsbehörden in Schuldbetreibungs- und Konkurssachen (<ref-law>). Auf die fristgerecht eingereichte Beschwerde des vor Vorinstanz unterlegenen Beschwerdeführers kann grundsätzlich eingetreten werden. Auf Einzelheiten wird im Sachzusammenhang zurückzukommen sein.
2. 2.1 Der Beschwerdeführer vertritt die Auffassung, nicht nur seine AHV-Rente und die Ergänzungsleistungen, sondern auch die Rente, die er aus Österreich von der Sozialversicherungsanstalt der gewerblichen Wirtschaft erhalte, sei absolut unpfändbar, denn die Höhe der Ergänzungsleistungen sei auch von der Höhe seiner österreichischen Rente abhängig. Daraus ergebe sich, dass die österreichische Rente gleichwertig mit der unstrittig unpfändbaren AHV-Rente und den Ergänzungsleistungen sei. Seine österreichische Rente sei Teil der Leistungen der 1. Säule. Der Unterschied zwischen seiner sehr niedrigen AHV-Rente und der höheren österreichischen Rente sei darauf zurückzuführen, dass sein Arbeitsleben zum Grossteil in Österreich stattgefunden habe. Die im angefochtenen Urteil vorgenommene Unterscheidung von in- und ausländischen Renten der 1. Säule würde eine Diskriminierung von Personen bedeuten, die im Ausland gearbeitet hätten. Die Diskriminierung treffe sowohl Schweizer Bürger als auch österreichische Staatsangehörige in gleicher Weise. Eine derartige Unterscheidung finde sich im Gesetz nicht.
2.2 Die Aufsichtsbehörde für Schuldbetreibung und Konkurs führte demgegenüber im angefochtenen Entscheid aus, gemäss <ref-law> seien ausschliesslich die dort ausdrücklich aufgezählten Renten und Leistungen unpfändbar. Damit würden die Leistungen der so genannten 1. Säule (AHV/IV/EL) sowie die Leistungen der Familienausgleichskassen gänzlich von der Pfändung ausgenommen. Sie seien dem Zugriff der Gläubiger selbst dann entzogen, wenn sie einmal das Existenzminimum des Schuldners und seiner Familie übersteigen sollten, was aber in der Regel nicht der Fall sei. Altersrenten aus einer ausländischen Versicherungseinrichtung seien hingegen ebenso pfändbar wie etwa Ansprüche aus beruflicher Vorsorge nach Eintritt der Fälligkeit (<ref-law>), auch wenn es sich dabei um eine staatliche Einrichtung handle, die derjenigen der AHV vergleichbar sei. Solche Renten seien gemäss <ref-law> beschränkt pfändbar, d.h. soweit sie nach dem Ermessen des Betreibungsbeamten für den Schuldner und dessen Familie nicht unbedingt notwendig seien. Dies ergebe sich sowohl aus der Botschaft, als auch aus der parlamentarischen Beratung. Es sei deshalb unerheblich, ob es sich bei der österreichischen Altersrente um eine solche handle, die der AHV-Rente und den Ergänzungsleistungen entspreche oder nicht.
2.3 Gemäss <ref-law> können - soweit hier interessierend - Erwerbseinkommen sowie Pensionen und Leistungen jeder Art, die einen Erwerbsausfall abgelten, namentlich Renten, die nicht nach <ref-law> unpfändbar sind, so weit gepfändet werden, als sie nach dem Ermessen des Betreibungsbeamten für den Schuldner und seine Familie nicht unbedingt notwendig sind. Unpfändbar sind nach <ref-law> - soweit hier interessierend - die Renten gemäss Art. 20 Abs. 1 des Bundesgesetzes vom 20. Dezember 1946 über die Alters- und Hinterlassenenversicherung (AHVG; SR 831.10) oder gemäss Art. 50 Abs. 1 des Bundesgesetzes vom 19. Juni 1959 über die Invalidenversicherung (IVG; SR 831.20) sowie die Leistungen gemäss Art. 20 des Bundesgesetzes vom 6. Oktober 2006 über Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung (ELG [SR. 831.30], in Kraft seit 1. Januar 2008; das Bundesgesetz vom 19. März 1965 über Ergänzungsleistungen zur AHV wurde aufgehoben [Art. 35 ELG]). Diese gesetzliche Ordnung geht vom Grundsatz aus, dass die Leistungen der Sozialversicherungen beschränkt pfändbar sind, sofern ihnen der Charakter eines Ersatzeinkommens zukommt, sieht aber als Ausnahme vom Grundsatz die absolute Unpfändbarkeit der in <ref-law> ausdrücklich genannten Renten und Leistungen vor. Dies bedeutet, dass gewisse Renten und Leistungen der 1. Säule, d.h. insbesondere die Renten der AHV/IV und die Ergänzungsleistungen von der Pfändung gänzlich ausgeschlossen sind. Der Grund für die in <ref-law> festgelegte Ausnahme der absoluten Unpfändbarkeit liegt vorab darin, dass diese Renten und Leistungen der 1. Säule ohnehin von Gesetzes wegen nicht höher sein sollen als das betreibungsrechtliche Existenzminimum und sich eine Diskussion über deren Pfändbarkeit deshalb erübrigt (Botschaft zur SchKG-Reform, BBl 1991 III 75 ff.; vgl. auch Art. 112 Abs. 1 und 2 lit. b BV). Es ist bei der Auslegung der Ausnahmen von <ref-law> dieser Zweck im Auge zu behalten, was bedeutet, dass die Ausnahmen durch die Rechtsprechung nicht erweitert werden sollten, insbesondere nicht auf Renten und Leistungen, die regelmässig das Existenzminimum überschreiten können. Deswegen hat das Bundesgericht erkannt, dass das IV-Taggeld nicht unter den Begriff der Rente nach <ref-law> fällt (<ref-ruling> ff.) und auch die Invalidenrente der obligatorischen Unfallversicherung beschränkt pfändbar ist (<ref-ruling>).
2.4 Gemäss <ref-law> ist der Rentenanspruch der Zwangsvollstreckung entzogen. Es handelt sich um den Rentenanspruch der Alters- und Hinterlassenenversicherung. Anspruch auf eine Altersrente haben die Personen gemäss <ref-law>, welche das Alter gemäss <ref-law> erreicht haben. Die Rente wird im Wesentlichen aufgrund der Beitragsjahre und des Erwerbseinkommens errechnet (<ref-law>). Die Durchführung der Alters- und Hinterlassenenversicherung erfolgt unter der Aufsicht des Bundes durch die in <ref-law> aufgezählten Personen und Stellen. Die gestützt auf diese Bestimmungen von der Ausgleichskasse Zug errechnete AHV-Rente des Beschwerdeführers und seiner Ehefrau beträgt je CHF 339.-- und sind nicht pfändbar.
2.5 Gemäss Art. 20 ELG sind auch die Leistungen im Sinne des Gesetzes über Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung der Zwangsvollstreckung entzogen. Bei den Ergänzungsleistungen handelt es sich um Leistungen des Bundes und der Kantone (Art. 2 ELG) sowie von namentlich aufgezählten gemeinnützigen Institutionen (Art. 17 ELG), die unter bestimmten Voraussetzungen zusätzliche Leistungen an die Bezüger von AHV- und IV-Renten erbringen. Die Ergänzungsleistungen zugunsten des Beschwerdeführers betragen gemäss der Berechnung der Ausgleichskasse Zug monatlich CHF 1'392.-- und sind nicht pfändbar.
2.5 Gemäss Art. 20 ELG sind auch die Leistungen im Sinne des Gesetzes über Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung der Zwangsvollstreckung entzogen. Bei den Ergänzungsleistungen handelt es sich um Leistungen des Bundes und der Kantone (Art. 2 ELG) sowie von namentlich aufgezählten gemeinnützigen Institutionen (Art. 17 ELG), die unter bestimmten Voraussetzungen zusätzliche Leistungen an die Bezüger von AHV- und IV-Renten erbringen. Die Ergänzungsleistungen zugunsten des Beschwerdeführers betragen gemäss der Berechnung der Ausgleichskasse Zug monatlich CHF 1'392.-- und sind nicht pfändbar.
2.6 2.6.1 Der Beschwerdeführer erhält zudem von der Sozialversicherungsanstalt der gewerblichen Wirtschaft eine Alterspension aus Österreich im Sinne von § 130 des gewerblichen Sozialversicherungsgesetzes, bei welcher es sich nach seiner Meinung um eine der AHV-Rente und den Ergänzungsleistungen entsprechende Rente handeln soll. Der Beschwerdeführer macht aber selber nicht geltend, dass es sich um eine Rente gemäss <ref-law> bzw. um eine Leistung gemäss Art. 20 ELG handelt, so dass sie nach der bisherigen Rechtsprechung des Bundesgerichts nicht unter das absolute Pfändungsverbot gemäss <ref-law> fällt, sondern gemäss <ref-law> beschränkt pfändbar ist.
2.6.2 Der Beschwerdeführer macht geltend, die vorgenommene Unterscheidung zwischen in- und ausländischen Renten der 1. Säule bedeute eine Diskriminierung von Personen, die im Ausland gearbeitet hätten. Es sei deshalb entgegen der Meinung der Vorinstanz nicht unerheblich, ob es sich bei seiner österreichischen Altersrente um eine solche handle, die der schweizerischen AHV-Rente und den Ergänzungsleistungen entspreche oder nicht. Der Beschwerdeführer verlangt in diesem Sinne eine rechtsgleiche und diskriminierungsfreie Behandlung und damit sinngemäss eine verfassungskonforme Auslegung von <ref-law>.
2.6.3 Das Rechtsgleichheitsgebot gemäss <ref-law> ist nicht verletzt, weil nach schweizerischem Recht im Sozialversicherungsbereich als Grundsatz die beschränkte Pfändbarkeit gilt und eine Ausnahme nicht für alle Renten und Leistungen der 1. Säule, sondern nur für die in <ref-law> ausdrücklich aufgezählten gilt. Der Beschwerdeführer kann sich nicht erfolgreich auf <ref-law> berufen, wenn seine österreichische Rente gleich behandelt wird wie die meisten Erwerbs- und Ersatzeinkommen sowie insbesondere grundsätzlich die Renten und Leistungen der Sozialversicherungen. Dies ist auch deshalb nicht zu beanstanden, weil vom Beschwerdeführer nicht dargelegt wird und von der Vorinstanz keine Feststellungen getroffen worden sind, ob die ausländische Versicherung tatsächlich dem schweizerischen System der Alters- und Hinterlassenenversicherung entspricht, welche auch bei hohen Beiträgen kaum je Leistungen über dem Existenzminimum erbringt. Leistet die ausländische Versicherung bei entsprechenden Einzahlungen Renten, die über dem Existenzminimum liegen können, fiele ein Pfändungsverbot ohnehin nicht in Betracht.
2.6.4 Das Diskriminierungsverbot gemäss <ref-law> ist nicht verletzt, weil der Beschwerdeführer nicht aufgrund eines in dieser Bestimmung aufgezählten persönlichen Kriteriums benachteiligt wird. Insbesondere wird er nicht wegen seiner Herkunft als Österreicher diskriminiert. Er räumt selber ein, dass Österreicher und Schweizer gleich behandelt werden, wenn sie längere Zeit in Österreich gearbeitet haben und anschliessend in die Schweiz ziehen. Der unterschiedliche Arbeitsort kann kein Diskriminierungsgrund gemäss <ref-law> sein.
2.6.5 Mit der Beschwerde in Zivilsachen kann auch die Verletzung von Völkerrecht gerügt werden (<ref-law>). Auf eine solche Rüge ist indessen nur soweit einzutreten, als sie den Begründungsanforderungen genügt. Insbesondere ist in der Beschwerdeschrift in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (<ref-law>; <ref-ruling> E. 1.4). Der Beschwerdeführer ruft kein Völkerrecht ausdrücklich an, sondern beschränkt sich darauf, eine Verletzung des Rechtsgleichheitsgebots und des Diskriminierungsverbots zu rügen, weil seine österreichische Alterspension anders behandelt wird als die schweizerische AHV-Rente. Es ist daher fraglich, ob die einschlägigen Staatsverträge herbeigezogen werden können. Die Frage kann dahingestellt bleiben, weil keine Verletzung eines staatsvertraglich gewährleisteten Rechtsgleichheitsgebots und Diskriminierungsverbots vorliegt.
Ein solches Diskriminierungsverbot enthält das Abkommen vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (FZA; SR 0.142.112.681) bzw. ein Rechtsgleichheitsgebot enthält die Verordnung (EWG) Nr. 1408/71 des Rates vom 14. Juni 1971 zur Anwendung der Systeme der sozialen Sicherheit auf Arbeitnehmer und Selbständige sowie deren Familienangehörige, die innerhalb der Gemeinschaft zu- und abwandern (Verordnung Nr. 1408/71; SR 0.831.109.268.1). Diese Erlasse gelten in der Schweiz gemäss <ref-law> und Art. 32 ELG, soweit sie im Anwendungsbereich des AHVG und des ELG liegen.
Art. 2 FZA bestimmt, dass die Staatsangehörigen einer Vertragspartei, die sich rechtmässig im Hoheitsgebiet einer anderen Vertragspartei aufhalten, bei der Anwendung dieses Abkommens gemäss den Anhängen I, II und III nicht aufgrund ihrer Staatsangehörigkeit diskriminiert werden dürfen. Ebenso bestimmt Art. 3 der Verordnung Nr. 1408/71, dass die Personen, die im Gebiet eines Mitgliedstaates wohnen und für die diese Verordnung gilt, die gleichen Rechte und Pflichten aufgrund der Rechtsvorschriften eines Mitgliedstaates haben wie die Staatsangehörigen dieses Staates, soweit besondere Bestimmungen dieser Verordnung nichts anderes vorsehen. Wie bereits ausgeführt, wird der Beschwerdeführer nicht aufgrund seiner Staatsangehörigkeit als Österreicher anders behandelt, als er sich dies wünscht. Seine österreichische Pension unterliegt der beschränkten Pfändbarkeit, weil er während Jahren nicht bei der schweizerischen Alters- und Hinterlassenenversicherung versichert, sondern einem andern Sozialversicherungswerk angeschlossen war. Gleich ergeht es Schweizer Bürgern, die während Jahren in Österreich arbeiteten und anschliessend in die Schweiz zurückkehren und hier betrieben werden. Die Rüge, der angefochtene Entscheid verletze das Rechtsgleichheitsgebot und das Diskriminierungsverbot, weil seine österreichische Alterspension betreibungsrechtlich anders behandelt wird als die AHV-Rente, ist daher unbegründet. Ob andere Vorschriften des Vertragswerks zwischen der Schweiz und der Europäischen Union durch den angefochtenen Entscheid berührt oder gar verletzt sein könnten, ist mangels entsprechender Rüge nicht zu prüfen. Zusammenfassend ist festzuhalten, dass die österreichische Alterspension des Beschwerdeführers beschränkt pfändbar im Sinne von <ref-law> ist.
3. Der Beschwerdeführer ist sodann mit der Reduktion der anzurechnenden Wohnungskosten auf monatlich CHF 1'700.-- ab 1. April 2008 nicht einverstanden.
3.1 Die Vorinstanz führte dazu aus, im Kanton Zug lasse sich durchaus eine Wohnung für zwei Personen mit einem Mietzins von CHF 1'700.-- (inkl. Nebenkosten) finden, die für den Beschwerdeführer und seine Ehefrau geeignet und zumutbar sei, zumal das Ehepaar nicht ortsgebunden sei. Auch unter Berücksichtigung des Alters des Ehepaars und der gesundheitlichen Probleme der Ehefrau sei eine geeignete Wohnung in dieser Preiskategorie zu finden. Immerhin liege dieser Mietzins immer noch CHF 270.-- über den SKOS-Richtlinien, so dass auch eine allfällige Verteuerung der mit einem Lift erschlossenen Wohnung berücksichtigt sei. Zudem könne der Beschwerdeführer auch eine Parterrewohnung wählen. Die verschiedenen Einwände gegen konkrete Wohnungsangebote, wie sie im Amtsblatt ausgeschrieben worden seien, seien nicht überzeugend. Auch im Amtsblatt vom 16. Mai 2008 seien wiederum sechs Wohnungen in diesem Preissegment (zwischen CHF 1'330-- und CHF 1'600.--) zur Vermietung ausgeschrieben. Darunter befinde sich auch eine 3-Zimmer-Wohnung mit Lift für CHF 1'600.-- (inkl. Nebenkosten) und eine Parterrewohnung mit einer Fläche von 85 m2 für CHF 1'590.--. Es sei zwar in der Tat zu berücksichtigen, dass ein neuerlicher Umzug wiederum Kosten verursache, die bei der Einkommenspfändung zu berücksichtigen seien. Indes habe der Beschwerdeführer bei seinem Umzug im November 2007 bereits gewusst, dass hohe Mietzinsrückstände aus der früheren teureren Miete bestanden hätten. Er habe es sich selber zuzuschreiben, wenn er gleichwohl in Kenntnis seiner Überschuldung wiederum eine Wohnung gemietet habe, welche im Existenzminimum nicht angerechnet werden könne und wenn er daher nach kurzer Zeit einen erneuten Wohnungswechsel in Kauf nehmen müsse. Das Betreibungsamt habe sein Ermessen nicht überschritten, wenn es dem Beschwerdeführer zumute, eine billigere Wohnung zu nehmen.
3.2 Soweit der Beschwerdeführer mit neuen tatsächlichen Behauptungen versucht, die Argumentation der Vorinstanz zu entkräften, ohne dass erst deren Entscheid dazu Anlass gab, ist darauf nicht einzutreten (<ref-law>). Und soweit der Beschwerdeführer mit appellatorischer Kritik den Sachverhalt aus seiner Sicht und den Mietmarkt aufgrund seiner eigenen Wohnungssuche schildert, ist ihm entgegen zu halten, dass das Bundesgericht seinem Urteil den Sachverhalt zugrunde legt, den die Vorinstanz festgestellt hat (<ref-law>). Es könnte erst dann eingreifen, wenn die Sachverhaltsfeststellungen der Vorinstanz offensichtlich unrichtig und damit willkürlich wären (<ref-law>; <ref-ruling> E. 7.1 S. 398). Solches belegt der Beschwerdeführer nicht. Wenn er behauptet, er habe über mehrere Monate dutzende Wohnungen besichtigt und keine geeignete gefunden, dann kommt er damit der tatsächlichen Aussage der Vorinstanz nicht bei, es seien jeweils im Amtsblatt mehrere Wohnungen ausgeschrieben, welche für einen Zweipersonenhaushalt im zulässigen Preissegment lägen und zudem kein Treppensteigen erforderten. Soweit er ausführlich darlegt, der Vergleich der jetzigen mit seiner früheren Wohnung sei nicht korrekt erfolgt, ist ihm entgegen zu halten, dass dieser Vergleich für den Ausgang des Verfahrens unerheblich ist (<ref-law>), so dass ihm nicht weiter nachgegangen werden muss. Es mag schliesslich - wie der Beschwerdeführer ausführt - mit Beschwernissen verbunden sein, wenn er mit seiner Frau nach recht kurzer Zeit erneut umziehen muss. Er widerlegt indessen das Argument der Vorinstanz nicht, er habe sich diese Widrigkeiten selber zuzuschreiben. Die blosse Behauptung, der Betreibungsbeamte habe sich dem Abschluss des letzten Mietvertrages nicht widersetzt, genügt jedenfalls nicht, um einen Anspruch aus Treu und Glauben auf Behandlung entgegen der gesetzlichen Ordnung zu begründen. Insbesondere belegt der Beschwerdeführer keine ausdrückliche Zusicherung des zuständigen Betreibungsbeamten, dass die Mietkosten für die im Herbst 2007 gemietete Wohnung in seinem Existenzminimum berücksichtigt werden können. Die Beschwerde ist aus diesen Gründen abzuweisen, soweit darauf eingetreten werden kann.
4. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer grundsätzlich die Verfahrenskosten (<ref-law>). Er hat allerdings ein Gesuch um unentgeltliche Rechtspflege gestellt (<ref-law>). Da der Beschwerdeführer nicht über die nötigen Mittel verfügt, um das Verfahren selber zu bezahlen und zudem nicht gesagt werden kann, die Beschwerde sei aussichtslos, ist das Gesuch gutzuheissen und die unentgeltliche Rechtspflege zu gewähren. Es rechtfertigt sich, im vorliegenden Verfahren auf Gerichtskosten zu verzichten. Eine Parteientschädigung ist nicht geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Es werden keine Kosten erhoben.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, Justizkommission, als Aufsichtsbehörde über Schuldbetreibung und Konkurs, schriftlich mitgeteilt.
Lausanne, 11. August 2008
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Raselli Schett