Sachverhalt: A. Mit Urteil vom 20. Februar 2013 sprach das Richteramt Olten-Gösgen X._ zu Lasten seiner ehemaligen Arbeitgeberin, der A._ SA, Fr. 11'122.20 brutto zuzüglich Zins zu 5 % seit dem 22. Mai 2012 als Lohnersatz gemäss Art. 337c Abs. 1 OR sowie Fr. 8'000.-- zuzüglich Zins zu 5 % seit dem 14. April 2012 als Entschädigung gemäss Art. 337c Abs. 3 OR zu. Im Rahmen eines gegen X._ laufenden Pfändungsverfahrens überwies die A._ SA den Betrag von Fr. 18'683.20 an das Betreibungsamt Olten-Gösgen. B. Am 5. Juni 2013 verlangte X._ vom Betreibungsamt unter anderem, ihm aus der von der A._ SA überwiesenen Summe Fr. 8'000.-- zuzüglich Zins zu 5 % seit 14. April 2012 auszuzahlen. Das Betreibungsamt wies dieses Gesuch mit Verfügung vom 11. Juni 2013 ab. C. Am 20. Juni 2013 erhob X._ dagegen Beschwerde an die Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn und hielt an seinem Begehren fest. Die Aufsichtsbehörde wies die Beschwerde mit Urteil vom 17. Juli 2013 ab. D. Am 31. Juli 2013 hat X._ (Beschwerdeführer) Beschwerde an das Bundesgericht erhoben. Er beantragt sinngemäss die Aufhebung des Urteils der Aufsichtsbehörde und verlangt weiterhin die Auszahlung von Fr. 8'000.-- zuzüglich Zins zu 5 % seit 14. April 2012. Die Aufsichtsbehörde und das Betreibungsamt beantragen, die Beschwerde abzuweisen.