Sachverhalt: Sachverhalt: A. S._, geboren 1966, ist seit 1987 drogenabhängig. Nach verschiedenen Entzugsversuchen steht er seit 1997 im Methadon-Programm. Nachdem er eine Maurerlehre abgebrochen hatte, war er nur noch zeitweise erwerbstätig. Er begann mit Drogen zu handeln, um sich den Konsum zu finanzieren, bis er deswegen zu einer Gefängnisstrafe verurteilt wurde, die er bis Anfang 1999 verbüsste. Seither wird er vom Sozialamt unterstützt. Am 13. September 2001 meldete er sich - zum zweiten Mal - bei der Invalidenversicherung zum Leistungsbezug (Umschulung) an. Die IV-Stelle des Kantons Solothurn holte einen Bericht des Dr. med. H._, Allgemeinmedizin FMH, vom 28. September 2001 ein und klärte die erwerbliche Situation ab. Mit Verfügung vom 29. Oktober 2001 lehnte sie das Leistungsbegehren ab mit der Begründung, dass keine Invalidität im Sinne des Gesetzes bestehe. Am 13. September 2001 meldete er sich - zum zweiten Mal - bei der Invalidenversicherung zum Leistungsbezug (Umschulung) an. Die IV-Stelle des Kantons Solothurn holte einen Bericht des Dr. med. H._, Allgemeinmedizin FMH, vom 28. September 2001 ein und klärte die erwerbliche Situation ab. Mit Verfügung vom 29. Oktober 2001 lehnte sie das Leistungsbegehren ab mit der Begründung, dass keine Invalidität im Sinne des Gesetzes bestehe. B. Die hiegegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 30. Juni 2003 in dem Sinne gut, dass die Verfügung der IV-Stelle vom 29. Oktober 2001 aufgehoben und die Sache zu ergänzenden psychiatrischen Abklärungen zurückgewiesen wurde. B. Die hiegegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 30. Juni 2003 in dem Sinne gut, dass die Verfügung der IV-Stelle vom 29. Oktober 2001 aufgehoben und die Sache zu ergänzenden psychiatrischen Abklärungen zurückgewiesen wurde. C. Die IV-Stelle des Kantons Solothurn führt Verwaltungsgerichtsbeschwerde und beantragt die Aufhebung des vorinstanzlichen Entscheides. Während S._ auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen lässt, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.