Sachverhalt: A. Der 1960 geborene J._ war bei der Firma Y._ AG als Fassadenisoleur tätig, als er am 22. September 1999 von einem Baugerüst stürzte. Die SUVA sprach ihm mit Verfügung vom 9. Oktober 2001 eine Invalidenrente der Unfallversicherung gestützt auf einen Invaliditätsgrad von 30 % zu. Am 5. September 2000 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärung der gesundheitlichen und erwerblichen Verhältnisse lehnte die IV-Stelle Basel-Stadt mit Verfügung vom 23. Juni 2003 den Anspruch auf eine Invalidenrente ab und hielt mit Einspracheentscheid vom 11. Dezember 2003 daran fest. Eine dagegen von J._ erhobene Beschwerde hiess das Sozialversicherungsgericht Basel-Stadt mit Entscheid vom 23. August 2004 gut und wies die Sache zur Durchführung einer interdisziplinären Begutachtung an die IV-Stelle zurück. Nach Einholung eines Gutachtens des Ärztlichen Begutachtungsinstituts GmbH (ABI) vom 28. Oktober 2005 lehnte die IV-Stelle den Anspruch auf eine Invalidenrente am 9. Februar 2006 verfügungsweise erneut ab und hielt mit Einspracheentscheid vom 22. Mai 2007 daran fest. B. Die hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht Basel-Stadt mit Entscheid vom 2. April 2008 teilweise gut, verpflichtete die IV-Stelle zur Ausrichtung einer Viertelsrente und wies die Sache zur Prüfung und Festlegung des Rentenbeginns an die IV-Stelle zurück. C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt die Aufhebung des vorinstanzlichen Entscheides. J._ lässt auf Abweisung der Beschwerde schliessen und eventualiter um unentgeltliche Prozessführung und Verbeiständung ersuchen. Die beigeladene Basler Versicherungen verzichten auf eine Vernehmlassung. Das Bundesamt für Sozialversicherungen (BSV) beantragt Abweisung (recte Gutheissung) der Beschwerde und Aufhebung des angefochtenen Entscheids.