Sachverhalt:
A. Am 16. August 2000 meldete sich der 1953 geborene P._ unter Hinweis auf seine Rückenbeschweden bei der IV-Stelle Basel-Stadt zum Leistungsbezug an. Auf dem Anmeldeformular erklärte er, bereits im Jahre 1987 ein Leistungsgesuch eingereicht zu haben. Ursprünglich habe er den Beruf des Maurers erlernt, seit 1992 sei er als Hilfsarbeiter bei der K._ AG erwerbstätig gewesen. Mit Vorbescheid vom 31. Oktober 2002 stellte die IV-Stelle dem Versicherten in Aussicht, einen Rentenanspruch bei einem Invaliditätsgrad von 31 % zu verneinen. Da der Versicherte damit nicht einverstanden war, veranlasste die Versicherung weitere medizinische Abklärungen. Mit Verfügung vom 24. November 2006 bestätigte die IV-Stelle ihren Vorbescheid bezüglich der Verneinung eines Rentenanspruches. Mit Verfügung vom 27. April 2006 und Einspracheentscheid vom 12. Februar 2007 schloss die IV-Stelle zudem die Arbeitsvermittlung ab.
B. Die von P._ gegen diese beiden Entscheide erhobenen Beschwerden wies das Sozialversicherungsgericht Basel-Stadt mit Entscheid vom 19. Dezember 2007 ab.
C. Mit Beschwerde beantragt P._, die IV-Stelle Basel-Stadt sei unter Aufhebung des kantonalen Gerichtsentscheides zu verpflichten, die Rentenfrage neu zu prüfen und die Arbeitsvermittlung fortzusetzen. Gleichzeitig stellt er ein Gesuch um unentgeltliche Rechtspflege für das Verfahren vor dem Bundsgericht.
Während die IV-Stelle Basel-Stadt auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 2.5 S. 262; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4.1 S. 254).
1.2 Da der vorinstanzliche Entscheid nicht Geldleistungen der Unfall- oder der Militärversicherung betrifft, prüft das Bundesgericht nur, ob das vorinstanzliche Gericht Bundesrecht verletzte, einschliesslich Überschreitung oder Missbrauch des Ermessens oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt wurde.
2. Streitig ist zunächst, ob der angefochtene Entscheid gegen Bundesrecht verstösst, soweit die Vorinstanz den Abschluss der Arbeitsvermittlung durch die IV-Stelle geschützt hat.
2.1 Das kantonale Gericht schützte den Abschluss der Arbeitsvermittlung, da deren Fortsetzung nicht länger verhältnismässig sei. In der Zeit zwischen Februar 2005 und April 2006 seien eine Vielzahl berufsberaterischer Interventionen dokumentiert, welche indessen erfolglos geblieben seien. Demgegenüber fehlten ein Bekenntnis des Versicherten, sich mit seiner Arbeitssituation auseinandersetzen zu wollen sowie der Wille des Versicherten zur aktiven Eingliederung.
2.1 Das kantonale Gericht schützte den Abschluss der Arbeitsvermittlung, da deren Fortsetzung nicht länger verhältnismässig sei. In der Zeit zwischen Februar 2005 und April 2006 seien eine Vielzahl berufsberaterischer Interventionen dokumentiert, welche indessen erfolglos geblieben seien. Demgegenüber fehlten ein Bekenntnis des Versicherten, sich mit seiner Arbeitssituation auseinandersetzen zu wollen sowie der Wille des Versicherten zur aktiven Eingliederung.
2.2 2.2.1 Entzieht oder widersetzt sich eine versicherte Person einer zumutbaren Behandlung oder Eingliederung ins Erwerbsleben, die eine wesentliche Verbesserung der Erwerbsfähigkeit oder eine neue Erwerbsmöglichkeit verspricht, oder trägt sie nicht aus eigenem Antrieb das ihr Zumutbare dazu bei, so können ihr die Leistungen - von hier nicht interessierenden Ausnahmen abgesehen - vorübergehend oder dauernd gekürzt oder verweigert werden. Sie muss vorher schriftlich gemahnt und auf die Rechtsfolgen hingewiesen werden; ihr ist eine angemessene Bedenkzeit einzuräumen (<ref-law>; die Rechtsprechung [<ref-ruling> E. 4b S. 219] zu den damit inhaltlich weitgehend übereinstimmenden aArt. 10 Abs. 2 und 31 IVG bleibt weiterhin gültig [Urteil I 462/05 vom 16. August 2006, E. 3.2]). <ref-law> verpflichtet die anspruchsberechtigten Personen zusätzlich, unter Hinweis auf die Kürzungs- und Verweigerungsmöglichkeiten gemäss <ref-law>, die Durchführung aller Massnahmen, die zur Eingliederung ins Erwerbsleben getroffen werden, zu erleichtern.
2.2.2 Die Arbeitsvermittlung als berufliche Eingliederungsmassnahme bezweckt die Wiederherstellung, Verbesserung, Erhaltung oder Förderung der Erwerbsfähigkeit (<ref-law>). Ein entsprechender Anspruch besteht grundsätzlich - sobald und solange die dafür notwendigen Voraussetzungen (<ref-ruling> E. 6a S. 81; AHI 2003 S. 269 f. [I 421/01]) erfüllt sind - bis zur erfolgreichen Eingliederung. Vorbehalten bleibt das Prinzip der Verhältnismässigkeit: Die Arbeitsvermittlung muss nur solange erbracht werden, als der dafür notwendige Aufwand nicht unverhältnismässig ist (Urteil I 265/05 vom 3. Oktober 2005, E. 3.1 mit Hinweisen). Der Anspruch auf Eingliederungsmassnahmen nach <ref-law> - und somit auch derjenige auf Arbeitsvermittlung gemäss <ref-law> - setzt insbesondere die subjektive Eingliederungsbereitschaft des Versicherten voraus (vgl. das soeben zitierte Urteil I 265/05, E. 3.2). Jedoch erlaubt der klare Wortlaut von <ref-law> selbst bei offensichtlich fehlender Eingliederungsbereitschaft der versicherten Person keine Abweichung vom Grundsatz, dass sie ohne Rücksicht auf ihr Verhalten auf die Folgen ihrer Widersetzlichkeit aufmerksam gemacht werden muss. Sinn und Zweck des Mahn- und Bedenkzeitverfahrens ist einerseits, den Versicherten nicht Folgen eines Verhaltens tragen zu lassen, über dessen Auswirkungen er sich möglicherweise keine Rechenschaft abgelegt hat. Anderseits soll er innerhalb der gesetzten Frist und im Wissen um die angedrohten Folgen seine bisherige Verweigerungshaltung aufgeben können. Im Hinblick auf die Zielsetzung der Eingliederungsmassnahmen, einen Zustand wiederherzustellen oder zu verbessern, darf die Kürzung oder Verweigerung von Leistungen ohne Rücksicht auf das Verhalten der versicherten Person zwingend erst dann angeordnet werden, wenn diese gemahnt und ihr unter Bezugnahme auf das von ihr geforderte Verhalten und Ansetzen einer angemessenen Bedenkzeit schriftlich mitgeteilt worden ist, welche Folgen ihre Widersetzlichkeit nach sich ziehen könne (Urteil I 928/06 vom 28. April 2007, E. 4.2 mit Hinweisen). Das gilt auch für die Einstellung einer einmal zugesprochenen Massnahme wegen angeblich fehlender subjektiver Eingliederungsbereitschaft (Urteile 9C_494/2007 vom 6. Mai 2008, E. 2.2 und I 776/04 vom 29. März 2005, E. 4.2).
2.3 Im vorliegenden Fall wurde vor der Einstellung der Arbeitsvermittlung kein Mahn- und Bedenkzeitverfahren durchgeführt. Darf aus diesem formellen Grund nach der dargelegten Rechtsprechung die Einstellung nicht mit einer angeblich fehlenden subjektiven Eingliederungsbereitschaft begründet werden, so ist es ebenfalls nicht tunlich, diese in die Prüfung der Verhältnismässigkeit der Weiterführung der einmal zugesprochenen Massnahme einzubeziehen. Wie die Vorinstanz für das Bundesgericht grundsätzlich verbindlich festgestellt hat, sind während der über ein Jahr dauernden Betreuungsphase von Februar 2005 bis April 2006 eine Vielzahl (erfolgloser) berufsberaterischer Interventionen dokumentiert. Dem Protokoll der IV-Stelle Basel-Stadt ist zu entnehmen, dass diese vorab darin bestanden, den Versicherten aufzufordern, selber zielgerichteter nach einer angepassten Arbeit zu suchen. Auch wenn es zutrifft, dass die versicherte Person nach einem allgemeinen Grundsatz der Invalidenversicherung zunächst alles ihr Zumutbare selber vorzukehren hat, um die Folgen ihrer Invalidität bestmöglich zu mildern (<ref-ruling> E. 4a S. 28), so ist durchaus vorstellbar, dass die IV-Stelle den Beschwerdeführer bei seiner Eingliederung aktiver und umfassender als bisher unterstützt, ohne damit gegen den Grundsatz der Verhältnismässigkeit (vgl. das Urteil I 776/04 vom 29. März 2005, E. 4.3) zu verstossen. Die IV-Stelle hat deshalb weiterhin Arbeitsvermittlung zu gewähren.
3. Streitig ist im Weiteren der Rentenanspruch des Versicherten.
3. Streitig ist im Weiteren der Rentenanspruch des Versicherten.
3.1 3.1.1 Invalidität ist die voraussichtlich bleibende oder längere Zeit dauernde ganze oder teilweise Erwerbsunfähigkeit (<ref-law>). Erwerbsunfähigkeit ist der durch Beeinträchtigung der körperlichen, geistigen oder psychischen Gesundheit verursachte und nach zumutbarer Behandlung und Eingliederung verbleibende ganze oder teilweise Verlust der Erwerbsmöglichkeiten auf dem in Betracht kommenden ausgeglichenen Arbeitsmarkt (<ref-law>).
3.1.2 Nach <ref-law> besteht der Anspruch auf eine ganze Rente, wenn die versicherte Person mindestens 70 %, derjenige auf eine Dreiviertelsrente, wenn sie mindestens 60 % invalid ist. Bei einem Invaliditätsgrad von mindestens 50 % besteht Anspruch auf eine halbe Rente und bei einem Invaliditätsgrad von mindestens 40 % ein solcher auf eine Viertelsrente. Bis zum 31. Dezember 2003 bestand nach der bis dahin geltenden Fassung von <ref-law> der Anspruch auf eine ganze Rente, wenn die versicherte Person mindestens zu zwei Dritteln, derjenige auf eine halbe Rente, wenn sie mindestens zur Hälfte invalid war. Bei einem Invaliditätsgrad von mindestens 40 % bestand Anspruch auf eine Viertelsrente. In Härtefällen hatte die versicherte Person nach <ref-law> bereits bei einem Invaliditätsgrad von mindestens 40 % Anspruch auf eine halbe Rente.
3.1.3 Um den Invaliditätsgrad bemessen zu können, ist die Verwaltung - und im Beschwerdefall das Gericht - auf Unterlagen angewiesen, die der Arzt oder die Ärztin und gegebenenfalls andere Fachleute zur Verfügung zu stellen haben. Aufgabe der medizinischen Fachperson ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Im Weiteren sind ärztliche Auskünfte eine wichtige Grundlage für die Beurteilung der Frage, welche Arbeitsleistungen der versicherten Person noch zugemutet werden können (<ref-ruling> E. 4 S. 261, 115 V 133 E. 2 S. 134).
3.1.4 Für die Bestimmung des Invaliditätsgrades wird gemäss <ref-law> das Erwerbseinkommen, das die versicherte Person nach Eintritt der Invalidität und nach Durchführung der medizinischen Behandlung und allfälliger Eingliederungsmassnahmen durch eine ihr zumutbare Tätigkeit bei ausgeglichener Arbeitsmarktlage erzielen könnte, in Beziehung gesetzt zum Erwerbseinkommen, das sie erzielen könnte, wenn sie nicht invalid geworden wäre.
3.2 Gemäss dem vorinstanzlichen Entscheid müssen zur Feststellung der medizinisch-theoretischen Arbeitsfähigkeit zwei Phasen unterschieden werden: Einerseits die Zeit zwischen November 2005 und dem Datum der Verfügung vom 24. November 2006, andererseits die Zeit zwischen Juli 2001 und November 2005.
3.2.1 Wie das kantonale Gericht für das Bundesgericht grundsätzlich verbindlich festgestellt hat, war der Beschwerdeführer ab November 2005 nur noch aus somatischen Gründen eingeschränkt. Die körperlichen Gesundheitsbeschränkungen erlaubten ihm, eine leidenangepasste Tätigkeit zu 80 % auszuführen. Was der Versicherte gegen diese Feststellung vorbringt, vermag diese nicht als offensichtlich unrichtig erscheinen zu lassen. Insbesondere ist entgegen seiner Darstellung das Gutachten des Dr. med. G._, FMH für Psychiatrie und Psychotherapie, vom 12. November 2005 nicht in sich widersprüchlich. Der Gutachter ging vielmehr in Übereinstimmung mit der Rechtsprechung (<ref-ruling>; <ref-ruling>) davon aus, dass eine somatoforme Schmerzstörung, wie er sie beim Beschwerdeführer diagnostizierte, in der Regel keine invalidenversicherungsrechtlich relevante Einschränkung der Arbeitsfähigkeit zur Folge hat. Dem Versicherten wäre nach der Ansicht von Dr. med. G._ aus psychiatrischer Sicht zuzumuten, einer seiner körperlichen Tätigkeit angepassten Tätigkeit ganztags und ohne jede Leistungseinschränkungen nachzugehen.
3.2.2 Für die Zeit zwischen Juli 2001 und November 2005 stellte die Vorinstanz fest, dass neben der somatischerseits attestierten Reduktion der Leistungsfähigkeit von 20 % auch aus psychiatrischer Sicht eine Arbeitsunfähigkeit von 20 % bestand. Diese beiden Werte könnten jedoch nicht ohne weiteres miteinander addiert werden; im vorliegenden Fall sei nicht davon auszugehen, dass die medizinisch-theoretische Arbeitsfähigkeit um mehr als 20 % eingeschränkt war. Auch diese Sachverhaltswürdigung erscheint als vertretbar und ist somit nicht offensichtlich unrichtig im Sinne von <ref-law>. Insbesondere durfte die Vorinstanz in zulässiger antizipierter Beweiswürdigung (<ref-ruling> E. 2.1 S. 428) auf weitere Abklärungen betreffend dem Gesundheitszustand in diesem Zeitraum verzichten.
3.2.3 Zusammenfassend ist nicht zu beanstanden, dass die Vorinstanz von einer ab Juli 2001 durchgehenden 80%igen Arbeitsfähigkeit in einer angepassten Tätigkeit ausgegangen ist.
3.3 Bezüglich des Einkommensvergleiches verweist der vorinstanzliche Entscheid auf die angefochtene Verfügung. Ob das kantonale Gericht damit der ihm obliegenden Begründungspflicht (<ref-law>) genügend nachgekommen ist, braucht vorliegendend nicht geprüft zu werden, da der vorinstanzliche Entscheid auch im Rentenpunkt aufzuheben ist: Die IV-Stelle hat das Valideneinkommen ohne nähere Begründung aufgrund des bei der K._ AGzuletzt bezogenen Einkommens ermittelt. Dazu im klaren Widerspruch (vgl. <ref-ruling> E. 1.4.1 S. 254) steht jedoch die für das Bundesgericht grundsätzlich verbindliche vorinstanzliche Sachverhaltsfeststellung, wonach der Versicherte ab 1982 in der Schweiz als Maurer arbeitete und diesen Beruf 1986 aufgrund von Rückenschmerzen, mithin aus gesundheitlichen Gründen, aufgab. Somit ist davon auszugehen, dass der Versicherte im Zeitpunkt des (allenfalls hypothetischen) Rentenbeginns als Gesunder weiterhin als Maurer tätig gewesen wäre, und sich, falls der Tätigkeitswechsel mit einer Lohneinbusse verbunden war, nicht mit der Hilfsarbeitertätigkeit bei der K._ AGbegnügt hätte (vgl. <ref-ruling> E. 4.3.1 S. 224 mit Hinweis). Die Sache ist daher an die IV-Stelle Basel-Stadt zurückzuweisen, damit diese abkläre, wie viel der Beschwerdeführer im massgeblichen Zeitpunkt als Maurer verdient hätte und gestützt darauf einen neuen Einkommensvergleich vornehme. Anschliessend wird sie über den Rentenanspruch neu zu verfügen haben.
4. 4.1 Das Verfahren ist kostenpflichtig (<ref-law>). Als unterliegende Partei hat die Beschwerdegegnerin die Gerichtskosten zu tragen (<ref-law>). Diese hat dem Beschwerdeführer überdies eine Parteientschädigung auszurichten (<ref-law>). Damit wird das Gesuch des Versicherten um unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren gegenstandslos.
4.2 Es war im bundesgerichtlichen Verfahren nicht länger streitig, dass der Beschwerdeführer im Falle eines Unterliegens im Einspracheverfahren betreffend Arbeitsvermittlung Anspruch auf die unentgeltliche Prozessführung gehabt hätte. Da ein Antrag auf unentgeltliche Prozessführung im Falle des Unterliegens gleichzeitig einen Antrag auf Ausrichtung einer Prozessentschädigung im Falle des Obsiegens beinhaltet (ZAK 1990, S. 139 [I 322/89]), hat der Versicherte Anspruch auf eine Prozessentschädigung für das Einspracheverfahren (vgl. <ref-ruling> E. 2.2 S. 572 ff.). Die Akten sind zur Bemessung des Anspruches an die IV-Stelle zurückzuweisen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Sozialversicherungsgerichts Basel-Stadt vom 19. Dezember 2007, der Einspracheentscheid der IV-Stelle Basel-Stadt vom 12. Februar 2007 betreffend Arbeitsvermittlung und die Verfügung der IV-Stelle Basel-Stadt vom 24. November 2006 betreffend Rentenleistungen werden aufgehoben. Es wird festgestellt, dass der Beschwerdeführer Anspruch auf Arbeitsvermittlung hat. Die Sache wird an die IV-Stelle Basel-Stadt zurückgewiesen, damit diese nach erfolgten Abklärungen im Sinne der Erwägungen über den Rentenanspruch neu entscheide.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2500.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht Basel-Stadt zurückgewiesen.
5. Die Sache wird zur Festsetzung der Parteientschädigung für das Einspracheverfahren betreffend Arbeitsvermittlung an die IV-Stelle Basel-Stadt zurückgewiesen.
6. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt, der IV-Stelle Basel-Stadt, der Ausgleichskasse Berner Arbeitgeber und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 11. August 2008
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Ursprung Holzer