Sachverhalt:
A. Die 1961 geborene T._ war zuletzt als Lagermitarbeiterin der Firma P._ AG erwerbstätig. Am 26. Juni 2005 meldete sich die Versicherte unter Hinweis auf seit Sommer 2001 bestehende Rückenschmerzen und Depression bei der IV-Stelle Solothurn zum Leistungsbezug an und beantragte Berufsberatung, Umschulung und eine Rente. Nach medizinischen Abklärungen und Durchführung des Vorbescheidverfahrens wies die IV-Stelle mit Verfügung vom 3. September 2008 das Gesuch um Ausrichtung einer Rente bei einem Invaliditätsgrad von 4 % ab.
B. Die von T._ hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 31. August 2009 ab.
C. Mit Beschwerde beantragt T._, die Sache sei unter Aufhebung der Verfügung und des kantonalen Gerichtsentscheides zu weiteren Abklärungen an die IV-Stelle zurückzuweisen; zudem sei diese zu verpflichten, ihr die Kosten für das Parteigutachten der Dr. med. L._ in der Höhe von Fr. 5'380.- zu erstatten.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 2.5 S. 262; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4.1 S. 254).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Die Beweiswürdigung durch das kantonale Gericht verletzt namentlich dann Bundesrecht, wenn es den Sinn und die Tragweite eines Beweismittels offensichtlich falsch eingeschätzt, ohne sachlichen Grund ein wichtiges und für den Ausgang des Verfahrens entscheidendes Beweismittel nicht beachtet oder aus den abgenommenen Beweisen unhaltbare Schlüsse gezogen hat (<ref-ruling> E. 2.1 S. 9; Urteil 8C_727/2009 vom 19. November 2009 E. 1.2).
1.3 Gemäss <ref-law> sind Noven im letztinstanzlichen Verfahren grundsätzlich unzulässig. Die Voraussetzungen, unter denen die von der Beschwerdeführerin neu eingereichten Unterlagen ausnahmsweise zulässig wären, sind vorliegend nicht erfüllt, so dass diese unbeachtet bleiben müssen.
2. 2.1 Der Anspruch auf Leistungen der Invalidenversicherung setzt unter anderem voraus, dass die versicherte Person invalid oder von Invalidität unmittelbar bedroht ist. Invalidität ist gemäss <ref-law> (SR 830.1) die voraussichtlich bleibende oder längere Zeit dauernde ganze oder teilweise Erwerbsunfähigkeit.
2.2 Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit der versicherten Person handelt es sich grundsätzlich um Entscheidungen über Tatfragen (<ref-ruling> E. 3.2 S. 397 ff.). Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach <ref-law> Rechtsfrage (<ref-ruling> E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 3.2).
3. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie das Vorliegen eines invalidisierenden Gesundheitsschadens verneinte.
4. 4.1 Das kantonale Gericht hat in einlässlicher Würdigung der gesamten medizinischen Akten, insbesondere gestützt auf die Gutachten des Dr. med. U._, FMH Innere Medizin und Rheumaerkrankungen, vom 27. März 2007 und des Institutes für forensische Psychiatrie und Psychotherapie (IFPP), vom 22. Februar 2008 für das Bundesgericht grundsätzlich verbindlich festgestellt, die Versicherte sei im Zeitpunkt der angefochtenen Verfügung (3. September 2008) in einer leidensangepassten Tätigkeit vollständig arbeitsfähig bei einer Leistungsminderung von 10 % gewesen.
4.2 Entgegen dem Vorbringen der Beschwerdeführerin ist diese Sachverhaltsfeststellung nicht deswegen bundesrechtswidrig, weil es sich bei der Begutachtung durch Dr. U._ und durch das IFPP nicht um eine im engeren Sinne interdisziplinäre Begutachtung, sondern um zwei getrennte Begutachtungen ohne direkten interdisziplinären Diskurs gehandelt hat. Wie die Vorinstanz zutreffend ausführt, ist einzig entscheidend, dass der Gesundheitszustand der versicherten Person unter Beizug der hierfür notwendigen Fachpersonen im konkreten Fall hinreichend abgeklärt wird. Dieses Erfordernis ist vorliegend erfüllt, zumal die Gutachter des IFPP Kenntnis vom Gutachten des Dr. med. U._ hatten und dessen Schlussfolgerungen somit mitberücksichtigen konnten.
4.3 Die Versicherte bringt weiter vor, die Gutachter des IFPP hätten nicht Kenntnis aller relevanter medizinischer Akten gehabt. Rechtsprechungsgemäss ist für den Beweiswert eines Arztberichtes unter anderem entscheidend, ob er in Kenntnis der Vorakten (Anamnese) abgegeben worden ist (<ref-ruling> E. 3a S. 352). Vorliegend steht fest und ist unbestritten, dass die Gutachter über die gesamten medizinischen Akten der Beschwerdegegnerin verfügten; insbesondere hatten sie Einblick in den Bericht des Ambulatorium X._ vom 30. November 2004 und in den Austrittsbericht der Klinik Y._ vom 28. Februar 2007. Somit konnten sie sich ein Bild von der Anamnese der Beschwerdeführerin machen (vgl. auch Urteil 8C_924/2008 vom 8. April 2009 E. 3.3). Diese war denn in der Folge auch nicht in der Lage, weitere medizinische Unterlagen beizubringen, welche im Zeitpunkt der Begutachtung (24. August 2007) bereits existiert hätten. Offenbleiben kann, ob es nicht wünschenswert gewesen wäre, wenn die Gutachter Rücksprache mit der behandelnden Psychotherapeutin Dr. med. W._ genommen hätten; dass sie dies unterlassen haben, schmälert jedenfalls den Beweiswert des Gutachtens nicht, da auch die späteren Berichte der Psychotherapeutin keine neuen Gesichtspunkte, welche die Gutachter übersehen hätten, enthielten.
4.4 Ebenfalls bundesrechtlich nicht zu beanstanden sind die Erwägungen des kantonalen Gerichts, wonach sich aus den Berichten der Dr. med. W._ vom 17. September 2008 und aus dem Privatgutachten der Dr. med. L._, Fachärztin für Psychiatrie und Psychotherapie, vom 5. Januar 2009 zwar Hinweise für eine Verschlechterung des Gesundheitszustandes nach dem Verfügungserlass ergeben, diese Unterlagen aber keine konkrete Indizien gegen die Zuverlässigkeit des Gutachtens des IFPP enthalten. Aus dem Privatgutachten der Dr. med. L._ geht hervor, dass die behandelnde Psychotherapeutin, Dr. med. W._, der Gutachterin am 19. Dezember 2008 mitteilte, die Versicherte habe "extrem schlecht und mit einer Verstärkung der Depression" auf die ablehnende Verfügung der Invalidenversicherung reagiert. Bei den entsprechenden Erwägungen der Vorinstanz handelt es sich mithin entgegen den Vorbringen der Beschwerdeführerin nicht um eine blosse Hypothese des Gerichts, welche sich nicht auf eine fachärztliche Wahrnehmung abstützen lässt.
4.5 War die vorinstanzliche Feststellung der medizinisch-theoretischen Arbeitsfähigkeit nicht bundesrechtswidrig, so bestand unbestrittenermassen im Zeitpunkt der Verfügung kein Rentenanspruch. Die Beschwerde ist demnach abzuweisen.
5. 5.1 Die Kosten eines von einer versicherten Person veranlassten Gutachtens sind vom Versicherungsträger dann zu übernehmen, wenn sich der medizinische Sachverhalt erst aufgrund des neu beigebrachten Untersuchungsergebnisses schlüssig feststellen lässt und dem Unfallversicherer insoweit eine Verletzung der ihm im Rahmen des Untersuchungsgrundsatzes obliegenden Pflicht zur rechtsgenüglichen Sachverhaltsabklärung vorzuwerfen ist (RKUV 2004 Nr. U 503 S. 186 ff. [U 282/00]). Dies ist vorliegend nicht der Fall, so dass dem Antrag der Versicherten, die Kosten für das von ihr in Auftrag gegebene Gutachten der Beschwerdegegnerin aufzuerlegen, nicht stattzugeben ist.
5.2 Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten der Beschwerdeführerin aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. März 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Ursprung Holzer