Sachverhalt:
A. Die 1969 geborene A._ war ab 1. Januar 2001 als selbstständig erwerbende Schuhmacherin tätig. Am 29. August 2008 meldete sie sich wegen eines depressiven Leidens bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich klärte den Sachverhalt ab. Unter anderem holte sie am 12. Februar 2009 ein psychiatrisches Gutachten bei Dr. med. O._ ein. Mit Verfügung vom 21. Dezember 2009 verneinte die IV-Stelle einen Anspruch auf Invalidenrente.
B. Die hiegegen eingereichte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 14. Oktober 2011 ab.
C. Mit Beschwerde lässt A._ die Aufhebung des vorinstanzlichen Entscheides und die Ausrichtung einer ganzen Rente der Invalidenversicherung ab 1. Februar 2009 beantragen. Eventualiter sei die Sache zwecks Ergänzung der Sachverhaltsabklärungen an die Vorinstanz zurückzuweisen.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann eine - für den Ausgang des Verfahrens entscheidende (vgl. Art. 97 Abs. 1 BGG) - Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder wenn sie auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
1.2 Auf der nicht medizinischen beruflich-erwerblichen Stufe der Invaliditätsbemessung charakterisieren sich als Rechtsfragen die gesetzlichen und rechtsprechungsgemässen Regeln über die Durchführung des Einkommensvergleichs. Die Feststellung der beiden hypothetischen Vergleichseinkommen stellt sich als Tatfrage dar, soweit sie auf konkreter Beweiswürdigung beruht, hingegen als Rechtsfrage, soweit sich der Entscheid nach der allgemeinen Lebenserfahrung richtet. Letzteres betrifft etwa die Fragen, ob Tabellenlöhne anwendbar sind und welches die massgebliche Tabelle ist sowie die Wahl der zutreffenden Stufe (Anforderungsniveau 1, 2, 3 oder 4; SVR 2008 IV Nr. 4 S. 9, I 732/06 E. 4.2.2) und des zu berücksichtigenden Wirtschaftszweigs oder Totalwertes (Urteil 9C_678/2008 vom 29. Januar 2009 E. 3.2 mit Hinweis). Demgegenüber beschlägt der Umgang mit den Zahlen in der massgeblichen LSE-Tabelle eine Tatfrage (<ref-ruling> E. 3.3 S. 399; SVR 2009 IV Nr. 34 S. 95, 9C_24/2009 E. 1.2).
2. Streitig ist, ob die Vorinstanz Bundesrecht verletzte, indem sie den Anspruch der Versicherten auf eine Rente der Invalidenversicherung verneinte.
2.1 Hinsichtlich des Valideneinkommens (Einkommen, das die versicherte Person ohne Invalidität erzielen könnte) ist Folgendes zu berücksichtigen:
2.2 Für die Ermittlung des Valideneinkommens ist entscheidend, was die versicherte Person im massgebenden Zeitpunkt aufgrund ihrer beruflichen Fähigkeiten und persönlichen Umstände nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit als Gesunde tatsächlich verdient hätte. Die Einkommensermittlung hat so konkret wie möglich zu erfolgen. Da nach empirischer Feststellung in der Regel die bisherige Tätigkeit im Gesundheitsfall weitergeführt worden wäre, ist Anknüpfungspunkt für die Bestimmung des Valideneinkommens grundsätzlich der letzte vor Eintritt der Gesundheitsschädigung erzielte, nötigenfalls der Teuerung und der realen Einkommensentwicklung angepasste Verdienst (<ref-ruling> E. 4.1 S. 325, 129 V 222 Erw. 4.3.1 S. 224 mit Hinweisen).
2.3 Wenn jemand vor Eintritt des Gesundheitsschadens aus gesundheitsfremden Gründen nur ein sehr geringes, nicht existenzsicherndes Einkommen erzielt hat und nach Eintritt des Gesundheitsschadens immer noch ein Einkommen in unveränderter Höhe erzielen könnte, so ist nicht der Gesundheitsschaden ursächlich für eine allfällige tatsächliche Einkommenseinbusse; kausal sind vielmehr die (nicht bei der Invalidenversicherung versicherten) wirtschaftlichen oder persönlichen Umstände, die bereits beim Gesunden die Erzielung eines höheren Einkommens verhindert haben (<ref-ruling> E. 3.4.1 S. 61).
2.4 Bei selbstständig Erwerbenden wird unter Umständen nicht auf das zuletzt erzielte Einkommen abgestellt, wenn aufgrund der Umstände mit überwiegender Wahrscheinlichkeit anzunehmen ist, dass der Versicherte im Gesundheitsfall seine nicht einträgliche selbstständige Tätigkeit aufgegeben und eine besser entlöhnte andere Tätigkeit angenommen hätte, oder dann, wenn die vor der Gesundheitsbeeinträchtigung ausgeübte selbstständige Tätigkeit wegen ihrer kurzen Dauer keine genügende Grundlage für die Bestimmung des Valideneinkommens darstellt, zumal in den ersten Jahren nach Aufnahme der selbstständigen Erwerbstätigkeit aus verschiedenen Gründen (hohe Abschreibungsquote auf Neuinvestitionen etc.) die Betriebsgewinne gering sein können. Wenn sich hingegen der Versicherte, auch als seine Arbeitsfähigkeit noch nicht beeinträchtigt war, über mehrere Jahre hinweg mit einem bescheidenen Einkommen aus selbstständiger Erwerbstätigkeit begnügt hat, ist dieses für die Festlegung des Valideneinkommens massgebend, selbst wenn besser entlöhnte Erwerbsmöglichkeiten bestanden hätten (<ref-ruling> E. 3.4.6 S. 64).
2.5 Das kantonale Gericht legte dar, dass die Beschwerdeführerin nach der Aufnahme ihrer selbstständigen Tätigkeit als Schuhmacherin am 1. September 2001 gemäss Auszug aus ihrem individuellen Konto (IK-Auszug) im Jahr 2001 ein Einkommen von Fr. 10'700.-, im Jahr 2002 ein solches von Fr. 7'623.- und in den Jahren 2003 bis 2005 ein solches von Fr. 8'307.- erzielte. Das Abstellen der Vorinstanz auf den IK-Auszug ist mit Blick auf die Rechtsprechung bundesrechtskonform (SVR 2010 IV Nr. 26 S. 79, 8C_9/2009 E. 3; SVR 2009 IV Nr. 28 S. 79, 8C_576/2008 E. 6.2 und 6.3), insbesondere da die Versicherte keine Buchhaltung führte. Ein gegenüber den Steuerbehörden deklariertes tieferes Einkommen, wie geltend gemacht wird, würde im Übrigen nichts an der vorliegenden Beurteilung ändern, da hierdurch der Invaliditätsgrad noch sinken würde. Die Vorinstanz legte ihrer Beurteilung des Valideneinkommens den tatsächlich erzielten Verdienst als selbstständige Schuhmacherin zugrunde. Sie gab an, wenn vom höchsten je erzielten Verdienst von Fr. 10'700.- ausgegangen und dieser der Nomininallohnentwicklung angepasst würde, resultierte zum Zeitpunkt des frühest möglichen Rentenbeginns im Jahr 2009 ein Valideneinkommen von rund Fr. 12'258.- pro Jahr.
2.6 Die Vorinstanz ging von einer krankheitsbedingten Einschränkung der Arbeitsfähigkeit ab Mai 2005 aus und gab an, zu dem geltend gemachten früheren Beginn der Erkrankung lägen in den Akten keine Anhaltspunkte vor.
Mit Verweis auf die Arztberichte der Dres. med. B._ und M._ vom 15. September 2008 und 21. November 2003 bringt die Beschwerdeführerin vor, bereits ab 2002 erscheine eine zumindest teilweise Arbeitsunfähigkeit überwiegend wahrscheinlich. Die Annahme der Vorinstanz, sie habe in den Jahren 2002 bis 2005 freiwillig auf ein höheres Einkommen verzichtet, sei daher willkürlich.
Es trifft zu, dass die beiden Ärzte ihren Berichten bereits gewisse vor dem Jahr 2005 bestehende Beschwerden der Versicherten schilderten, jedoch keine dadurch bedingte Einschränkung der Arbeitsfähigkeit. Beide berichteten, die Versicherte klage schon seit Jahren über Beschwerden. Dr. med. B._ gab auf Nachfrage der Beschwerdegegnerin nach dem Beginn der Arbeitsunfähigkeit ausdrücklich an, erst ab Mai 2005 habe eine solche bestanden. Die Versicherte selber führte in ihrem Schreiben vom 15. Dezember 2008 an die Beschwerdegegnerin aus, vom 1. Januar 2001 bis 9. Mai 2005 habe sie zu 100 % gearbeitet. Unter Berücksichtigung dieser Umstände erweist sich der von der Vorinstanz festgestellte Beginn der Arbeitsunfähigkeit ab Mai 2005 nicht als offensichtlich unrichtig.
Nichts anderes lässt sich aus dem vor Bundesgericht erstmals eingereichten Schreiben der AXA Winterthur vom 1. November 2007 ableiten, das als Novum im vorliegenden Verfahren nicht zu berücksichtigen ist (Art. 99 Abs. 1 BGG) und im Übrigen ebenfalls keine Angaben zur Einschränkung der Arbeitsfähigkeit enthält.
2.7 Die ausgeübte selbstständige Tätigkeit als Schuhmacherin bildet unter Berücksichtigung ihrer Dauer von über vier Jahren für die Bestimmung des Valideneinkommens eine genügende Grundlage, insbesondere da die Versicherte am 1. Januar 2001 ein bereits bestehendes Geschäft mit Stammkundschaft übernehmen konnte und dieses nicht neu aufbauen musste. Eine hohe Abschreibungsquote auf Neuinvestitionen oder Ähnliches ist nicht ersichtlich. Die Vorinstanz verwies darauf, dass sich die Beschwerdeführerin trotzt anderen besser entlöhnten, leidensangepassten Erwerbsmöglichkeiten über mehrere Jahre hinweg mit einem bescheidenen Einkommen aus selbstständiger Erwerbstätigkeit begnügt hat. Insgesamt erscheine es als überwiegend wahrscheinlich, dass die Beschwerdeführerin im Gesundheitsfall ihre selbstständige Tätigkeit mit weit unterdurchschnittlichem Einkommen nicht aufgegeben und etwa eine Anstellung im Produktionssektor angenommen hätte.
In der Beschwerde wird vorgebracht, niemand gäbe sich auf Dauer mit einem so geringen Einkommen zufrieden. Diesem Einwand kann nicht gefolgt werden, denn gegenüber dem Gutachter Dr. med. O._ gab die Versicherte selber an, ihr Mann finanziere das gemeinsame Leben, und der Abklärungsperson im Rahmen der Abklärung für selbstständig Erwerbende (Bericht vom 20. April 2009) erklärte sie, sie würde bei guter Gesundheit aktuell weiterhin zu 100 % in ihrem Schuhmacherladen arbeiten. Soweit die Vorinstanz somit feststellte, das effektiv erzielte, tiefe Einkommen aus dem Schuhmacherbetrieb sei das massgebliche Valideneinkommen, ist dies nicht bundesrechtswidrig (vgl. <ref-ruling> E. 3.4.6 S. 64). Eine geltend gemachte Parallelisierung der Einkommen gemäss <ref-ruling> E. 4.1 S. 325, welche sich allerdings lediglich auf Einkommenswerte von Angestellten bezieht, würde im Übrigen auch nur erfolgen, wenn sich die versicherte Person nicht aus freien Stücken mit einem bescheidenen Einkommen begnügt.
3. Bei der Beurteilung des Invalideneinkommens ging das kantonale Gericht vom psychiatrischen Gutachten des Dr. med. O._ vom 12. Dezember 2009 aus. Dieser diagnostizierte eine schwere, kombinierte Persönlichkeitsstörung mit vor allem ängstlich-depressiven und histrionischen Anteilen (ICD-10 F61.0) sowie ein chronisch rezidivierendes Schmerzsyndrom (ICD 10-F45.4). Die daraus resultierende Arbeitsfähigkeit als Schuhmacherin bezifferte er mit 25-30 %. Am Ende seines Gutachtens kam er zum Schluss, er sei mit der Einschätzung des behandelnden Psychotherapeuten Dr. med. S._ einverstanden, dass die Beschwerdeführerin aus psychiatrisch-psychotherapeutischer Sicht zu 70 % arbeitsunfähig sei. Zur Frage nach der Arbeitsfähigkeit in einer angepassten Tätigkeit führte er aus, bei der Versicherten liege mit der Tätigkeit als Schuhmacherin bereits eine angepasste Tätigkeit vor. Da somit eine Arbeitsfähigkeit von 30 % in der angepassten Tätigkeit als Schuhmacherin besteht, ist die Folgerung des kantonalen Gerichts, dass eine solche in einer anderen (gleich) angepassten Tätigkeit ebenfalls gegeben ist, nicht zu beanstanden.
3.1 Bezüglich der wirtschaftlichen Verwertbarkeit der Restarbeitsfähigkeit ist auf den im Gebiet der Invalidenversicherung allgemein geltenden Grundsatz der Schadenminderungspflicht hinzuweisen, wonach die versicherte Person, bevor sie Leistungen verlangt, alles ihr Zumutbare selber vorzukehren hat, um die Folgen der Invalidität bestmöglich zu mindern. Ein Rentenanspruch ist zu verneinen, wenn die Person selbst ohne Eingliederungsmassnahmen, nötigenfalls mit einem Berufswechsel, zumutbarerweise in der Lage ist, ein rentenausschliessendes Erwerbseinkommen zu erzielen. Von der versicherten Person dürfen dabei aber nur Vorkehren verlangt werden, die unter Berücksichtigung der gesamten objektiven und subjektiven Gegebenheiten des Einzelfalles zumutbar sind (SVR 2010 IV Nr. 11 S. 35, 9C_236/2009 E. 4.1). Der Begriff der zumutbaren Tätigkeit im Rahmen der Invaliditätsbemessung nach Art. 16 ATSG bezweckt, die Schadenminderungspflicht zu begrenzen oder - positiv formuliert - deren Mass zu bestimmen. Eine versicherte Person ist daher unter Umständen invalidenversicherungsrechtlich so zu behandeln, wie wenn sie ihre Tätigkeit als selbstständig Erwerbende aufgibt, d.h. sich im Rahmen der Invaliditätsbemessung jene Einkünfte anrechnen lassen muss, welche sie bei Aufnahme einer leidensangepassten unselbstständigen Erwerbstätigkeit zumutbarerweise verdienen könnte. Für die Auslegung des unbestimmten Rechtsbegriffs der zumutbaren Tätigkeit im Allgemeinen, wie bei der Aufgabe der selbstständigen Erwerbstätigkeit im Besonderen, sind die gesamten subjektiven und objektiven Gegebenheiten des Einzelfalles zu berücksichtigen. Im Vordergrund stehen bei den subjektiven Umständen die verbliebene Leistungsfähigkeit sowie die weiteren persönlichen Verhältnisse, wie Alter, berufliche Stellung, Verwurzelung am Wohnort etc. Bei den objektiven Umständen sind insbesondere der ausgeglichene Arbeitsmarkt und die noch zu erwartende Aktivitätsdauer massgeblich (vgl. SVR 2010 IV Nr. 11 S. 35, 9C_236/2009 E. 4.1 und 4.3, und SVR 2007 IV Nr. 1 S. 1, I 750/2004 E. 5.3; Urteil 8C_482/2010 vom 27. September 2010 E. 4.2 mit Hinweisen).
3.2 Unter Berücksichtigung dieser Grundsätze, der Umstände im konkreten Fall und des von der Versicherten erzielten geringen Einkommens erweist sich der vom kantonalen Gericht als zumutbar erachtete Wechsel in ein leidensangepasstes Anstellungsverhältnis und das Abstellen auf Angaben der Schweizerischen Lohnstrukturerhebung (LSE) des Bundesamtes für Statistik zur Ermittlung des Invalideneinkommens als bundesrechtskonform. Mit der zumutbaren Aufnahme einer unselbstständigen Erwerbstätigkeit im Rahmen der Schadenminderungspflicht hat - entgegen dem Einwand in der Beschwerde - kein erwerblich gewichteter Betätigungsvergleich für selbstständig Erwerbende mehr zu erfolgen. Dass die Vorinstanz von der Verwertbarkeit in Bezug auf den Umfang der verbliebenen Restarbeitsfähigkeit von 30 % auf dem allgemeinen ausgeglichenen Arbeitsmarkt ausgegangen ist, verstösst ebenfalls nicht gegen Bundesrecht (vgl. Urteil 8C_489/2007 vom 28. Dezember 2007 E. 4.1; ZAK 1992 S. 132 E. 3). In diesem Zusammenhang ist darauf hinzuweisen, dass bei der Invaliditätsbemessung nicht der effektive, sondern der hypothetische ausgeglichene Arbeitsmarkt (Art. 16 ATSG) Referenzpunkt bildet. Der ausgeglichene Arbeitsmarkt ist ein theoretischer und abstrakter Begriff. Er berücksichtigt die konkrete Arbeitsmarktlage nicht, umfasst in wirtschaftlich schwierigen Zeiten auch tatsächlich nicht vorhandene Stellenangebote und sieht von den fehlenden oder verringerten Chancen gesundheitlich Beeinträchtigter, tatsächlich eine zumutbare und geeignete Arbeitsstelle zu finden, ab. Er umschliesst einerseits ein bestimmtes Gleichgewicht zwischen dem Angebot von und der Nachfrage nach Stellen; anderseits bezeichnet er einen Arbeitsmarkt, der von seiner Struktur her einen Fächer verschiedenartiger Stellen offenhält (<ref-ruling> E. 4.2.1 S. 70 f.; <ref-ruling> E. 4b S. 276).
3.3 Grundsätzlich unbestritten ist das konkrete Vorgehen der Vorinstanz zur Ermittlung des Invalideneinkommens von Fr. 12'066.- pro Jahr gestützt auf die LSE-Tabelle und unter der Gewährung des maximalen Abzugs vom Tabellenlohn gemäss <ref-ruling>. Damit ist kein rentenbegründender Invaliditätsgrad ausgewiesen. Die Verneinung des Rentenanspruchs durch das kantonale Gericht erweist sich nicht als bundesrechtswidrig. Die Beschwerde ist demgemäss abzuweisen.
4. Die Gerichtskosten werden der Beschwerdeführerin als unterliegender Partei auferlegt (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 17. April 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Kathriner