Sachverhalt: A. Die serbische Staatsangehörige X._ (geb. 1966) reiste 1997 erstmals in die Schweiz ein und stellte ein Asylgesuch, das am 27. November 1997 rechtskräftig abgewiesen wurde. Am 28. Januar 1998 heiratete sie den Schweizer Bürger Y._ (geb. 1941) und erhielt in der Folge eine Aufenthaltsbewilligung zum Verbleib beim Ehemann. Am 6. April 2001 wurde die Ehe geschieden und mit Verfügung vom 6. Juni 2002 lehnte das Amt für Migration des Kantons Luzern die Verlängerung der Aufenthaltsbewilligung der Ehefrau ab. Zudem wurde X._ mit Verfügung des zuständigen Bundesamtes angewiesen, die Schweiz bis zum 15. Juli 2003 zu verlassen. Am 4. Juli 2003 heiratete X._ den Schweizer Bürger Z._ (geb. 1983). Am 17. Dezember 2004 erteilte ihr das Amt für Migration eine Aufenthaltsbewilligung zum Verleib beim Ehemann, welche letztmals bis zum 17. Dezember 2007 verlängert wurde. Die Ehe von X._ und Z._ wurde am 12. Juni 2009 geschieden. Am 15. November 2007 ersuchte X._ um Verlängerung ihrer Aufenthaltsbewilligung. Mit Verfügung vom 15. Oktober 2010 lehnte das Amt für Migration das Gesuch um Verlängerung der Aufenthaltsbewilligung ab und verweigerte die Erteilung einer Niederlassungsbewilligung. X._ wurde angewiesen, die Schweiz bis 31. Dezember 2010 zu verlassen. Die dagegen beim Justiz- und Sicherheitsdepartment und beim Verwaltungsgericht des Kantons Luzern erhobenen Rechtsmittel blieben erfolglos. B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten bzw. subsidiärer Verfassungsbeschwerde vom 28. November 2011 beantragt X._, den Entscheid des Verwaltungsgerichts des Kantons Luzern vom 20. Oktober 2011 aufzuheben und ihr die Niederlassungsbewilligung zu erteilen, eventuell die Aufenthaltsbewilligung zu verlängern. Eventualiter wird beantragt, die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Subeventualiter wird beantragt, die Beschwerde als subsidiäre Verfassungsbeschwerde gutzuheissen und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. C. Das Verwaltungsgericht des Kantons Luzern und das Bundesamt für Migration beantragen die Abweisung der Beschwerde. Das Amt für Migration und das Justiz- und Sicherheitsdepartment des Kantons Luzern haben sich nicht vernehmen lassen. Mit Verfügung vom 5. Dezember 2011 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.