Sachverhalt: A. X._ (geb. 2.1.1970), tunesischer Staatsangehöriger, reiste am 7. April 2007 in die Schweiz ein, heiratete am 4. Mai 2007 A._ und erhielt in der Folge eine bis 15. Mai 2008 gültige Aufenthaltsbewilligung. Am 23. September 2007 verstarb die Ehefrau (Lungenembolie). Mit Verfügung vom 10. Januar 2008 widerrief das Migrationsamt des Kantons Schaffhausen die Aufenthaltsbewilligung von X._. Rekurs an den Regierungsrat des Kantons Schaffhausen und die anschliessende Verwaltungsgerichtsbeschwerde an das Obergericht des Kantons Schaffhausen blieben erfolglos. B. Vor Bundesgericht beantragt X._, das Urteil des Obergerichts vom 8. Juli 2011 aufzuheben und die Aufenthaltsbewilligung zu verlängern sowie ihm für das Verfahren vor Bundesgericht keine Kosten aufzuerlegen. C. Der Regierungsrat des Kantons Schaffhausen und das Bundesamt für Migration beantragen, die Beschwerde abzuweisen. Das Obergericht des Kantons Schaffhausen verzichtet auf eine Vernehmlassung und einen Antrag. D. Mit Verfügung vom 15. September 2011 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde aufschiebende Wirkung zuerkannt.