Sachverhalt:
A. X._ (geb. 2.1.1970), tunesischer Staatsangehöriger, reiste am 7. April 2007 in die Schweiz ein, heiratete am 4. Mai 2007 A._ und erhielt in der Folge eine bis 15. Mai 2008 gültige Aufenthaltsbewilligung. Am 23. September 2007 verstarb die Ehefrau (Lungenembolie).
Mit Verfügung vom 10. Januar 2008 widerrief das Migrationsamt des Kantons Schaffhausen die Aufenthaltsbewilligung von X._. Rekurs an den Regierungsrat des Kantons Schaffhausen und die anschliessende Verwaltungsgerichtsbeschwerde an das Obergericht des Kantons Schaffhausen blieben erfolglos.
B. Vor Bundesgericht beantragt X._, das Urteil des Obergerichts vom 8. Juli 2011 aufzuheben und die Aufenthaltsbewilligung zu verlängern sowie ihm für das Verfahren vor Bundesgericht keine Kosten aufzuerlegen.
C. Der Regierungsrat des Kantons Schaffhausen und das Bundesamt für Migration beantragen, die Beschwerde abzuweisen. Das Obergericht des Kantons Schaffhausen verzichtet auf eine Vernehmlassung und einen Antrag.
D. Mit Verfügung vom 15. September 2011 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Nach Art. 83 lit. c BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten u.a. unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt (Ziff. 2). Der Beschwerdeführer macht geltend, dass nach dem Tod seiner Ehefrau Gründe im Sinne von Art. 50 des Bundesgesetzes über die Ausländerinnen und Ausländer (AuG) vom 16. Dezember 2005 (SR 142.20) bestünden, welche ihm einen Anspruch gäben, sich weiterhin in der Schweiz aufzuhalten. Er verfügt somit über einen potentiellen Anspruch (BGE 136 II 177 E. 1.1 S. 179); ob tatsächlich solche Gründe vorliegen, bildet Gegenstand der materiellen Beurteilung. Die Sachentscheidvoraussetzungen sind erfüllt (vgl. Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Abs. 2, Art. 89 sowie 100 BGG). Auf die Beschwerde ist grundsätzlich einzutreten.
Nicht einzutreten ist allerdings auf den Antrag, den Beschluss des Regierungsrates sowie die Verfügung des Migrationsamtes aufzuheben: Vor Bundesgericht sind lediglich Entscheide bundesgerichtlicher Vorinstanzen anfechtbar (Art. 86 BGG), welche die unterinstanzlichen Entscheide ersetzen (sog. Devolutiveffekt); diese gelten indes inhaltlich als mitangefochten (vgl. BGE 134 II 142 E. 1.4 S. 144).
1.2 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (BGE 133 II 249 E. 1.4.1 S. 254).
1.3 Das Bundesgericht legt seinem Urteil zudem den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von Art. 95 BGG (Art. 105 Abs. 2 BGG).
2. 2.1 Ausländische Ehegatten von Schweizer Bürgern haben unter Vorbehalt von Art. 51 Abs. 1 AuG Anspruch auf Erteilung und Verlängerung ihrer Aufenthaltsbewilligung, wenn sie mit ihrem Partner zusammenwohnen (Art. 42 Abs. 1 AuG). Die Ehefrau des Beschwerdeführers ist verstorben. Es kann sich daher nur die Frage stellen, ob ihm gestützt auf Art. 50 Abs. 1 lit. a oder lit. b i.V.m. Abs. 2 AuG eine Aufenthaltsbewilligung zu erteilen ist. Ein Anspruch nach Art. 50 Abs. 1 lit. a AuG besteht nicht, da die Ehe weniger als drei Jahre gedauert hat (dazu BGE 137 II 345 E. 3.1.3 S. 347; 136 II 113 E. 3.3.3 S. 119); die voreheliche Beziehung ist auf die Mindestdauer von drei Jahren nicht anzurechnen (vgl. BGE 137 II 1 E. 3.1 S. 3).
2.2 In Art. 50 Abs. 1 lit. b AuG hat der Gesetzgeber den nachehelichen ausländerrechtlichen Härtefall geregelt: Danach besteht nach Auflösung der Ehe oder der Familiengemeinschaft ein Rechtsanspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung für den Fall, dass "wichtige persönliche Gründe" einen "weiteren Aufenthalt in der Schweiz erforderlich machen". Dabei geht es darum, Härtefälle bei der Bewilligungsverlängerung nach der Auflösung der ehelichen Gemeinschaft zu vermeiden (vgl. BGE 137 II 345 E. 3.2.1 S. 348; 136 II 1 E. 5.3 S. 4). Der nacheheliche Härtefall knüpft an den abgeleiteten Anwesenheitsanspruch nach Art. 42 Abs. 1 bzw. Art. 43 Abs. 1 AuG an und ist für Situationen gedacht, in denen die Voraussetzungen des Art. 50 Abs. 1 lit. a AuG nicht erfüllt sind, sei es, dass der Aufenthalt während der Ehe von kürzerer Dauer war oder dass die Integration nicht fortgeschritten ist oder es an beidem fehlt (vgl. BGE 137 II 345 E. 3.2.1 S. 348; 137 II 1 ff., insbes. E. 4.1 S. 7), aber - aufgrund sämtlicher weiterer Umstände - eine Härtefallsituation vorliegt. Dabei handelt es sich nicht um eine Interessenabwägung zwischen Interessen des vom Härtefall Betroffenen und denjenigen des Staates an einer restriktiven Einwanderungspolitik, sondern es geht einzig darum, die unbestimmten Rechtsbegriffe ("wichtige persönliche Gründe", "erforderlich machen") mit Inhalt zu füllen und diese alsdann auf den zu beurteilenden Fall anzuwenden. Im Gegensatz zur Ermessensbewilligung nach Art. 30 Abs. 1 lit. b AuG (vgl. dazu BGE 137 II 345 E. 3.2.1 S. 348) liegt hier eine Anspruchsbewilligung vor und es ist allein von Bedeutung, wie sich die Pflicht des Ausländers, die Schweiz verlassen zu müssen, nach der wie auch immer erfolgten Auflösung der Ehe auf seine persönliche Situation auswirkt (BGE 137 II 345 E. 3.2.1 S. 348). Der ursprünglich vom schweizerischen bzw. niedergelassenen Ehepartner abgeleitete Bewilligungsanspruch soll wegen der Ausnahmesituation als eigenständiger Bewilligungsanspruch fortgeführt werden.
2.3 Die "wichtigen persönlichen Gründe" nach Art. 50 Abs. 1 lit. b AuG müssen den weiteren Aufenthalt "erforderlich" machen. Art. 50 Abs. 2 AuG gibt Hinweise dazu, was als wichtiger persönlicher Grund zu gelten hat: So namentlich wenn die Ehegattin oder der Ehegatte Opfer ehelicher Gewalt wurden oder die soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheint (vgl. 2C_376/2010 vom 18. August 2010 E. 6.3). Im letzteren Fall ist etwa an geschiedene Frauen (mit Kindern) zu denken, welche in ein patriarchalisches Gesellschaftssystem zurückkehren und dort wegen ihres Status als Geschiedene mit Diskriminierungen oder Ächtungen rechnen müssen. Ein weiterer Aufenthalt in der Schweiz kann sich auch dann als erforderlich erweisen, wenn der in der Schweiz lebende Ehepartner verstorben ist (vgl. Botschaft zum Bundesgesetz über die Ausländerinnen und Ausländer vom 8. März 2002, BBl 2002 3709, 3754; BGE 137 II 1 E. 3.1 S. 3 ff., E. 4.1 S. 7 f.; Urteil 2C_149/2011 vom 26. September 2011 E. 2). Wie sich insbesondere aus den beiden Passagen "erforderlich machen" und "wichtigen [...] Grund" des Art. 50 Abs. 1 lit. b AuG ergibt, bildet dabei nicht jede vom Gesetz oder in der Botschaft aufgeführte Konstellation Anlass, eine Aufenthaltsbewilligung zu verlängern; notwendig ist eine aufgrund des Einzelfalls zu eruierende Gewichtigkeit (BGE 136 II 1 E. 4.1 S. 7): bei der elterlichen Gewalt bedarf es einer gewissen Intensität (vgl. BGE 136 II 1 E. 5.3 f. S. 4 f.; Urteil 2C_590/2010 vom 29. November 2010 E. 2.5.2; 2C_155/2011 vom 7. Juli 2011 E. 4.3), die soziale Wiedereingliederung muss stark gefährdet (2C_376/2010 vom 18. August 2010 E. 6.3.1) erscheinen. Dies gilt auch für den Tod des schweizerischen oder niederlassungsberechtigten Ehepartners, von dem die Aufenthaltsberechtigung abgeleitet wird (vgl. BGE 136 II 1 E. 3 S. 3 ff.; 2C_149/2011 vom 26. September 2011 E. 2.4; 2C_266/2009 vom 2. Februar 2010 E. 3.3 und 5.2); auch hier müssen wichtige persönliche Gründe vorliegen, die den weiteren Aufenthalt erforderlich machen (siehe dazu folgende Beispiele, wo der Tod des Ehepartners einen weiteren Aufenthalt gerade nicht erforderlich machte: BGE 137 II 1, 2C_781/2010 vom 16. Februar 2011).
Da es um nacheheliche Härtefälle geht, d.h. an die ursprünglich aus der Ehe abgeleitete Bewilligung angeknüpft wird, sind die Umstände, die zum Abschluss bzw. zur Auflösung der Ehe geführt haben, von Bedeutung. Ein persönlicher, nachehelicher Härtefall setzt aufgrund der konkreten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben der ausländischen Person voraus, die mit ihrer Lebenssituation nach dem Dahinfallen der gestützt auf Art. 42 Abs. 1 bzw. Art. 43 Abs. 1 AuG abgeleiteten Anwesenheitsberechtigung verbunden sind.
2.4 Stellt somit das Ableben der Schweizer Ehepartnerin nicht ohne Weiteres einen Härtefallgrund dar, sind die gesamten Umstände des vorliegenden Einzelfalls in Betracht zu ziehen (dazu auch Urteil 2C_149/2011 vom 26. September 2011 E. 2.4, 2C_266/2009 vom 2. Februar 2010 E. 5.2). Diese vermögen hier einen wichtigen persönlichen Grund (knapp) nicht zu begründen: Der Beschwerdeführer und seine verstorbene Ehefrau führten bereits während rund sieben Jahren eine Fernbeziehung, wobei die verstorbene Ehefrau jährlich mehrmals nach Tunesien reiste. Der Beschwerdeführer besuchte - wie sich aus den Akten ergibt (Schreiben des Beschwerdeführers vom 29.11.2007 an das Migrationsamt) - indes seine damalige Freundin und zukünftige Ehefrau nie in der Schweiz; insofern hat er erst mit der Einreise in die Schweiz im April 2007 Beziehungen zur Schweiz aufgebaut, welche im Zeitpunkt des Tods der Ehefrau lediglich fünf Monate betrugen. Zwar ist bei der Frage, ob wichtige persönliche Gründe einen Aufenthalt in der Schweiz erforderlich machen, grundsätzlich nicht relevant, ob der Beschwerdeführer integriert ist, ist Art. 50 Abs. 1 lit. b i.V.m. Abs. 2 AuG gerade für Situationen gedacht, in denen die Voraussetzungen des Art. 50 Abs. 1 lit. a AuG nicht erfüllt sind, doch verlangt aus äusländerrechtlicher Sicht ein Bleiberecht in der Schweiz grundsätzlich eine minimale Beziehung zur Schweiz. Mit lediglich fünf Monaten ist diese nicht gegeben. Daran ändert auch nichts, dass der Beschwerdeführer ein grundrechtlich geschütztes Interesse hat, die Totenfürsorge vornehmen zu können (dazu BGE 129 I 173 E. 5.1 S. 181), wozu ein regelmässiger Grabbesuch und das gedankliche Gespräch mit der verstorbenen Ehefrau an deren letzter Ruhestätte gehört (BGE 129 I 173 E. 5.2 S. 182). Der regelmässige Grabbesuch wird ihm indes nicht verunmöglicht, höchstens erschwert. Die Pflege des Andenkens an die Ehefrau ist zudem nicht nur auf dem Friedhof möglich, sondern auch auf andere Weise und mit Hilfe von Erinnerungsstücken (vgl. BGE 129 I 173 E. 5.2 S. 182 f.). Sofern keine persönlichen wichtigen Gründe, welche einen Aufenthalt in der Schweiz erforderlich machen, gegeben sind, ist die Einschränkung durch das im AuG verwirklichte öffentliche Interesse gedeckt und verhältnismässig. Daneben ist auch der Kontakt zu seiner Schwiegermutter nicht derart, dass daraus ein wichtiger persönlicher Grund im Sinne von Art. 50 Abs. 1 lit. b i.V.m. Abs. 2 AuG resultieren würde. Schliesslich ist - auch wenn in der Zwischenzeit sich die politische Landschaft in Tunesien (wohl zu einer freieren Gesellschaft) geändert hat - nicht einzusehen, inwiefern seine soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheinen soll. Zwar ist ein Neuanfang selbst in seinem Heimatland nach einer Abwesenheit von einigen Jahren gewiss nicht einfach. Doch der Beschwerdeführer ist in Tunesien aufgewachsen und lebte dort bis zu seinem 37. Altersjahr, hat dort seine Ausbildung und seinen Beruf ausgeübt und kennt somit die sozialen Gepflogenheiten. Insgesamt erscheint eine soziale Wiedereingliederung in Tunesien nicht als gefährdet. Bei der Anwendung von Art. 50 Abs. 1 lit. b AuG ist entscheidend, ob die persönliche, berufliche und familiäre Wiedereingliederung der betroffenen ausländischen Person bei einer Rückkehr in ihre Heimat als stark gefährdet zu gelten hat und nicht, ob ein Leben in der Schweiz einfacher wäre und von ihr bevorzugt würde (BGE 137 II 345 E. 3.2.3 S. 350). Insofern ist auch der Einwand unbehelflich, die Vorinstanz habe das rechtliche Gehör verletzt, indem sie ohne Abklärung davon ausgegangen sei, dass der Beschwerdeführer seine in der Schweiz gesammelten Erfahrungen als Metallarbeiter in Tunesien wirtschaftlich bzw. beruflich verwerten könne. Diese von der Vorinstanz getroffene Annahme und der daraus folgende hypothetische Geschehensablauf sind keine entscheidwesentlichen Sachverhaltselemente. Massgebend ist lediglich die soziale Wiedereingliederung in Tunesien; unabhängig von der erwähnten Ausbildung in der Schweiz ist diese nicht gefährdet. Die von der Vorinstanz vorgebrachten Argumente sollten lediglich verdeutlichen, dass dem Beschwerdeführer mit seiner Ausbildung in der Schweiz die Wiedereingliederung in seinem Heimatland allenfalls leichter fallen könnte.
3. Die Beschwerde ist somit abzuweisen, soweit darauf eingetreten werden kann.
Ob es sich beim dritten Antrag des Beschwerdeführers um ein Gesuch um Gewährung der unentgeltlichen Rechtspflege vor Bundesgericht handelt, kann offengelassen werden; in jedem Fall fehlt eine rechtsgenügliche Begründung (Art. 42 Abs. 2 BGG; vgl. BERNARD CORBOZ, in: derselbe/Wurzburger/Ferrari/Frésard/Aubry Girardin, Commentaire de la LTF, 2009, N 20 ad Art. 64). Dem Verfahrensausgang entsprechend hat deshalb der unterliegende Beschwerdeführer die bundesgerichtlichen Kosten zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten, dem Obergericht des Kantons Schaffhausen und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 21. Februar 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Errass