Erwägungen:
1. Der rumänische Staatsangehörige X._, geb. 1977, reiste am 9. Juli 2005 in die Schweiz ein, wo er am 13. Juli 2005 eine Schweizer Bürgerin heiratete. Gestützt auf die Ehe wurde ihm eine Aufenthaltsbewilligung erteilt und zuletzt bis zum 12. Juli 2008 verlängert. Die eheliche Wohngemeinschaft wurde am 1. April 2007 aufgegeben. Gestützt auf diesen Umstand verfügte das Migrationsamt des Kantons Schaffhausen am 18. Dezember 2007, die Aufenthaltsbewilligung werde nicht verlängert; zugleich ordnete es die Wegweisung aus dem Kanton Schaffhausen an. Den gegen diese Verfügung erhobenen Rekurs wies der Regierungsrat des Kantons Schaffhausen mit Beschluss vom 13. Mai 2008 ab; zudem wurde eine neue Frist zur Ausreise (aus der Schweiz) angesetzt. Mit Entscheid vom 17. Februar 2012 wies das Obergericht des Kantons Schaffhausen die gegen den regierungsrätlichen Beschluss erhobene Beschwerde ab.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 21. März 2012 beantragt X._ dem Bundesgericht, der Entscheid des Obergerichts sei vollumfänglich aufzuheben und es sei vom Widerruf der Aufenthaltsbewilligung abzusehen.
Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden.
2. 2.1 Der Beschwerdeführer beantragt, es sei vom Widerruf der Aufenthaltsbewilligung abzusehen. Die Aufenthaltsbewilligung ist durch Zeitablauf am 12. Juli 2008 erloschen. Streitig ist nicht der Widerruf, sondern die Verlängerung bzw. Erteilung der Aufenthaltsbewilligung. Gemäss <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt.
Nach Art. 42 Abs. 1 und 2 BGG haben Rechtsschriften unter anderem die Begehren und deren Begründung zu enthalten; in der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletze. Die Begründung hat sachbezogen zu sein; der Beschwerdeführer muss gezielt auf die für das Ergebnis des angefochtenen Entscheids massgeblichen Erwägungen der Vorinstanz eingehen. Obwohl das Bundesgericht seine Zuständigkeit bzw. die Zulässigkeit eines Rechtsmittels an sich von Amtes wegen und mit freier Kognition prüft (<ref-law>; <ref-ruling> E. 3 S. 499 mit Hinweisen), beschlägt die der Beschwerde führenden Partei obliegende Begründungspflicht auch die Eintretensvoraussetzungen, wenn die Zulässigkeit eines Rechtsmittels nicht ohne Weiteres feststeht (vgl. <ref-ruling> E. 2.2.3 S. 48; <ref-ruling> E. 1.1 S. 251, 353 E. 1 S. 356, 400 E. 2 S. 404). Die für deren Vorliegen massgeblichen Aspekte müssen diesfalls aufgezeigt und das Bestehen eines Anspruchs muss in vertretbarer Weise geltend gemacht werden.
2.2 Ein Bewilligungsanspruch liesse sich zunächst aus dem Umstand ableiten, dass der Beschwerdeführer mit einer Schweizer Bürgerin verheiratet ist bzw. zumindest bis vor Kurzem verheiratet war. Das Obergericht hat sowohl anhand des alten (Art. 7 ANAG; E. 3 des angefochtenen Entscheids) wie auch des neuen Rechts (namentlich Art. 42 Abs. 1 und Art. 50 Abs. 1 lit. a und lit. b AuG; E. 4 des angefochtenen Entscheids) geprüft, ob dem Beschwerdeführer die Bewilligung unter diesem Aspekt zu verlängern wäre. Die Beschwerdeschrift lässt eine Auseinandersetzung mit den vorinstanzlichen Erwägungen zu einer Anspruchsbewilligung nach Landesrecht vermissen, und es fehlt diesbezüglich an einer den Anforderungen von <ref-law> genügenden Begründung. Was E. 5 des angefochtenen Entscheids betrifft, geht es um eine Bewilligungserteilung nach freiem Ermessen; diesbezüglich fehlt es an einem Rechtsanspruch und ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten von vornherein unzulässig.
Der Beschwerdeführer hat es unterlassen, das Bestehen eines Bewilligungsanspruchs nach Landesrecht in vertretbarer Weise geltend zu machen bzw. aufzuzeigen, dass bzw. inwiefern das Obergericht mit der Anwendung der landesrechtlichen Anspruchsnormen schweizerisches Recht verletzt habe.
Der Beschwerdeführer hat es unterlassen, das Bestehen eines Bewilligungsanspruchs nach Landesrecht in vertretbarer Weise geltend zu machen bzw. aufzuzeigen, dass bzw. inwiefern das Obergericht mit der Anwendung der landesrechtlichen Anspruchsnormen schweizerisches Recht verletzt habe.
2.3 2.3.1 Der Beschwerdeführer ist rumänischer Staatsangehöriger. Es stellt sich die Frage, ob er sich auf die Anspruchsbestimmungen des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (Freizügigkeitsabkommen, FZA; SR 0.142.112.681) berufen kann, das gestützt auf das Protokoll vom 27. Mai 2008 zum Freizügigkeitsabkommen im Hinblick auf die Aufnahme der Republik Bulgarien und Rumänien als Vertragsparteien infolge ihres Beitritts zur Europäischen Union (Protokoll II; SR 0.142.112.681.1) seit 1. Juni 2009 grundsätzlich auf bulgarische und rumänische Staatsangehörige zur Anwendung kommt. Diese unterstehen zwar heute noch den Übergangsmassnahmen (namentlich hinsichtlich Kontingentierung und Inländervorrang) gemäss den durch Art. 2 des Protokolls eingefügten Art. 10 Abs. 1b und Abs. 2b FZA, deren Anwendbarkeit bis zum 31. Mai 2014 verlängert worden ist (diesbezügliche Mitteilung der Schweiz vom 27. Mai 2011 an den durch das Freizügigkeitsabkommen eingesetzten Gemischten Ausschuss Schweiz -EU [AS 2011 4127]). Dies ändert nichts am grundsätzlichen Bestehen eines den Weg zur Beschwerde in öffentlich-rechtlichen Angelegenheiten öffnenden Bewilligungsanspruchs (Urteil 2C_217/2009 vom 11. September 2009 E. 1.3). In dieser Hinsicht wäre die Beschwerde in öffentlich-rechtlichen Angelegenheiten an sich zulässig.
2.3.2 Das Obergericht hat auf die Problematik allerdings nur unter dem Aspekt Bezug genommen, dass der Beschwerdeführer zum Zeitpunkt des Inkrafttretens der Ausdehnung des Freizügigkeitsabkommens auf Bulgarien und Rumänien über keine Aufenthaltsbewilligung mehr verfügte, so dass jedenfalls nicht von einer automatischen Verlängerung der Bewilligung nach diesem Abkommen bzw. dem Protokoll II auszugehen sei und folglich der Anspruch auf Bewilligung gestützt auf die Ehe mit einer Schweizerin materiell geprüft werden müsse. Stellen würde sich allerdings zusätzlich die Frage, ob der Aufenthalt des Beschwerdeführers, der offenbar erwerbstätig war und ist, gestützt auf das Freizügigkeitsabkommen, wenn auch unter Berücksichtigung der arbeitsmarktbezogenen Bedingungen gemäss Protokoll II, geregelt werden könnte. Das Obergericht hat von einer entsprechenden Prüfung abgesehen. Es scheint der Auffassung zu sein, dass darüber in einem eigenständigen Verfahren zu befinden sei. Der Beschwerdeführer setzt sich hiermit nicht auseinander; soweit die Beschwerde in öffentlich-rechtlichen Angelegenheiten unter dem Aspekt des Freizügigkeitsabkommens zulässig wäre, fehlt es an einer hinreichenden, den Anforderungen von <ref-law> genügenden Begründung.
2.4 Auf die Beschwerde ist mit Entscheid des Einzelrichters im vereinfachten Verfahren nach <ref-law> nicht einzutreten.
2.5 Die Gerichtskosten (<ref-law>) sind entsprechend dem Verfahrensausgang dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 erster Satz BGG).

Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten, dem Obergericht des Kantons Schaffhausen und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 23. März 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller