Sachverhalt: A. Der 1987 geborene D._, angelernter Storenmonteur, zuletzt arbeitslos, wurde am 5. Juni 2005 zusammen mit dem Fahrer des Personenwagens, in welchem er mitfuhr, von einer Sondereinheit der Polizei irrtümlicherweise verhaftet. Er zog sich dabei Verletzungen zu, welche im Spital behandelt wurden. Im Juni 2006 meldete sich D._ bei der Invalidenversicherung zum Rentenbezug an. Er gab an, wegen nach dem Polizeieinsatz aufgetretenen psychischen Beschwerden andauernd voll arbeitsunfähig zu sein. Die IV-Stelle zog die Akten der Schweizerischen Unfallversicherungsanstalt (SUVA) bei, welcher das Ereignis vom 5. Juni 2005 als Unfall gemeldet worden war. Sie holte sodann, nebst weiteren Abklärungen, Berichte der behandelnden Ärzte und ein psychiatrisches Gutachten des Dr. med. F._, Institut Z._, vom 26. Februar 2009 ein. Sodann sah sich die Verwaltung veranlasst, den Versicherten observieren zu lassen, worüber ihr am 9. Oktober und 7. Dezember 2009 sowie 17. Februar und 15. April 2010 Bericht erstattet wurde. Aufgrund der Observationsergebnisse reichte die IV-Stelle am 30. April 2010 Strafklage wegen Verdachts auf Betrug und auf Verletzung von sozialversicherungsrechtlichen Vorschriften gegen den Versicherten ein. Sodann verneinte sie mit Verfügung vom 9. Juli 2010 einen Rentenanspruch mit der Begründung, es habe nie eine Invalidität bestanden. B. Hiegegen erhob D._ Beschwerde an das Verwaltungsgericht des Kantons Schwyz. Dieses holte ergänzende Stellungnahmen des Dr. med. F._ vom 31. Januar und 7. Februar 2011 ein. Sodann sistierte es das Verfahren, bis das von der SUVA in Auftrag gegebene psychiatrische Gutachten der Frau Prof. Dr. med. E._, Chefärztin Forensisch-Psychiatrischer Dienst, Spital X._, vom 23. Februar 2012 vorlag. Mit Entscheid vom 1. Mai 2012 wies das Gericht die Beschwerde ab. C. D._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, es sei der vorinstanzliche Entscheid aufzuheben und die IV-Stelle zu verpflichten, ihm mit Wirkung ab 5. Juni 2005 eine Invalidenrente nach IVG auszurichten; eventuell sei die Sache zur Einholung einer medizinischen Expertise an das kantonale Gericht zurückzuweisen. Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt. Zur unaufgefordert eingereichten Stellungnahme der Vorinstanz hat sich D._ mit Eingabe vom 29. November 2012 vernehmen lassen.