Sachverhalt:
A. Mit Verfügung vom 28. April 2006 und Einspracheentscheid vom 6. Oktober 2006 verneinte die IV-Stelle Schaffhausen einen Anspruch des K._ auf eine Invalidenrente mangels eines anspruchsbegründenden Invaliditätsgrades. Mit Verfügung vom 6. Oktober 2006 lehnte die IV-Stelle die Gewährung der unentgeltlichen Rechtspflege für das Einspracheverfahren ab.
B. Der durch Rechtsanwalt Gerold Meier vertretene K._ liess mit Eingabe vom 9. November 2006 beim Obergericht des Kantons Schaffhausen - als kantonales Versicherungsgericht - gegen den Einspracheentscheid Beschwerde erheben und die Zusprechung einer Invalidenrente beantragen. Er liess dabei das Obergericht darum ersuchen, die Akten der IV-Stelle beizuziehen und ihm dann die Gelegenheit zu geben, zu diesen Stellung zu nehmen. Mit Verfügung vom 16. November 2006 teilte das Obergericht dem Anwalt mit, er habe die Akten selber einzuholen. Zudem setzte es ihm Frist bis 18. Dezember 2006, um die Beschwerde zu ergänzen. Bei unbenütztem Fristablauf werde Verzicht auf die Ergänzung des Rechtsmittels angenommen und auf dieses nicht eingetreten. Das Obergericht erstreckte die gesetzte Frist zweimal, zuletzt bis 28. Februar 2007.
Mit Entscheid vom 9. März 2007 trat das Obergericht auf die Beschwerde nicht ein, da diese trotz Androhung der Säumnisfolge innert der angesetzten und erstreckten Frist nicht ergänzt worden sei.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt K._ beantragen, der Entscheid vom 9. März 2007 sei aufzuheben und das Obergericht sei anzuweisen, das Beschwerdeverfahren durchzuführen.
Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.
Erwägungen:
1. Der vorinstanzliche Nichteintretensentscheid stellt einen verfahrensabschliessenden Entscheid dar, gegen den die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen steht (Art. 90 BGG). Auf die Beschwerde ist einzutreten, da auch die übrigen Voraussetzungen hiefür erfüllt sind.
2. Streitig und zu prüfen ist, ob das kantonale Gericht auf die gegen den Einspracheentscheid vom 6. Oktober 2006, mit welchem die IV-Stelle einen Rentenanspruch verneint hat, erhobene Beschwerde zu Recht nicht eingetreten ist. Die ebenfalls am 6. Oktober 2006 ergangene Verfügung, mit der die Verwaltung die Gewährung der unentgeltlichen Verbeiständung verweigert hat, bildete nicht Gegenstand des vorinstanzlichen Verfahrens und bedarf keiner weiteren Erwähnung. Abweichendes wird auch nicht geltend gemacht.
3. Die Vorinstanz begründet ihren Entscheid damit, die Beschwerde sei innert der unter Androhung der Säumnisfolgen angesetzten und erstreckten Frist nicht ergänzt worden. Auf die Beschwerde sei daher in Anwendung von Art. 61 lit. b ATSG in Verbindung mit Art. 40 Abs. 2 des kantonalen Gesetzes über den Rechtsschutz in Verwaltungssachen (Verwaltungsrechtspflegegesetz; nachfolgend: VRG-SH) nicht einzutreten.
Der Beschwerdeführer wendet ein, die im kantonalen Verfahren eingereichte Beschwerde genüge auch ohne Ergänzung den gesetzlichen Anforderungen und sei daher materiell zu beurteilen. Der angefochtene Entscheid sei überspitzt formalistisch und verletze den Grundsatz der rechtsgleichen Behandlung.
4. 4.1 Gemäss Art. 36a VRG-SH behandelt das Obergericht als kantonales Versicherungsgericht unter anderem Beschwerden auf dem Gebiet der eidgenössischen Sozialversicherung (Abs. 1). Für das Verfahren gelten die Vorschriften von Art. 56 - 61 ATSG in Verbindung mit den Art. 38 ff. VRG-SH (Abs. 3). Laut Art. 40 VRG-SH müssen Rechtsmitteleingaben einen Antrag und seine Begründung enthalten (Abs. 1). Genügt eine Rechtsmitteleingabe diesen Anforderungen nicht, so setzt das Obergericht eine angemessene Frist zur Verbesserung an und verbindet damit die Androhung, dass sonst auf das Rechtsmittel nicht eingetreten werde (Abs. 2). Auf ein mit der Rechtsmitteleingabe eingereichtes Gesuch hin kann die Frist zur Begründung angemessen verlängert werden (Abs. 3).
Nach Art. 61 lit. b ATSG muss die Beschwerde eine gedrängte Darstellung des Sachverhaltes, ein Rechtsbegehren und eine kurze Begründung enthalten. Genügt sie diesen Anforderungen nicht, so setzt das Versicherungsgericht der Beschwerde führenden Person eine angemessene Frist zur Verbesserung und verbindet damit die Androhung, dass sonst auf die Beschwerde nicht eingetreten wird.
4.2 Erfüllt eine Beschwerde die gesetzlichen Mindestanforderungen nicht und wird sie innert einer unter Androhung der Säumnisfolgen angesetzten Frist nicht verbessert, ist nach dem Gesagten auf sie nicht einzutreten. Indessen ginge es nicht an, dass das Gericht bei formgerechter Beschwerde deren materielle Beurteilung von einer Ergänzung des Rechtsmittels abhängig macht. Dies käme einer formellen Rechtsverweigerung gleich. Das gilt selbst dann, wenn die Beschwerde führende Person selber die Möglichkeit zur Beschwerdeergänzung gewünscht hat (vgl. Urteil des Eidgenössischen Versicherungsgerichts U 440/99 vom 29. Februar 2000 E. 2).
4.3 Im vorliegenden Fall genügt die beim Obergericht eingereichte Beschwerde den gesetzlichen Mindestanforderungen (E. 4.1 hievor). Im angefochtenen Entscheid wird denn auch mit keinem Wort begründet, inwiefern dies nicht der Fall sein solle. Die übrigen Eintretensvoraussetzungen sind ebenfalls erfüllt. Die Vorinstanz hat daher die Beschwerde materiell zu beurteilen.
5. Das Verfahren ist kostenpflichtig (Art. 65 BGG). Die Gerichtskosten sind der Beschwerdegegnerin als der unterliegenden Partei aufzuerlegen (Art. 66 BGG; zur Kostentragungspflicht der IV-Stellen: Urteil 8C_67/2007 vom 25. September 2007, E. 6 mit Hinweis). Dem Beschwerdeführer steht eine Parteientschädigung zu (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Entscheid des Obergerichts des Kantons Schaffhausen vom 9. März 2007 aufgehoben. Die Sache wird an die Vorinstanz zurückgewiesen, damit sie über die Beschwerde gegen den Einspracheentscheid der IV-Stelle Schaffhausen vom 6. Oktober 2006 materiell entscheide.
2. Die Gerichtskosten von Fr. 500.- werden der IV-Stelle Schaffhausen auferlegt.
3. Die IV-Stelle Schaffhausen hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1500.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Schaffhausen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 8. Januar 2009
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Ursprung Lanz