Sachverhalt: A. Die 1957 geborene S._ erlitt am 22. Juni 1998 bei der Arbeit als Krankenschwester einen Unfall, bei dem sie namentlich den Kopf anschlug. Der zuständige obligatorische Unfallversicherer gewährte Heilbehandlung und richtete Taggeld aus. Mit Wirkung ab 1. August 2005 verneinte er seine Leistungspflicht mit der Begründung, es fehle an einer kausalen Bedeutung des Unfalls vom 22. Juni 1998 für die noch bestehenden Beschwerden. Dies bestätigte das Versicherungsgericht des Kantons St. Gallen mit rechtskräftigem Entscheid vom 10. Oktober 2007. Zwischenzeitlich hatte sich S._ im Mai 2002 erstmals bei der Invalidenversicherung zum Rentenbezug angemeldet und angegeben, an chronischen Nackenschmerzen (cervico-cephales Schmerzsyndrom) durch Distorsion der Halswirbelsäule (HWS) und an einem Lumbovertebralsyndrom zu leiden. Die IV-Stelle des Kantons St. Gallen eröffnete ihr mit Verfügung vom 18. August 2002, das Leistungsbegehren müsse zurzeit abgewiesen werden, da die bei lang dauernder Krankheit zu bestehende einjährige Wartezeit noch nicht abgelaufen sei. Im Januar 2003 beantragte S._ erneut die Zusprechung einer Invalidenrente. Die IV-Stelle zog die Akten des Unfallversicherers bei und holte nebst weiteren medizinischen und erwerblichen Abklärungen ein polydisziplinäres medizinisches Gutachtens des Instituts N._ vom 16. Mai 2007 ein. Sodann gewährte sie der Versicherten vorübergehend Berufsberatung. Mit Verfügung vom 22. September 2008 verneinte die IV-Stelle einen Rentenanspruch mit der Begründung, der Invaliditätsgrad betrage lediglich 30 %. B. Beschwerdeweise beantragte S._, es sei die Verfügung vom 22. September 2008 betreffend Invalidenrente aufzuheben und ab Januar 2003 eine solche zuzusprechen; eventuell "seien vorgängig nochmals die beantragten beruflichen Massnahmen" zu prüfen. Das Versicherungsgericht des Kantons St. Gallen gewährte S._ die unentgeltliche Rechtspflege und wies die Beschwerde mit Entscheid vom 27. Mai 2010 ab. C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der vorinstanzliche Entscheid sowie die Verfügung vom 22. September 2008 betreffend Invalidenrente seien aufzuheben und es sei ihr ab Januar 2003 eine solche zuzusprechen. Zudem wird um Gewährung der unentgeltlichen Rechtspflege für das letztinstanzliche Verfahren ersucht. Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten je auf eine Vernehmlassung.