Sachverhalt:
A. Die 1953 geborene S._ unterzog sich am 30. Dezember 2008 im Krankenhaus B._ gestützt auf die Diagnose "absolute Schultersteife rechts; Tendinitis calc. omi permagna dext." einer Schulteroperation (Operationsbericht und Kurzarztbrief Krankenhaus B._, je vom 31. Dezember 2008). Im Januar 2009 wurde festgestellt, dass S._ an einer Luxation der rechten Schulter litt. Im Krankenhaus B._ wurde am 28. (evtl. 29.) Januar 2009 zunächst versucht, die Schulter in Narkose zu repositionieren, was nicht gelang. Beim Repositionsversuch kam es am rechten Unterarm zu einem Bruch an Radius und Ulna im Schaftbereich. Hierauf erfolgte am 29. Januar 2009 eine offene Reposition und Stabilisierungsoperation an der Schulter. Zudem wurde der Unterarm verplattet (Operationsbericht und Kurzarztbrief Krankenhaus B._ vom 5. resp. 6. Februar 2009). Im November 2009 meldete S._ der AXA Versicherungen AG (nachfolgend: AXA), bei der sie über ihren Arbeitgeber obligatorisch unfallversichert war, das Geschehen vom 28. Januar 2009 als Unfall. Die AXA verneinte mit Verfügung vom 31. März 2010 einen Leistungsanspruch aus der obligatorischen Unfallversicherung mit der Begründung, beim Geschehen vom 28. Januar 2009 handle es sich nicht um einen Unfall im Rechtssinne. S._ ersuchte die AXA zunächst um wiedererwägungsweise Aufhebung der Verfügung vom 31. März 2010. Sie erwähnte hiebei ein medizinisches Gutachten des Prof. Dr. med. L._, Facharzt für Unfallchirurgie und Sporttraumatologie, vom 11. November 2009. Dieses stellte sie dem Unfallversicherer in der Folge auf dessen Aufforderung hin zu. Am 12. April 2010 beauftragte die AXA Dr. med. C._, Orthopädie, welcher sich bereits am 14. Januar 2010 beratend geäussert hatte, mit der Erstellung einer medizinischen Expertise. Diese wurde am 17. Mai 2010 erstattet. Zwischenzeitlich hatte die AXA der Versicherten am 26. April 2010 mitgeteilt, an der Verfügung vom 31. März 2010 werde festgehalten. S._ erhob Einsprache und beantragte, es sei das Ereignis vom 28. Januar 2009 als Unfall zu bewerten und die Verfügung vom 31. März 2010 entsprechend abzuändern. Die AXA holte eine Stellungnahme ihres beratenden Arztes Dr. med. H._, Spezialarzt FMH Chirurgie, vom 15. Juni 2010 ein und wies die Einsprache mit Entscheid vom 9. August 2010 ab.
B. Hiegegen reichte S._ Beschwerde ein, wobei sie neu geltend machte, das Auskugeln des rechten Schultergelenks habe sich beim Eingriff vom 30. Dezember 2008 ereignet und stelle ebenfalls einen Unfall dar. Das Versicherungsgericht des Kantons St. Gallen gewährte ihr die unentgeltliche Rechtspflege und wies die Beschwerde mit Entscheid vom 9. August 2011 ab.
C. S._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der vorinstanzliche Entscheid sei aufzuheben und es seien aufgrund des Unfalles vom 28. Januar 2009 sämtliche Leistungen nach UVG zuzusprechen. Weiter wird um Gewährung der unentgeltlichen Rechtspflege im Sinne der Befreiung von Gerichtskosten für das letztinstanzliche Verfahren ersucht.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.2 S. 252 mit Hinweisen). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (vgl. <ref-ruling> E. 1.4.1 S. 254; Urteil 8C_934/2008 vom 17. März 2009 E. 1 mit Hinweisen, nicht publ. in: <ref-ruling>, aber in: SVR 2009 UV Nr. 35 S. 120).
Im Beschwerdeverfahren um die Zusprechung oder Verweigerung von Geldleistungen der Militär- oder Unfallversicherung ist das Bundesgericht nicht an die vorinstanzliche Feststellung des rechtserheblichen Sachverhalts gebunden (Art. 97 Abs. 2 und Art. 105 Abs. 3 BGG).
2. Streitig und zu prüfen ist, ob sich aus dem am 28. Januar 2009 erfolglos durchgeführten Repositionsversuch an der Schulter mit Bruch beider Unterarmknochen rechts ein Leistungsanspruch aus der obligatorischen Unfallversicherung ergibt.
3. Gemäss <ref-law> werden, soweit das UVG nichts anderes bestimmt, die Versicherungsleistungen bei Berufsunfällen, Nichtberufsunfällen und Berufskrankheiten gewährt (Abs. 1). Der Bundesrat kann Körperschädigungen, die den Folgen eines Unfalles ähnlich sind, in die Versicherung einbeziehen (Abs. 2). Die Versicherung erbringt ihre Leistungen ausserdem für Schädigungen, die dem Verunfallten bei der Heilbehandlung im Sinne von <ref-law> zugefügt werden (Abs. 3).
4. Eine Berufskrankheit und eine unfallähnliche Körperschädigung im Sinne von Art. 6 Abs. 1 und 2 UVG stehen hier nicht zur Diskussion.
5. Die Regelung betreffend Schädigung bei Heilbehandlung gemäss <ref-law> kommt nur zur Anwendung, wenn die fragliche medizinische Massnahme der Behandlung einer Unfallfolge diente (vgl. <ref-law>; <ref-ruling> E. 1c S. 172; <ref-ruling> E. 3b S. 292 f.).
Die Beschwerdeführerin macht geltend, dies treffe hier zu. Zu der Luxation der Schulter sei es beim vorangegangenen operativen Eingriff vom 30. Dezember 2008 gekommen. Dabei habe es sich um einen Unfall gehandelt.
Wie das kantonale Gericht aber in einlässlicher und zutreffender Würdigung der medizinischen Akten erkannt hat, ist nicht mit dem erforderlichen Beweisgrad der überwiegenden Wahrscheinlichkeit (<ref-ruling> E. 5b S. 360) nachgewiesen, dass die Schulterverrenkung tatsächlich beim Eingriff vom 30. Dezember 2008 entstanden ist. Damit lässt sich ein Leistungsanspruch für die am 28. Januar 2009 eingetretene Schädigung auch nicht auf <ref-law> stützen. Es kann offen bleiben, ob der Eingriff vom 30. Oktober 2008 als Unfall zu qualifizieren wäre (vgl. dazu nachfolgend E. 6.1), wenn er nachgewiesenermassen zur Schulterluxation geführt hätte.
6. Ein Leistungsanspruch aufgrund der Unterarmbrüche kann sich demnach nur ergeben, wenn die Behandlung vom 28. Januar 2009 selber einen Unfall im Sinne von <ref-law> darstellt.
6.1 Als Unfall gilt gemäss <ref-law> die plötzliche, nicht beabsichtigte schädigende Einwirkung eines ungewöhnlichen äusseren Faktors auf den menschlichen Körper, die eine Beeinträchtigung der körperlichen, geistigen oder psychischen Gesundheit oder den Tod zur Folge hat.
Im vorliegenden Fall ist das Erfordernis der Ungewöhnlichkeit des äusseren Faktors umstritten. Dieses Erfordernis war bereits in den vor Inkrafttreten des ATSG am 1. Januar 2003 gültig gewesenen Bestimmungen zum Unfallbegriff (aArt. 9 Abs. 1 UVV; Art. 2 Abs. 2 aKUVG) enthalten (vgl. <ref-ruling> E. 1a S. 38). Die dazu ergangene Rechtsprechung, insbesondere zur Beurteilung der Ungewöhnlichkeit im Zusammenhang mit medizinischen Eingriffen, gilt weiterhin.
Danach bezieht sich das Begriffsmerkmal der Ungewöhnlichkeit nicht auf die Wirkung des äusseren Faktors, sondern nur auf diesen selber. Ohne Belang für die Prüfung der Ungewöhnlichkeit ist somit, dass der äussere Faktor allenfalls schwerwiegende, unerwartete Folgen nach sich zog. Der äussere Faktor ist ungewöhnlich, wenn er den Rahmen des im jeweiligen Lebensbereich Alltäglichen oder Üblichen überschreitet. Ausschlaggebend ist also, dass sich der äussere Faktor vom Normalmass an Umwelteinwirkungen auf den menschlichen Körper abhebt. Ungewöhnliche Auswirkungen allein begründen keine Ungewöhnlichkeit (<ref-ruling> E. 4.3.1 S. 79 f. mit Hinweis). Die Grundsätze zum Begriffsmerkmal der Ungewöhnlichkeit gelten auch, wenn zu beurteilen ist, ob ein ärztlicher Eingriff den gesetzlichen Unfallbegriff erfüllt. Die Frage, ob eine ärztliche Vorkehr als mehr oder weniger ungewöhnlicher äusserer Faktor zu betrachten sei, ist auf Grund objektiver medizinischer Kriterien zu beantworten. Sie ist nur dann zu bejahen, wenn die ärztliche Vorkehr als solche den Charakter des ungewöhnlichen äusseren Faktors aufweist; denn das Merkmal der Aussergewöhnlichkeit bezieht sich nach der Definition des Unfallbegriffs nicht auf die Wirkungen des äusseren Faktors, sondern allein auf diesen selber. Nach der Praxis ist es mit dem Erfordernis der Aussergewöhnlichkeit streng zu nehmen, wenn eine medizinische Massnahme in Frage steht. Damit eine solche Vorkehr als ungewöhnlicher äusserer Faktor qualifiziert werden kann, muss ihre Vornahme unter den jeweils gegebenen Umständen vom medizinisch Üblichen ganz erheblich abweichen und zudem, objektiv betrachtet, entsprechend grosse Risiken in sich schliessen. Im Rahmen einer Krankheitsbehandlung, für welche die Unfallversicherung nicht leistungspflichtig ist, kann ein Behandlungsfehler ausnahmsweise den Unfallbegriff erfüllen, nämlich wenn es sich um grobe und ausserordentliche Verwechslungen und Ungeschicklichkeiten oder sogar um absichtliche Schädigungen handelt, mit denen niemand rechnet noch zu rechnen braucht (<ref-ruling> E. 1b 38; <ref-ruling> E. 2b S. 284, je mit Hinweisen; vgl. aus jüngerer Zeit: SVR 2009 UV Nr. 47 S. 166, 8C_234/2009 E. 3.2; 2008 UV Nr. 22 S. 82, 8C_526/2007 E. 3).
6.2 Das kantonale Gericht ist zum Ergebnis gelangt, der Repositionsversuch vom 28. Januar 2009 sei lege artis, ohne Behandlungsfehler, erfolgt.
6.2.1 Diese Beurteilung beruht auf einer sorgfältigen und zutreffenden Würdigung der medizinischen Akten. Hervorzuheben ist, dass Prof. Dr. med. L._ im von der Versicherten aufgelegten Gutachten vom 11. November 2009 ausführt, die primär geplante Reposition der Schulter sei ohne Anästhesie nicht möglich gewesen. Die Reposition sei so in einer Kurznarkose fortgesetzt worden, "wobei es im Rahmen der diesbezüglichen Repositionsmanöver in typischer Weise, also in kunstgerechter Technik, mit Zug Abduktion und Aussenrotation und Unterstützung (Hypomochleon) der Achsel - dabei wird der Unterarm mit Rechtwinkelstellung im Ellbogengelenk gefasst - zum Bruch des Unterarms kam". An anderer Stelle im Gutachten hält der Experte fest, nach Erkennen der Schulterverrenkung sei sofort agiert/reagiert worden und sei es im Rahmen dieser kunstgerechten Repositionsmanöver zu einem Bruch des Unterarms gekommen.
Der fachärztliche Experte geht mithin ausdrücklich von einem üblichen und kunstgerechten Vorgehen bei den Repositionsmassnahmen vom 28. Januar 2008 aus. Auf diese - im Gutachten überzeugend begründete - fachärztliche Beurteilung ist mit der Vorinstanz abzustellen.
6.2.2 Was die Versicherte vorbringt, rechtfertigt kein anderes Ergebnis. Der von ihr postulierte Behandlungsfehler kann verlässlich ausgeschlossen werden, zumal die Einschätzung des Prof. Dr. med. L._ mit den übrigen medizinischen Akten übereinstimmt: Dr. med. C._ vertritt in der Stellungnahme vom 14. Januar 2010 die Auffassung, es liege kein Fehlverhalten der Ärzte vor, und stellt in der Expertise vom 17. Mai 2010 die entsprechende Feststellung in dem ihm zwischenzeitlich bekannt gewordenen Gutachtens L._ nicht in Frage. Auch Dr. med. H._ verneint in der Stellungnahme vom 15. Juni 2010 eine Fehlbehandlung; den Ausführungen des Prof. Dr. med. L._ könne vollumfänglich gefolgt werden. Den übrigen medizinischen Akten lassen sich ebenfalls keine Anhaltspunkte für einen Behandlungsfehler entnehmen. Das gilt auch für die von einem österreichischen Pensionsversicherer eingeholte Expertise des Dr. med. M._, Facharzt für Orthopädie und orthopädische Chirurgie, und für das - im Übrigen ohnehin erst letztinstanzlich aufgelegte und daher als unzulässiges Novum nicht zu berücksichtigende (<ref-law>) - Gutachten des Prof. Dr. med. J._, Facharzt für Unfallchirurgie. Abgesehen davon wäre nicht jeder Behandlungsfehler auch als Heilbehandlungsunfall zu qualifizieren (Urteil U 135/06 vom 15. Dezember 2006 E. 2.2 mit Hinweis; E. 6.1 hievor, auch zum Folgenden). Es bedürfte hiefür vielmehr eines groben und ausserordentlichen oder absichtlichen Behandlungsfehlers. Ein solcher kann hier erst recht ausgeschlossen werden. Daran ändert nichts, wenn, wie geltend gemacht wird, an der erfolglosen Reposition der Schulter drei Männer mitwirkten, zumal Prof. Dr. med. L._ im Gutachten vom 11. November 2009 auch ausführt, eine solche verhakte Schulterverrenkung mache ein entsprechendes kraftvolles Repositionsmanöver erforderlich. Sodann ist der Bruch gleich beider Knochen des Unterarms bei einer ärztlichen Behandlung zwar sicher eindrücklich und nicht alltäglich. Die Wirkung eines Eingriffs gestattet aber nicht den Schluss, dieser sei ungewöhnlich im Sinne des Unfallbegriffs (E. 6.1 hievor). Massgebend ist, dass die durchgeführten Behandlungsmassnahmen von fachärztlicher Seite in Kenntnis der dabei eingetretenen Schädigung überzeugend als kunstgerecht beurteilt wurden. Die Beschwerdeführerin macht weiter geltend, sie sei über die Umstände der beabsichtigten Schulterreposition ungenügend informiert worden und habe kein entsprechendes Einverständnis geäussert. Das ist indessen nicht Thema des vorliegenden Prozesses und vermöchte auch nicht, die vorgenommene Behandlung als ungewöhnlich erscheinen zu lassen. Es bleibt somit dabei, dass Versicherer und Vorinstanz einen Unfall und damit einen Leistungsanspruch aus der obligatorischen Unfallversicherung zu Recht verneint haben. Dies führt zur Abweisung der Beschwerde.
7. Die Gerichtskosten werden der unterliegenden Beschwerdeführerin auferlegt (<ref-law>). Dem Gesuch um unentgeltliche Rechtspflege (im Sinne der vorläufigen Befreiung von Gerichtskosten) kann entsprochen werden, da die Bedürftigkeit ausgewiesen ist und die Beschwerde nicht als aussichtslos zu bezeichnen war (<ref-law>). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Der Beschwerdeführerin wird die unentgeltliche Rechtspflege im Sinne der vorläufigen Befreiung von Gerichtskosten gewährt.
3. Die Gerichtskosten von Fr. 750.- werden der Beschwerdeführerin auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Gesundheit schriftlich mitgeteilt.
Luzern, 9. November 2011
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Lanz