Sachverhalt:
A.
A._ (geb. 1962) und B._ (geb. 1972) sind die Eltern von C._ (geb. 2006). Seit dem Jahr 2008 leben sie getrennt. Die elterliche Sorge über C._ steht seit der Geburt der Mutter zu.
Seit Ende 2013 streiten sich die Eltern vor der Kindes- und Erwachsenenschutzbehörde U._ (nachfolgend KESB) um das Besuchsrecht. Mit Beschluss vom 10. Juni 2014 installierte die KESB eine Erziehungsbeistandschaft, wobei der vor der Behörde ausgetragene Streit fortdauert.
B.
Mit Eingabe vom 24. Februar 2015 beantragte der Vater bei der KESB die Erteilung der gemeinsamen elterlichen Sorge über C._. Die Beiständin verlangte eine sozialpädagogische Familienbegleitung und die Mutter ein psychologisch-psychiatrisches Gutachten und bis zu dessen Vorliegen die superprovisorische Sistierung des Besuchsrechts.
Mit Zwischenverfügung vom 24. April 2015 wies die KESB den Sistierungsantrag ab und hielt die Mutter superprovisorisch zu strafbewehrter Umsetzung des Besuchsrechts an.
Mit Beschluss vom 5. Mai 2015 übertrug die KESB den Eltern gestützt auf <ref-law> i.V.m. <ref-law> die gemeinsame elterliche Sorge.
Die hiergegen erhobene Beschwerde der Mutter wies das Verwaltungsgericht des Kantons Schwyz mit Entscheid vom 18. November 2015 ab.
Mit Urteil vom 28. April 2016 hiess das Bundesgericht die Beschwerde der Mutter dahingehend gut, dass es die Sache zur Anhörung des Kindes an das Verwaltungsgericht zurückwies; in der Sache selbst äusserte sich das Bundesgericht nicht (Verfahren 5A_2/2016).
In der Folge setzte das Verwaltungsgericht Rechtsanwältin D._ als Kindesvertreterin ein.
Am 24. Juni 2016 hielt A._ in einer schriftlichen Vollmacht fest, sie bevollmächtige E._, das Kind als Vertrauensperson an die Anhörung zu begleiten.
Am 28. Juni 2016 wurde C._ von der urteilenden Kammer des Verwaltungsgerichts in Anwesenheit der Kindesvertreterin und von E._ angehört; C._ und E._ erhielten Gelegenheit, zum Protokoll nachträglich Stellung zu nehmen, was sie mit diversen Eingaben taten.
Am 12. Juli 2016 wurde das im Auftrag der KESB erstellte Gutachten von Dr. phil. F._ vom 7. Juni 2016 zum Besuchsrecht und der Erziehungsfähigkeit der Eltern zu den Akten gegeben; diesbezüglich wurde den Parteien das rechtliche Gehör gewährt.
Mit Entscheid vom 28. September 2016 wies das Verwaltungsgericht die Beschwerde von A._ ab.
C.
Gegen diesen Entscheid hat A._ am 4. November 2016 eine Beschwerde erhoben mit den Begehren um dessen Aufhebung und Absehen von der Zuteilung der gemeinsamen Sorge im jetzigen Zeitpunkt. Ferner verlangt sie die unentgeltliche Rechtspflege. Nach Eingang der Stellungnahmen des Verwaltungsgerichts und der KESB (die Gegenpartei hat keine Stellungnahme eingereicht) wurde der Beschwerde mit Präsidialverfügung vom 28. November 2016 antragsgemäss die aufschiebende Wirkung erteilt. In der Sache selbst wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1.
Angefochten ist ein kantonal letztinstanzlicher Entscheid über eine auf <ref-law> i.V.m. <ref-law> gestützte Erteilung der gemeinsamen elterlichen Sorge; die Beschwerde in Zivilsachen ist gegeben (Art. 72 Abs. 1, Art. 75 Abs. 1 und Art. 90 BGG).
2.
Vorliegend geht es um die Frage, ob dem Vater die Mitsorge zu geben oder die aufgrund der früheren Rechtslage bestehende mütterliche Alleinsorge zu belassen ist.
Aufgrund der am 1. Juli 2014 in Kraft getretenen Gesetzesnovelle (AS 2014 357) bildet die gemeinsame elterliche Sorge den Grundsatz und die Alleinzuteilung derselben bzw. die Belassung der alleinigen elterlichen Sorge die eng begrenzte Ausnahme.
In seiner Rechtsprechung hat das Bundesgericht Kriterien aufgestellt, die erfüllt sein müssen, um ein Abweichen vom Grundsatz des gemeinsamen elterlichen Sorgerechts zu rechtfertigen (<ref-ruling> E. 4.6 und 4.7 S. 478; <ref-ruling> E. 3.3 S. 5; <ref-ruling> E. 3 S. 63; <ref-ruling>97 E. 3.5 und 3.7 S. 199; vgl. sodann Rechtsprechungsübersicht in den Urteilen 5A_81/2016 E. 5, 5A_89/2016 E. 4 und 5A_186/2016 E. 4, je vom 2. Mai 2016). Die Voraussetzungen können insbesondere bei einem schwerwiegenden elterlichen Dauerkonflikt oder bei anhaltender Kommunikationsunfähigkeit erfüllt sein. Dabei muss sich der Konflikt oder die Kommunikationsunfähigkeit auf die Kinderbelange als Ganzes beziehen; ein Konflikt oder eine Kommunikationsunfähigkeit hinsichtlich einzelner Fragen genügt nicht und schon gar nicht genügt, wenn sich der Streit ausschliesslich um die Regelung des Sorgerechts dreht. Ausserdem muss sich der Dauerkonflikt und/oder die Kommunikationsunfähigkeit negativ auf das Kindeswohl auswirken. Die abstrakte Feststellung, das Kind befinde sich in einem Loyalitätskonflikt, genügt nicht, denn dieser führt nicht in jedem Fall zu einer Beeinträchtigung des Kindeswohls, welche ein Eingreifen erforderlich erscheinen lässt; vielmehr hängen die Auswirkungen des Loyalitätskonfliktes von der Konstitution des Kindes selbst (Ambivalenz- und Abgrenzungsfähigkeit) und vom Verhalten der Eltern diesem gegenüber ab. Erforderlich ist daher eine konkrete Feststellung, in welcher Hinsicht das Kindeswohl beeinträchtigt ist bzw. sein würde. Schliesslich ist die Alleinzuteilung nur dann zulässig, wenn diese geeignet ist, die festgestellte Beeinträchtigung des Kindeswohls zu beseitigen oder zumindest zu lindern.
Geht es, wie hier, um die auf <ref-law> gestützte Anordnung des gemeinsamen Sorgerechts, ist unter diesem Gesichtspunkt nur dann davon abzusehen, wenn eine aufgrund der Streitereien auf Elternebene bestehende Beeinträchtigung des Kindeswohls in entscheidender Weise verstärkt würde (Urteile 5A_186/2016 vom 2. Mai 2016 E. 4; 5A_222/2016 vom 16. November 2016 E. 2; 5A_292/2016 vom 21. November 2016 E. 2).
3.
Das Verwaltungsgericht hat zunächst die einschlägige bundesgerichtliche Rechtsprechung zur gemeinsamen Sorge bzw. der Alleinzuteilung oder Belassung der Alleinsorge korrekt zusammengefasst.
Sodann hat das Verwaltungsgericht für den vorliegenden Fall festgestellt, dass es bei der Anhörung des 9-jährigen Knaben den Eindruck gewann, dass dieser sehr stark auf seine Mutter fixiert ist und deswegen kein Bedürfnis zeigt, mit seinem Vater in Kontakt zu treten, jedoch nicht spürbar war, dass das bei der Anhörung vorgebrachte geringe Interesse authentisch wirkte. Vielmehr habe sich angesichts der Eindrücke anlässlich der gerichtlichen Anhörung die Frage gestellt, ob das Kind bei der Beantwortung der Fragen sich (intuitiv) so verhalten habe, wie es meinte, es würde von ihm erwartet. Auffallend sei gewesen, dass die Beschwerdeführerin kein Vertrauen in die vom Gericht für C._ bestellte unabhängige Kindesvertreterin gezeigt und kurz vor der Anhörung darauf bestanden habe, dass eine Person ihres Vertrauens das Kind lückenlos begleite. Vor diesem Hintergrund spreche das Ergebnis der gerichtlichen Anhörung nicht gegen die erstinstanzlich angeordnete gemeinsame elterliche Sorge.
Weiter hat das Verwaltungsgericht erwogen, dass das Gutachten vom 7. Juni 2016 in Bezug auf die Beschwerdeführerin deutliche Hinweise auf eine ausgeprägte emotionale Labilität, auf heftige Stimmungsschwankungen sowie auf die Tendenz ergeben habe, die Realität zu verzerren, umzudeuten oder zu negieren; sie könne die Bedürfnisse von C._ nicht wahrnehmen bzw. jedenfalls nicht angemessen darauf reagieren und zeige sich trotz dem Wissen um den Wunsch von C._ nach Vaterkontakt nicht bereit, die angedachten Treffen zu bejahen, sondern sie beharre auf ihren eigenen Interessen und emotionalen Kränkungen. Das Verwaltungsgericht hat daraus sowie den gutachterlich geäusserten Befürchtungen in Bezug auf das Kindeswohl und der Empfehlung, die Obhut an den Vater umzuteilen, abgeleitet, dass dies jedenfalls für und nicht gegen eine gemeinsame elterliche Sorge spreche.
Im Zusammenhang mit der erforderlichen prognostischen Einschätzung der weiteren Entwicklung hat das Verwaltungsgericht gewürdigt, dass die Beschwerdeführerin gemäss ihrer Eingabe vom 2. September 2016 neu mit dem von der KESB eingeräumten Besuchsrecht für den Vater und im Übrigen auch mit der Durchführung einer Mediation einverstanden sei.
In Würdigung aller Umstände hat das Verwaltungsgericht befunden, dass eine psychisch chronisch angeschlagene Mutter es hinzunehmen habe, dass der Vater an der elterlichen Verantwortung mitbeteiligt werde, auch wenn das Verhältnis auf der Elternebene durch den Besuchsrechtsstreit bislang stark belastet gewesen sei.
4.
Die Beschwerdeführerin leitet aus der Tatsache, dass das Bundesgericht die Sache zur Anhörung des Kindes zurückgewiesen hat, sinngemäss ab, dass seinen Aussagen entscheidbestimmendes Gewicht zukommen müsse und es sich klar dahingehend geäussert habe, dass es keine Ferien beim Vater verbringen und keinen Kontakt zu diesem haben möchte.
Mit diesem Vorbringen wendet sich die Beschwerdeführerin in tatsächlicher Hinsicht gegen die Feststellung des Verwaltungsgerichtes, dass der Knabe unter enormem mütterlichem Erwartungsdruck stand und sich nicht frei äussern konnte. Die Behauptung, dafür bestünden keine Anhaltspunkte, wird nicht in Form einer Willkürrüge erhoben und ist deshalb appellatorisch (Art. 97 Abs. 1, Art. 105 Abs. 1 und <ref-law>; <ref-ruling> E. 2.3 S. 266). Abgesehen davon ist sie auch inhaltlich unzutreffend, hat doch das Verwaltungsgericht ausführlich dargelegt, wieso sich das Kind nicht frei äussern konnte, und hat es im Übrigen auch das Gutachten zitiert, aus welchem sich ergibt, dass C._ eigentlich Kontakt zum Vater möchte, aber die Beschwerdeführerin aufgrund gravierender persönlicher Defizite bislang nicht bereit war, diesen zu ermöglichen.
Sodann scheint die Beschwerdeführerin in rechtlicher Hinsicht die unter Verweisung auf die einschlägige Rechtsprechung erfolgten Ausführungen in E. 2.3 des Rückweisungsentscheides überlesen zu haben, wonach zwar das Kind ab dem vollendeten sechsten Altersjahr grundsätzlich anzuhören ist, wenn ein entsprechender Antrag gestellt worden ist, jedoch beachtet werden muss, dass sich die emotionale und kognitive Reife zu überdauernder eigener Meinungsbildung erst ab etwa elf bis zwölf Jahren ausbildet, weshalb es bei jüngeren Kindern nicht um eine konkrete Befragung über Zuteilungs- oder Sorgerechtswünsche, sondern in erster Linie darum geht, dass sich das urteilende Gericht ein persönliches - mithin aktuelles und unmittelbar eigenes - Bild vom Kind machen kann und über ein zusätzliches Element bei der Sachverhaltsfeststellung und Entscheidfindung verfügt. Genau dies hat das Verwaltungsgericht gewissenhaft getan, und es hat dabei auch in vorbildlicher Weise seine persönlichen Eindrücke, welche es anlässlich der Anhörung gewann, in der schriftlichen Urteilsbegründung wiedergegeben.
5.
Das weitere Vorbringen der Beschwerdeführerin, der Konflikt zwischen den Eltern sei hochstrittig und es sei deshalb kein gedeihliches Zusammenwirken zum Wohl von C._ zu erwarten, lässt eine nähere Auseinandersetzung mit den zentralen Erwägungen des angefochtenen Entscheides vermissen. Das Verwaltungsgericht hat festgehalten, dass die Beschwerdeführerin Bereitschaft zur Mediation zeigt und neu auch mit dem seitens der KESB installierten Besuchsrecht des Vaters einverstanden ist. Im Übrigen geht es vorliegend um die Regelung des Sorgerechts und nicht um die Ausgestaltung des persönlichen Verkehrs mit dem Vater, weshalb der Verweis auf die vergangenen Streitigkeiten rund um das Besuchsrecht nicht den Kern treffen.
Nichts zur vorliegend relevanten Fragestellung trägt der Hinweis bei, der Vorsitzende des Verwaltungsgerichts habe gegenüber den Knaben versichert, man wolle ihn nicht der Mutter wegnehmen, während im angefochtenen Entscheid auf die Empfehlung im Gutachten verwiesen werde, die Obhut über C._ neu dem Vater zuzuteilen. Eine Umteilung der Obhut ist nicht Gegenstand des vorliegenden, sondern allenfalls eines künftigen Verfahrens; im angefochtenen Entscheid ging es einzig um die Bemerkung, dass die entsprechende Empfehlung der Gutachterin letztlich nicht gegen, sondern für eine gemeinsame Sorge spreche. Was an dieser leicht nachvollziehbaren Ausführung bundesrechtswidrig sein soll, wird nicht ansatzweise dargelegt.
Vor dem Hintergrund des Gesagten ist nicht zu sehen, inwiefern erst nach Abschluss der Mediation zwischen den Eltern und Durchführung der vom KJPD empfohlenen Therapie mit dem Kind die gemeinsame Sorge verfügt werden dürfte. Die momentane Situation ist ausgehend von den - letztlich nicht beanstandeten und jedenfalls nicht mit Verfassungsrügen angefochtenen - Sachverhaltsfeststellungen des Verwaltungsgerichts nicht dergestalt, dass zwingend vom Grundsatz der geteilten elterlichen Sorge abzuweichen wäre; vielmehr ist diese aufgrund der in jeder Hinsicht zutreffenden Erwägungen des Verwaltungsgerichts geboten und im Einklang mit der bisherigen bundesgerichtlichen Rechtsprechung stehend.
6.
Nicht weiter begründet ist die am Schluss der Beschwerde beiläufig eingestreute Rüge, das Verwaltungsgericht sei in verschiedener Hinsicht seiner Begründungspflicht nicht nachgekommen. Dabei handelt es sich nicht um eine substanziiert begründete Gehörsrüge (<ref-law> und <ref-law>); ohnehin aber würde der Vorwurf inhaltlich nicht ansatzweise zutreffen (zu den Anforderungen an die Entscheidbegründung, wie sie aus dem Gehörsanspruch fliessen: vgl. <ref-ruling> E. 3.2 S. 236; <ref-ruling> E. 3.3 S. 455; <ref-ruling> E. 4.1 S. 88; <ref-ruling> E. 2.2 S. 84; <ref-ruling> E. 2.2 S. 183).
7.
Zusammenfassend ergibt sich, dass die Beschwerde abzuweisen ist, soweit auf sie eingetreten werden kann. Wie die vorstehenden Ausführungen zeigen, muss sie als von Anfang an aussichtslos betrachtet werden, weshalb es an den materiellen Voraussetzungen der unentgeltlichen Rechtspflege fehlt (<ref-law>) und das betreffende Gesuch abzuweisen ist. Die Gerichtskosten sind der Beschwerdeführerin aufzuerlegen (<ref-law>). Der Gegenpartei ist kein entschädigungspflichtiger Aufwand entstanden.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
4.
Dieses Urteil wird den Parteien, der KESB U._ und dem Verwaltungsgericht des Kantons Schwyz, Kammer III, schriftlich mitgeteilt.
Lausanne, 1. Februar 2017
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Möckli