Sachverhalt: A. Das Bezirksgericht Muri sprach X._ mit Urteil vom 24. Februar 2016 der mehrfachen Pornografie (Art. 197 Ziff. 5 StGB), der mehrfachen Nötigung (Art. 181 StGB) zum Nachteil von A._, der mehrfachen Drohung (Art. 180 Abs. 2 lit. b StGB) / Nötigung (Art. 181 StGB) zum Nachteil von D._, der mehrfachen Verletzung des Geheim- oder Privatbereichs durch Aufnahmegeräte (Art. 179quarter StGB) zum Nachteil von C._ und A._, der mehrfachen Vergewaltigung (Art. 190 Abs. 1 StGB) / sexuellen Nötigung (Art. 189 Abs. 1 StGB) zum Nachteil von A._, der mehrfachen sexuellen Handlungen mit einem Kind (Art. 187 Ziff. 1 StGB) zum Nachteil von B._ und der mehrfachen Verletzung der Fürsorge- oder Erziehungspflicht (Art. 219 StGB) schuldig. Es verurteilte ihn zu einer Freiheitsstrafe von sechs Jahren sowie einer bedingten Geldstrafe von 360 Tagessätzen zu Fr. 30.-- und ordnete eine vollzugsbegleitende ambulante Massnahme (Art. 63 StGB) an. Vom Vorwurf der mehrfachen Pornografie in Bezug auf Gegenstände, welche menschliche Ausscheidungen zum Inhalt haben, sowie vom Vorwurf der sexuellen Nötigung zum Nachteil von C._ sprach es ihn frei. Es verpflichtete X._, C._, A._ und B._ eine Genugtuung von Fr. 3'000.--, Fr. 20'000.-- bzw. Fr. 6'000.-- zu bezahlen. Die Verfahrenskosten auferlegte es X._, mit Ausnahme der Kosten der unentgeltlichen Verbeiständung der Privatklägerinnen und der Kosten seiner amtlichen Verteidigung. Es verpflichtete diesen, dem Kanton Aargau die Kosten für die unentgeltliche Verbeiständung der Privatklägerinnen und für seine amtliche Verteidigung zurückzuzahlen, sobald es seine wirtschaftlichen Verhältnisse erlauben. X._ erhob gegen dieses Urteil Berufung. B. B.a. Mit Urteil vom 6. September 2017 stellte das Obergericht des Kantons Aargau das Verfahren bezüglich des Vorwurfs der Verletzung des Geheim- oder Privatbereichs durch Aufnahmegeräte zum Nachteil von C._ sowie in weiteren Anklagepunkten betreffend Vorwürfe der Pornografie, der mehrfachen Drohung und der mehrfachen Nötigung, je für die Zeit vor dem 24. Februar 2009, zufolge Eintritts der Verjährung ein. Zudem sprach es X._ zusätzlich zu den bereits erstinstanzlich erfolgten Freisprüchen vom Vorwurf der Verletzung der Fürsorge- oder Erziehungspflicht frei. Es erklärte X._ der mehrfachen Pornografie, der mehrfachen versuchten Nötigung zum Nachteil von A._, der versuchten Drohung sowie der versuchten Nötigung zum Nachteil von D._, der Verletzung des Geheim- oder Privatbereichs durch Aufnahmegeräte zum Nachteil von A._, der mehrfachen Vergewaltigung sowie der mehrfachen sexuellen Nötigung zum Nachteil von A._ und der mehrfachen sexuellen Handlungen mit einem Kind zum Nachteil von B._ schuldig. Es verurteilte ihn zu einer Freiheitsstrafe von 5 Jahren und einer bedingten Geldstrafe von 200 Tagessätzen zu Fr. 10.-- und ordnete eine vollzugsbegleitende ambulante Massnahme an. Es verpflichtete X._, A._ eine Genugtuung von Fr. 20'000.-- und B._ eine Genugtuung von Fr. 6'000.-- zu bezahlen. Die obergerichtlichen Verfahrenskosten auferlegte es X._ zu 3/4 (mit Ausnahme der Kosten der unentgeltlichen Verbeiständung der Privatklägerinnen und der Kosten der amtlichen Verteidigung) und es verpflichtete ihn, dem Obergericht 3/4 der Entschädigung an seinen amtlichen Verteidiger sowie 3/4 der Entschädigung der unentgeltlichen Vertreterin von A._ für das Berufungsverfahren zurückzuzahlen, sobald es seine wirtschaftlichen Verhältnisse erlauben. Die erstinstanzlichen Verfahrenskosten (mit Ausnahme der Kosten der unentgeltlichen Verbeiständung der Privatklägerinnen und der Kosten der amtlichen Verteidigung) auferlegte es X._ zu 4/5. Es verpflichtete diesen, dem Bezirksgericht Muri je 4/5 der Kosten seiner amtlichen Verteidigung sowie der unentgeltlichen Vertretung von C._, A._ und B._ für das erstinstanzliche Verfahren zurückzuerstatten, sobald es seine wirtschaftlichen Verhältnisse erlauben. Mit Ergänzungsurteil vom 26. Oktober 2017 befand das Obergericht zudem über die Entschädigung der unentgeltlichen Vertreterinnen von C._ und B._ für das Berufungsverfahren. Es verpflichtete X._, dem Obergericht die Entschädigung an die unentgeltliche Vertreterin von B._ zurückzuzahlen, sobald es seine wirtschaftlichen Verhältnisse erlauben. Die Entschädigung der unentgeltlichen Vertreterin von C._ nahm es definitiv auf die Gerichtskasse. B.b. Das Obergericht des Kantons Aargau hält für erwiesen, dass X._ seine damalige Partnerin A._ am 8. Juni 2010 mittels GHB (Gamma-Hydroxybuttersäure) zum Widerstand unfähig machte und anschliessend sexuelle Handlungen an ihr vornahm, indem er u.a. seine Hand in ihre Vagina einführte und den Geschlechtsverkehr an ihr vollzog. X._ habe die sexuellen Handlungen und den Geschlechtsverkehr heimlich gefilmt. In der Nacht vom 30. auf den 31. Januar 2011 habe er die inzwischen von ihm getrennte A._ nach einem Restaurantbesuch mit dem gemeinsamen Sohn mittels GHB und Alkohol zum Widerstand unfähig gemacht. Anschliessend habe er Geschlechts- und Analverkehr mit ihr gehabt. Zudem habe er an zwei Sonntagen die damals 9-jährige B._ nachts in deren Bett aufgesucht, mit einem Gegenstand (mutmasslich ein Fiebermesser) an deren Vagina herumgespielt und den Gegenstand schliesslich auch eingeführt. B._ stellte sich schlafend, da sie Angst vor X._ hatte. C. X._ beantragt mit Beschwerde in Strafsachen, das Urteil vom 6. September 2017 sei aufzuheben und er sei von den Vorwürfen der mehrfachen Vergewaltigung und der mehrfachen sexuellen Nötigung zum Nachteil von A._ sowie vom Vorwurf der mehrfachen sexuellen Handlungen mit einem Kind zum Nachteil von B._ freizusprechen. Er ficht sodann die ihm vom Obergericht auferlegte Pflicht zur Rückerstattung von 4/5 der Kosten der unentgeltlichen Verbeiständung von C._ für das erstinstanzliche Verfahren an. X._ ersucht um unentgeltliche Rechtspflege. D. Das Obergericht und die Staatsanwaltschaft verzichteten auf eine Stellungnahme.