Sachverhalt: A. Das Bezirksgericht Zürich verurteilte X._ am 23. Mai 2016 wegen mehrfacher einfacher und qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz (BetmG) in verschiedenen Anklagepunkten, Gewalt und Drohung gegen Beamte, einfacher Körperverletzung, Entwendung eines Motorfahrzeugs zum Gebrauch sowie Fahrens ohne Berechtigung zu einer teilbedingten Freiheitsstrafe von 30 Monaten, unter Anrechnung der Untersuchungshaft von 367 Tagen. Vom Vorwurf der Widerhandlung gegen das BetmG in weiteren Anklagepunkten sprach es ihn frei. B. Gegen diesen Entscheid erhob X._ Berufung und beantragte einen Freispruch von einigen Vorwürfen mehrfacher qualifizierter Widerhandlung gegen das BetmG. In teilweiser Gutheissung der Berufung bestrafte ihn das Obergericht des Kantons Zürich am 9. Oktober 2017 wegen mehrfacher qualifizierter Widerhandlung gegen das BetmG mit einer teilbedingten Freiheitsstrafe von 18 Monaten, unter Anrechnung der Untersuchungshaft von 367 Tagen. In einem Anklagepunkt sprach es ihn vom Vorwurf der Widerhandlung gegen das BetmG frei. Das Obergericht hält bezüglich der vorliegend noch relevanten Anklagepunkte zusammengefasst für erwiesen, X._ habe in der Zeit vom 20. Januar bis 11. März 2015 von A._ mehrfach Kokain zwecks gewinnbringenden Weiterverkaufs erworben. C. X._ führt Beschwerde in Strafsachen. Er beantragt, das Urteil des Obergerichts sei teilweise aufzuheben und er sei vom Vorwurf der mehrfachen qualifizierten Widerhandlung gegen das BetmG teilweise freizusprechen. Eventualiter sei die Sache zu neuer Beurteilung an das Obergericht zurückzuweisen. X._ ersucht um unentgeltliche Rechtspflege. D. Das Obergericht verzichtet auf eine Vernehmlassung. Die Oberstaatsanwaltschaft des Kantons Zürich liess sich nicht vernehmen.