Sachverhalt:
A. Am 5. April 2010, um ca. 15.20 Uhr, fuhr A._ als Lenker des Personenwagens "Jaguar x-type" zusammen mit dem Beifahrer B._ sowie den beiden weiteren Mitinsassen C._ und D._ auf der Tösstalstrasse in Winterthur. Als B._ auf dem Trottoir den an der Tösstalstrasse wohnhaften X._ entdeckte, stoppte A._ das Auto. B._ verliess den Wagen, um von X._ den von diesem angeblich geschuldeten Geldbetrag von Fr. 4'500.-- einzufordern. Nach einem kurzen Gespräch stieg X._ ins Fahrzeug ein. A._ fuhr in der Folge von der Tösstalstrasse nach Kollbrunn, hielt dort auf einem Parkplatz kurz an und fuhr anschliessend wieder zurück an die Tösstalstrasse zur Wohnung von X._. B._ sowie C._ folgten daraufhin X._ in dessen Wohnung und drohten diesem sowie der ebenfalls anwesenden Y._ mehrfach, dass sie schon sehen würden, was geschehe, wenn sie das Geld oder zumindest die in Aussicht gestellten Fr. 200.-- nicht innert Wochenfrist bezahlen würden.
Gleichentags erstattete Y._ aufgrund dieses Vorfalls bei der Kantonspolizei Zürich telefonisch Strafanzeige gegen Unbekannt. Im Rahmen der polizeilichen Ermittlungen konnten A._, B._, C._ und D._ als die bei der obgenannten Fahrt beteiligten Personen eruiert werden.
Am 14. April 2010 wurde A._ festgenommen und tags darauf mit Verfügung der Haftrichterin des Bezirks Winterthur in Untersuchungshaft versetzt. Am 29. April 2010 wurde A._ wieder aus der Haft entlassen.
B. Die Staatsanwaltschaft Winterthur/Unterland stellte mit Verfügung vom 28. Juni 2011 die Strafuntersuchung gegen A._ wegen Erpressung etc. ein. Die Verfahrenskosten von Fr. 2'000.-- auferlegte sie A._ und sprach diesem weder eine Entschädigung noch eine Genugtuung zu. Die Kosten der amtlichen Verteidigung wurden auf die Staatskasse genommen.
Die von A._ gegen die Kosten- und Entschädigungsfolgen erhobene Beschwerde wies das Obergericht des Kantons Zürich mit Verfügung vom 16. November 2011 ab und auferlegte A._ die Verfahrenskosten von Fr. 270.--.
C. Mit Eingabe vom 13. Januar 2012 führt A._ Beschwerde in Strafsachen ans Bundesgericht und beantragt die Aufhebung der Verfügung des Obergerichts. Die gesamten Verfahrenskosten seien auf die Staatskasse zu nehmen. Ihm sei für die Untersuchungshaft vom 14. bis 29. April 2010 eine Entschädigung von Fr. 800.-- und für die anwaltliche Vertretung im Untersuchungsverfahren eine Entschädigung von Fr. 566.50 zuzusprechen. Des Weiteren sei ihm eine Entschädigung für die anwaltliche Vertretung im Beschwerdeverfahren auszurichten. Ferner ersucht A._ um Gewährung der unentgeltlichen Rechtspflege.
Das Obergericht verzichtet auf eine Stellungnahme zur Beschwerde. Die Staatsanwaltschaft beantragt die Beschwerdeabweisung. Die Eingaben wurden dem Beschwerdeführer zur Kenntnisnahme zugestellt.

Erwägungen:
1. Angefochten ist ein Rechtsmittelentscheid über die Kosten- und Entschädigungsregelung einer Verfahrenseinstellung, mithin eines Entscheids, der das Strafverfahren gegen den Beschwerdeführer abschliesst. Es handelt sich dabei um einen Endentscheid einer letzten kantonalen Instanz in einer Strafsache, gegen den die Beschwerde in Strafsachen zulässig ist (Art. 78 Abs. 1, Art. 80 Abs. 1, Art. 90 BGG). Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und hat ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids. Er ist daher nach <ref-law> zur Beschwerde befugt. Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist.
2. 2.1 Wird das Strafverfahren eingestellt, so können die Verfahrenskosten nach <ref-law> der beschuldigten Person ganz oder teilweise auferlegt werden, wenn diese rechtswidrig und schuldhaft die Einleitung des Verfahrens verursacht oder dessen Durchführung erschwert hat. Diesfalls kann ihr auch die Ausrichtung einer Entschädigung oder einer Genugtuung ganz oder teilweise verweigert werden (<ref-law>).
Nach der Rechtsprechung des Bundesgerichts zu <ref-law> und Art. 6 Ziff. 2 EMRK dürfen einer beschuldigten Person bei Freispruch oder Einstellung des Verfahrens nur dann Kosten auferlegt werden, wenn diese durch ein unter rechtlichen Gesichtspunkten vorwerfbares Verhalten die Einleitung des Strafverfahrens veranlasst oder dessen Durchführung erschwert hat. Bei dieser Kostenpflicht handelt es sich nicht um eine Haftung für ein strafrechtliches Verschulden, sondern um eine zivilrechtlichen Grundsätzen angenäherte Haftung für ein fehlerhaftes Verhalten, durch das die Einleitung oder Erschwerung eines Strafverfahrens verursacht wurde. Wie das Bundesgericht festgehalten hat, ist es mit <ref-law> und Art. 6 Ziff. 2 EMRK vereinbar, einer nicht verurteilten beschuldigten Person die Kosten aufzuerlegen, wenn diese in zivilrechtlich vorwerfbarer Weise gegen eine Verhaltensnorm, die sich aus der Gesamtheit der schweizerischen Rechtsordnung ergeben kann, klar verstossen und dadurch das Strafverfahren veranlasst oder dessen Durchführung erschwert hat; dabei darf sich die Kostenauflage in tatsächlicher Hinsicht nur auf unbestrittene oder bereits klar nachgewiesene Umstände stützen. Demgegenüber verstösst eine Kostenauflage bei Freispruch oder Einstellung des Strafverfahrens gegen den Grundsatz der Unschuldsvermutung, wenn der beschuldigten Person in der Begründung des Kostenentscheids direkt oder indirekt vorgeworfen wird, sie habe sich strafbar gemacht bzw. es treffe sie ein strafrechtliches Verschulden (Urteil 1B_12/2012 vom 20. Februar 2012 E. 2 mit Hinweisen).
2.2 Der Beschwerdeführer macht zusammenfassend geltend, die Voraussetzungen von <ref-law> seien nicht erfüllt, da er sich nicht rechtswidrig verhalten habe.
2.3 Die Vorinstanz wirft dem Beschwerdeführer einen Verstoss gegen die Persönlichkeitsrechte von X._ im Sinn von <ref-law> vor.
Sie hat erwogen, X._ habe folgende Aussagen gemacht: Er sei freiwillig ins Fahrzeug eingestiegen, wobei ihn B._ hierzu aufgefordert habe. B._ habe ihm zwar keine Nachteile in Aussicht gestellt, er habe aber nicht gewusst, was passiert wäre, wenn er der Aufforderung keine Folge geleistet hätte. Er habe gedacht, wenn er nicht einsteigen würde, gäbe es nur wieder Probleme. Insbesondere habe er nicht gewusst, ob er nur B._ gegen sich gehabt habe oder ob die drei Fahrzeuginsassen zu dessen Verstärkung gegen ihn da gewesen seien.
Die Vorinstanz hat weiter festgehalten, der Beschwerdeführer habe ausgesagt, er habe X._ bei dessen Einsteigen ins Fahrzeug aufgefordert, sich auf dem Rücksitz in die Mitte zu setzen, dies weil er nicht gewollt habe, dass X._ auf einmal aus dem fahrenden Auto springen würde. Er habe zwar nicht gewusst, um was es bei der Sache gehe, für ihn sei aber klar gewesen, dass X._ Angst vor B._ gehabt habe.
Gestützt darauf hat die Vorinstanz gefolgert, aufgrund der Aussagen von X._ und des Beschwerdeführers sei erstellt, dass gegenüber X._ keine Gewalt angewendet und diesem auch verbal kein Nachteil angedroht worden sei für den Fall, dass er nicht ins Fahrzeug einsteige. Allerdings sei X._ nur deshalb eingestiegen, weil er Angst vor B._ gehabt habe, was dem Beschwerdeführer bewusst gewesen sei. Trotz dieses Wissens habe der Beschwerdeführer X._ einsteigen lassen und sei alsdann von der Tösstalstrasse in Winterthur nach Kollbrunn und wieder zurück gefahren. Bereits dieses Verhalten des Beschwerdeführers stelle einen empfindlichen Eingriff in die psychische Integrität von X._ dar. Indem er aber zudem darauf bestanden habe, dass sich X._ auf dem Rücksitz in der Mitte platziere, sodass dieser nicht aus Angst plötzlich aus dem fahrenden Auto hätte springen können, habe er das seelische Wohlbefinden von X._ massiv und erheblich beeinträchtigt. Unerheblich sei dabei, dass der Beschwerdeführer angeblich nicht gewusst habe, um was es zwischen X._ und B._ genau gegangen sei. Zusammenfassend liege damit eine widerrechtliche Persönlichkeitsverletzung im Sinne von <ref-law> vor. Dadurch habe der Beschwerdeführer die Strafuntersuchung ohne Weiteres veranlasst, weshalb eine Kostenauflage trotz Einstellung des Verfahrens rechtmässig sei. Entsprechend erweise sich die Beschwerde als unbegründet und sei demnach abzuweisen (angefochtenes Urteil E. 9).
2.4 Der Beschwerdeführer wurde von der Staatsanwaltschaft der Gehilfenschaft zur Erpressung von X._ beschuldigt. Da sich kein Tatverdacht erhärten liess, der eine Anklage gerechtfertigt hätte, stellte die Staatsanwaltschaft das Strafverfahren gestützt auf <ref-law> ein. In der Begründung des Kostenentscheids wird dem Beschwerdeführer weder direkt noch indirekt angelastet, dass ihn ein strafrechtliches Verschulden treffe. Vielmehr geht die Vorinstanz von einem zivilrechtlich vorwerfbaren Verhalten des Beschwerdeführers aus, indem sie diesem eine widerrechtliche Persönlichkeitsverletzung im Sinne von <ref-law> zum Vorwurf macht.
Eine Kostenauflage an einen nicht verurteilten Beschuldigten wegen zivilrechtlich schuldhaften Verhaltens kann sich grundsätzlich auf <ref-law> stützen (vgl. Urteil des Bundesgerichts 1P.18/2007 vom 30. Juli 2007 E. 3.3.4). Nach dieser Bestimmung kann derjenige, der in seiner Persönlichkeit widerrechtlich verletzt wird, zu seinem Schutz gegen jeden, der an der Verletzung mitwirkt, das Gericht anrufen (Abs. 1); widerrechtlich ist eine Verletzung, wenn sie nicht durch Einwilligung des Verletzten, durch ein überwiegendes privates oder öffentliches Interesse oder durch Gesetz gerechtfertigt ist (Abs. 2).
Die Persönlichkeitsrechte werden durch Angriffe auf die physische und die psychische Integrität verletzt; darunter fällt auch ein Verhalten, das andere terrorisiert und verängstigt und diese in ihrem seelischen Wohlbefinden gefährdet bzw. erheblich stört. Allerdings kann nicht jede noch so geringfügige Beeinträchtigung der Persönlichkeit als rechtlich relevante Verletzung verstanden werden, sondern die Verletzung muss eine gewisse Intensität erreichen. Auf die subjektive Empfindlichkeit des Betroffenen kommt es dabei nicht an. Für die Beurteilung der Schwere des Eingriffs ist ein objektiver Massstab anzulegen (Urteil des Bundesgerichts 1P.18/2007 vom 30. Juli 2007 E. 3.3.5 mit Hinweisen).
2.5 Die Vorinstanz hat die Aussagen von X._ anlässlich seiner Einvernahme durch die Staatsanwaltschaft vom 29. April 2010 nur sehr verkürzt wiedergegeben. So führte er insbesondere auch aus, er habe den Beschwerdeführer am Tag des Vorfalls zum ersten Mal gesehen. Auf die Frage, wo im Fahrzeug er sich befunden habe, erklärte X._, er habe sich auf die rechte Seite der Rückbank gesetzt. Er wisse nicht mehr, ob sich rechts von ihm noch eine Person befunden habe oder nicht (vorinstanzliche Akten Urk. 9/6/5 S. 4). Weiter gab X._ zu Protokoll, der Beschwerdeführer sei nur der Fahrer gewesen und habe nie mit ihm gesprochen, weshalb er "ihn auch nicht als Bedrohung wahrgenommen habe" (vorinstanzliche Akten Urk. 9/6/5 S. 18 f.). Auf entsprechende Nachfrage bekräftigte X._, er sei nicht davon ausgegangen, dass der Beschwerdeführer "etwas machen würde" (vorinstanzliche Akten Urk. 9/6/5 S. 19).
Hat aber X._ den Beschwerdeführer nicht als Bedrohung wahrgenommen und bei der weniger als einen Monat nach dem Vorfall erfolgten Einvernahme durch die Staatsanwaltschaft nicht mehr gewusst, welchen Platz im Auto er eingenommen hatte, so ist der Schluss der Vorinstanz, der Beschwerdeführer habe mit seiner Anweisung, dass sich X._ auf dem Rücksitz in der Mitte platziere, das seelische Wohlbefinden von X._ massiv beeinträchtigt, nicht haltbar. Das Verhalten des Beschwerdeführers hat - wenn überhaupt - höchstens zu einer geringfügigen Beeinträchtigung der Persönlichkeit von X._ geführt. Von einem empfindlichen Eingriff in dessen psychische Integrität respektive von einem klaren Verstoss des Beschwerdeführers gegen <ref-law> kann vorliegend nicht gesprochen werden.
Zusammenfassend ist damit festzuhalten, dass dem Beschwerdeführer keine für die Einleitung des Strafverfahrens ursächliche Persönlichkeitsverletzung im Sinne von <ref-law> angelastet werden kann. Die Kostenauflage verstösst damit gegen <ref-law>.
3. 3.1 Der Beschwerdeführer macht Entschädigungsansprüche geltend. Er führt aus, er habe sich während 16 Tagen in Untersuchungshaft befunden. Zu dieser Zeit habe er ein Praktikum im Rahmen seiner kaufmännischen Ausbildung absolviert und dabei Fr. 300.-- pro Monat verdient. Somit sei sein Erwerbsausfall zwar nur sehr gering. Er habe während der Dauer der Untersuchungshaft jedoch auf die Fortführung seiner Ausbildung verzichten müssen, was für ihn einen ernst zu nehmenden Nachteil darstelle. Ein Ansatz von Fr. 50.-- pro Tag Untersuchungshaft sei somit durchaus angemessen. Der Kanton Zürich habe ihn deshalb mit Fr. 800.-- zu entschädigen. Zudem sei der Kanton Zürich zu verpflichten, die Kosten der anwaltlichen Vertretung durch Rechtsanwältin Christina Ferritto im Verfahren vor der Staatsanwaltschaft im Betrag von Fr. 566.50 und die Kosten der anwaltlichen Vertretung durch Rechtsanwalt Georg Engeli im Beschwerdeverfahren zu tragen.
3.2 Die Höhe der Kosten der amtlichen Verteidigung im Untersuchungsverfahren von Fr. 566.50 ist nicht umstritten. Des Weiteren hat der Beschwerdeführer Anspruch auf eine angemessene Entschädigung für die anwaltliche Vertretung in den Verfahren vor der Vorinstanz und vor dem Bundesgericht. Die Entschädigung ist seinem amtlichen Verteidiger auszurichten.
Zu klären bleibt, ob dem Antrag des Beschwerdeführers auf Ausrichtung einer "Entschädigung" von Fr. 800.-- für die erlittene Untersuchungshaft von 16 Tagen entsprochen werden kann. Gemäss <ref-law> hat die beschuldigte Person bei einer Einstellung des Verfahrens insbesondere einen Anspruch auf Entschädigung der wirtschaftlichen Einbussen, die ihr aus ihrer notwendigen Beteiligung am Strafverfahren entstanden sind (lit. b), und einen Anspruch auf Genugtuung für besonders schwere Verletzungen ihrer persönlichen Verhältnisse, insbesondere bei Freiheitsentzug (lit. c).
Ausgehend von einem Praktikumslohn des Beschwerdeführers von monatlich Fr. 300.-- ist diesem bei einer Haftdauer von 16 Tagen gestützt auf <ref-law> eine Entschädigung von Fr. 150.-- für den erlittenen Erwerbsausfall zuzusprechen. Die ungerechtfertigte Untersuchungshaft stellt zudem eine besonders schwere Verletzung der persönlichen Verhältnisse im Sinne von <ref-law> dar, weshalb der Beschwerdeführer gestützt auf <ref-law> Anspruch auf Genugtuung hat. Der vom Beschwerdeführer geforderte Betrag von Fr. 650.-- (Fr. 800.-- abzüglich Fr. 150.--) ist angemessen. Seinem Antrag auf Ausrichtung eines Betrags von insgesamt Fr. 800.-- ist damit zu entsprechen.
4. Die Beschwerde ist folglich gutzuheissen und die angefochtene Verfügung aufzuheben. Dem Ausgang des bundesgerichtlichen Verfahrens entsprechend sind keine Gerichtskosten zu erheben (Art. 66 Abs. 4 BGG). Die Kosten des Verfahrens vor der Staatsanwaltschaft von Fr. 2'000.-- und vor der Vorinstanz von Fr. 270.-- sind dem Kanton Zürich aufzuerlegen (<ref-law>). Der Kanton Zürich hat dem Rechtsvertreter des Beschwerdeführers im obergerichtlichen und im bundesgerichtlichen Verfahren, Rechtsanwalt Georg Engeli, eine Entschädigung von insgesamt Fr. 2'000.-- zu bezahlen. Des Weiteren hat der Kanton Zürich die Rechtsvertreterin des Beschwerdeführers im Untersuchungsverfahren, Rechtsanwältin Christina Ferritto, mit Fr. 566.50 zu entschädigen. Schliesslich hat der Kanton Zürich dem Beschwerdeführer für die wirtschaftlichen Einbussen eine Entschädigung von Fr. 150.-- und für die ungerechtfertigte Untersuchungshaft vom 14. bis 29. April 2010 eine Genugtuung von Fr. 650.-- zu bezahlen (Art. 68 Abs. 2 und 5 BGG; Art. 429 Abs. 1 lit. b und c StPO). Damit wird das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und die Verfügung des Obergerichts des Kantons Zürich vom 16. November 2011 aufgehoben.
2. Für das bundesgerichtliche Verfahren werden keine Gerichtskosten erhoben.
3. Die Gerichtskosten des kantonalen Verfahrens von insgesamt Fr. 2'270.-- werden dem Kanton Zürich auferlegt.
4. Der Kanton Zürich hat dem Rechtsvertreter des Beschwerdeführers in den Verfahren vor dem Obergericht und vor dem Bundesgericht, Rechtsanwalt Georg Engeli, eine Entschädigung von insgesamt Fr. 2'000.-- zu bezahlen.
5. Der Kanton Zürich hat der Rechtsvertreterin des Beschwerdeführers im Verfahren vor der Staatsanwaltschaft Winterthur/Unterland, Rechtsanwältin Christina Ferritto, eine Entschädigung von Fr. 566.50 zu bezahlen.
6. Der Kanton Zürich hat dem Beschwerdeführer eine Entschädigung von Fr. 150.-- und eine Genugtuung von Fr. 650.-- zu bezahlen.
7. Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft Winterthur/Unterland, dem Obergericht des Kantons Zürich, III. Strafkammer, sowie Christina Ferritto, Winterthur, schriftlich mitgeteilt.
Lausanne, 27. März 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Stohner