Sachverhalt:
A. Die Staatsanwaltschaft Winterthur/Unterland, Zweigstelle Flughafen, führte gegen X._ und sechs weitere Personen (Y1._, Y2._, Y3._, Y4._, Y5._ und Y6._) eine Strafuntersuchung wegen Widerhandlungen gegen das BetmG (SR 812.121). Sie warf ihnen vor, durch ein Firmenkonglomerat, namentlich die Genossenschaft Q._ (im Folgenden: Q._), Hanfpflanzen mit einem THC-Gehalt zwischen 1.5 und 8.5 % angebaut, gezüchtet und geerntet zu haben. Die erzeugten Produkte sollen sie in verschiedenen Hanfläden verkauft haben.
Mit Verfügung vom 16. September 2008 stellte die Staatsanwaltschaft das Verfahren ein (Dispositiv Ziff. 1). Sie zog die im Laufe der Untersuchung bei Y1._, Y4._, X._, Y2._, Z._ und der Q._ sichergestellten Beträge von insgesamt Fr. 62'828.30 sowie die bei X._ und Y5._ sichergestellten Beträge von insgesamt Fr. 20'465.-- zuhanden der Staatskasse ein (Ziff. 2). Von im Untersuchungsverfahren gesperrten Bankkonten zog die Staatsanwaltschaft insgesamt Fr. 55'662.86 zur (teilweisen) Deckung der Kosten ein (Ziff. 3). Die übrigen Konten gab sie frei (Ziff. 4). Die Kosten des Strafverfahrens auferlegte sie den Angeschuldigten zu je einem Siebtel unter solidarischer Haftung (Ziff. 5). Die Kosten der amtlichen Verteidigung auferlegte sie ebenfalls den Angeschuldigten, wobei sie die Festlegung der Höhe dieser Kosten dem Entscheid des Präsidenten des Bezirksgerichts Andelfingen vorbehielt (Ziff. 6).
In der Folge gelangten Y2._, X._ und Y5._ an den Einzelrichter in Strafsachen des Bezirksgerichts Andelfingen. Mit Verfügung vom 27. Oktober 2010 vereinigte dieser die drei Verfahren und ordnete an, dass die sichergestellten Beträge von Fr. 62'828.30 und Fr. 20'465.-- ebenfalls zur Kostendeckung zu verwenden seien. Weitere von X._ gestellte Anträge wies der Einzelrichter in Strafsachen ab, soweit er darauf eintrat. Die Verfahrenskosten und die Kosten für die amtliche Verteidigung auferlegte er den Gesuchstellern.
Einen dagegen von X._ eingelegten Rekurs hiess das Obergericht des Kantons Zürich mit Beschluss vom 10. August 2011 teilweise gut. Es ordnete an, dass X._ für ein Rekursverfahren während der Strafuntersuchung, in welchem er obsiegt hatte und in welchem die Entschädigung dem Hauptverfahren vorbehalten worden war, eine Entschädigung von Fr. 400.-- auszurichten sei. Ebenfalls ordnete es an, dass ein Zehntel der X._ im Verfahren vor dem Einzelrichter auferlegten Gerichtsgebühren und Kosten der amtlichen Verteidigung auf die Gerichtskasse genommen würden. Im Übrigen wies das Obergericht den Rekurs ab, soweit es darauf eintrat.
B. Mit Beschwerde in Strafsachen an das Bundesgericht vom 19. September 2011 beantragt X._ die Aufhebung des Beschlusses des Obergerichts. Die Kosten des Strafverfahrens, einschliesslich der Kosten der amtlichen Verteidigung, seien auf die Staatskasse zu nehmen. Sämtliche von ihm sichergestellten Vermögenswerte seien herauszugeben. Für die Folgen des Strafverfahrens sei ihm eine angemessene Entschädigung auszurichten. Ebenfalls sei er für die verschiedenen Rekursverfahren im Zusammenhang mit dem Strafverfahren angemessen zu entschädigen.
Der Einzelrichter in Strafsachen des Bezirks Andelfingen und das Obergericht des Kantons Zürich haben auf eine Vernehmlassung verzichtet. Die Staatsanwaltschaft Winterthur/Unterland beantragt die Bestätigung des angefochtenen Entscheids.
Erwägungen:
1. 1.1 Der angefochtene Entscheid betrifft die Einstellung einer Strafuntersuchung. Dagegen ist die Beschwerde in Strafsachen nach Art. 78 ff. BGG gegeben.
1.2 Die Einstellungsverfügung datiert vom 16. September 2008. Anwendbar ist deshalb die Strafprozessordnung des Kantons Zürich vom 4. Mai 1919 (StPO/ZH) und nicht die am 1. Januar 2011 in Kraft getretene Schweizerische Strafprozessordnung (StPO, SR 312.0; siehe Art. 453 f. StPO und Urteil 1B_411/2010 vom 7. Februar 2011 E. 1.3 mit Hinweisen).
1.3 Ein kantonales Rechtsmittel steht nicht zur Verfügung. Die Beschwerde ist nach Art. 80 BGG zulässig. Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und hat ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids. Er ist daher nach Art. 81 Abs. 1 BGG zur Beschwerde befugt. Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist grundsätzlich einzutreten.
2. 2.1 Der Beschwerdeführer macht geltend, die Kostenauflage und die Verweigerung einer Entschädigung im angefochtenen Entscheid verletzten die Unschuldsvermutung (Art. 32 Abs.1 BV und Art. 6 Ziff. 2 EMRK). Die in diesem Zusammenhang gegen ihn erhobenen Vorwürfe deckten sich mit dem strafrechtlichen Vorwurf, sowohl hinsichtlich der objektiven wie auch der subjektiven Tatbestandselemente. Auch sei - abgesehen von der Ausübung von Verteidigungsrechten - kein Verhalten im Untersuchungsverfahren erkennbar, das ihm vorwerfbar wäre. Sei demnach die Kostenauflage nicht zulässig, entfalle auch der Grund für die Beschlagnahme bzw. die Einziehung seiner Vermögenswerte (§ 83 StPO/ZH). Diese seien an ihn herauszugeben, und es sei ihm für die Folgen des Strafverfahrens eine angemessene Entschädigung auszurichten.
2.2 Nach § 42 Abs. 1 StPO/ZH werden die Kosten einer eingestellten Untersuchung von der Staatskasse getragen. Sie werden dem Angeschuldigten ganz oder teilweise auferlegt, wenn er die Untersuchung durch ein verwerfliches oder leichtfertiges Verhalten verursacht oder die Durchführung der Untersuchung erschwert hat. Gemäss § 43 StPO/ZH ist, wenn dem Angeklagten die Kosten nicht auferlegt werden, darüber zu entscheiden, ob ihm eine Entschädigung für die durch die Untersuchung verursachten Kosten und Umtriebe sowie eine Genugtuung auszurichten ist (Abs. 1). Ein Angeschuldigter, dem wesentliche Kosten und Umtriebe erwachsen sind, hat Anspruch auf eine Entschädigung. Diese wird jedoch ganz oder teilweise verweigert, wenn der Angeschuldigte die Untersuchung durch ein verwerfliches oder leichtfertiges Benehmen verursacht oder ihre Durchführung erschwert hat (Abs. 2).
2.3 Nach der Rechtsprechung des Bundesgerichts zu Art. 32 Abs. 1 BV und Art. 6 Ziff. 2 EMRK dürfen einem Angeschuldigten bei Freispruch oder Einstellung des Verfahrens nur dann Kosten auferlegt werden, wenn er durch ein unter rechtlichen Gesichtspunkten vorwerfbares Verhalten die Einleitung eines Strafverfahrens veranlasst oder dessen Durchführung erschwert hat. Bei der Kostenpflicht des freigesprochenen oder aus dem Verfahren entlassenen Angeschuldigten handelt es sich nicht um eine Haftung für ein strafrechtliches Verschulden, sondern um eine zivilrechtlichen Grundsätzen angenäherte Haftung für ein fehlerhaftes Verhalten, durch das die Einleitung oder Erschwerung eines Strafverfahrens verursacht wurde. Wie das Bundesgericht festgehalten hat, ist es mit Art. 32 Abs. 1 BV und Art. 6 Ziff. 2 EMRK vereinbar, einem nicht verurteilten Angeschuldigten die Kosten aufzuerlegen, wenn er in zivilrechtlich vorwerfbarer Weise gegen eine Verhaltensnorm, die sich aus der Gesamtheit der schweizerischen Rechtsordnung ergeben kann, klar verstossen und dadurch das Strafverfahren veranlasst oder dessen Durchführung erschwert hat (BGE 119 Ia 332 E. 1b S. 334 mit Hinweisen). Dabei darf sich die Kostenauflage in tatsächlicher Hinsicht nur auf unbestrittene oder bereits klar nachgewiesene Umstände stützen (BGE 112 Ia 371 E. 2a S. 374; Urteil 6B_835/2009 vom 21. Dezember 2009 E. 1.2, in: Pra 2010 Nr. 48 S. 351). Hingegen verstösst eine Kostenauflage bei Freispruch oder Einstellung des Strafverfahrens gegen den Grundsatz der Unschuldsvermutung, wenn dem Angeschuldigten in der Begründung des Kostenentscheids direkt oder indirekt vorgeworfen wird, er habe sich strafbar gemacht bzw. es treffe ihn ein strafrechtliches Verschulden (BGE 120 Ia 147 E. 3b S. 155; 6B_86/2009 vom 29. Oktober 2009 E. 9.3).
2.4 Wird eine Kostenauflage wegen Verletzung der Unschuldsvermutung angefochten, so prüft das Bundesgericht frei, ob der Kostenentscheid direkt oder indirekt den Vorwurf einer strafrechtlichen Schuld enthält. Nur unter dem Gesichtswinkel der Willkür untersucht es, ob die beschuldigte Person in zivilrechtlich vorwerfbarer Weise gegen eine geschriebene oder ungeschriebene Verhaltensnorm klar verstossen und durch ihr Benehmen das Strafverfahren veranlasst oder dessen Durchführung erschwert hat. Insoweit greift ausschliesslich Art. 9 BV Platz, wonach die kantonalen Kostenbestimmungen nicht willkürlich angewendet werden dürfen (vgl. BGE 116 Ia 162 E. 2f S. 175 f.; Urteil 6B_835/2009 vom 21. Dezember 2009 E. 1.3; je mit Hinweisen).
2.5 Die Vorinstanz legte dar, nach der Fassung des Betäubungsmittelgesetzes, wie sie im Zeitpunkt der Strafuntersuchung in Kraft war, seien Hanfkraut, das Harz der Drüsenhaare des Hanfkrauts und der Wirkstoff THC Betäubungsmittel. Nach aArt. 8 Abs. 1 lit. d BetmG dürfe Hanfkraut zur Betäubungsmittelgewinnung und das Harz seiner Drüsenhaare nicht angebaut, eingeführt, hergestellt oder in Verkehr gebracht werden. Nach der Rechtsprechung sei der Grenzwert des THC-Gehalts von 0.3 % massgeblich dafür, ob ein Hanfprodukt als Betäubungsmittel gelte und nach aArt. 8 Abs. 1 lit. d BetmG nicht in Verkehr gebracht werden dürfe (BGE 126 IV 198 E. 1 S. 199 f. mit Hinweisen). Aufgrund des THC-Gehalts handle es sich bei den von der Q._ bzw. vom Beschwerdeführer angebauten und vertriebenen Hanfpflanzen bzw. Hanfblüten und deren Produkten (sog. "Trockenblumen") um Betäubungsmittel. Es sei zudem davon auszugehen, dass der Beschwerdeführer in der Q._ eine tragende Rolle gespielt habe. Im Rahmen der Aufgabenteilung und der eingenommenen Funktionen hätten die Mitbeschuldigten und der Beschwerdeführer die Vornahme der Handlungen bzw. die Herstellung und den Vertrieb der Betäubungsmittel zumindest in Kauf genommen. Der Beschwerdeführer habe als Genossenschafter gemäss eigenen Angaben an den Grundsatzentscheidungen mitgewirkt. Als Mitglied der Verwaltung der Q._ sei er nach Art. 902 OR zudem verpflichtet, die Geschäfte der Genossenschaft mit aller Sorgfalt zu leiten und die mit der Geschäftsführung und Vertretung Beauftragten im Hinblick auf die Beobachtung der Gesetze zu überwachen. Er habe gewusst, dass der Hanf auch als Betäubungsmittel konsumiert werden konnte, und habe den THC-Gehalt nicht überprüft. Aus alledem ergebe sich, dass der Beschwerdeführer gegen aArt. 8 BetmG verstossen habe. Ob bei einem Verstoss gegen diese Norm gleichzeitig eine strafbare Handlung im Sinne von Art. 19 ff. BetmG vorliege, sei nicht massgebend. Die Durchführung einer Strafuntersuchung sei durch das Verhalten des Beschwerdeführers verursacht worden.
Der Einzelrichter in Strafsachen des Bezirks Andelfingen habe somit nicht gegen die Unschuldsvermutung verstossen, wenn er dem Beschwerdeführer die Verfahrenskosten, wozu auch die Kosten der amtlichen Verteidigung gehörten, auferlegt habe. Der Einzelrichter werfe dem Beschwerdeführer zudem vor, er habe durch sein Verhalten die Durchführung der Untersuchung erschwert. Dazu äussere sich der Beschwerdeführer nicht. Seine Eingabe genüge insofern den Anforderungen an die Rekursbegründung nicht. Selbst wenn gegen die Unschuldsvermutung verstossen worden wäre, würde der Vorwurf der Erschwerung des Untersuchungsverfahrens verbleiben.
Die Vorbringen des Beschwerdeführers zur Einziehung der beschlagnahmten Beträge von Fr. 62'828,30 und Fr. 20'465.-- bezeichnet das Obergericht als nicht nachvollziehbar. Der Einzelrichter habe die Einziehung mit dem Hinweis auf § 83 StPO/ZH begründet. Damit habe sich der Beschwerdeführer nicht auseinandergesetzt. In den beiden genannten Beträgen seien die beim Beschwerdeführer sichergestellten Gelder in der Höhe von Fr. 28'065.-- enthalten. Die Verfahrenskosten wären nicht gedeckt, wenn ihm dieser Betrag herausgegeben würde.
Schliesslich weist die Vorinstanz darauf hin, dass mit der Auflage der Kosten die Basis für die vom Beschwerdeführer geforderte Entschädigung für die Polizei- und Untersuchungshaft entfalle.
2.6 Das Obergericht ist nach dem Gesagten der Ansicht, dass der Beschwerdeführer gegen aArt. 8 BetmG verstossen habe und dass es sich bei dieser Bestimmung um eine Verhaltensnorm handle, welche unabhängig vom strafrechtlichen Vorwurf sei. Diese zweite Annahme ist indessen falsch. Art. 8 BetmG (in der damals bestehenden wie auch in der aktuellen Fassung) hat nicht im Sinne der Annahme der Vorinstanz eine gegenüber den Strafbestimmungen von (a)Art. 19 ff. BetmG selbständige Bedeutung. Dies geht einerseits aus der bundesgerichtlichen Rechtsprechung hervor. Im Urteil 6P.51/2000 vom 3. August 2000 hat das Bundesgericht ausgeführt, dass gemäss Art. 8 Abs. 1 lit. d BetmG Hanfkraut zur Betäubungsmittelgewinnung und das Harz seiner Drüsenhaare (Haschisch) nicht angebaut, eingeführt, hergestellt oder in Verkehr gebracht werden dürfen, und dass, wer dem Verbot zuwiderhandelt, sich nach Art. 19 Ziff. 1 BetmG strafbar macht (a.a.O., E. 2a mit Hinweis auf BGE 126 IV 60 E. 2a S. 62 f.; vgl. auch Urteile 6S.189/2001 vom 31. Mai 2001 E. 2b mit Hinweisen, in: Pra 2001 Nr. 182 S. 1107; 6S.715/2001 vom 3. Oktober 2002 E. 2). Andererseits ist gerade im vorliegenden Fall ersichtlich, dass sich der Vorwurf der Vorinstanz, der Beschwerdeführer habe gegen aArt. 8 BetmG verstossen, nicht vom Vorwurf des (eventualvorsätzlichen) Verstosses gegen aArt. 19 Abs. 1 BetmG unterscheiden lässt. Ein derartiges strafbares Verhalten des Beschwerdeführers ist indessen nicht bewiesen. Indem das Obergericht angenommen hat, der Beschwerdeführer habe die Herstellung und den Vertrieb von Betäubungsmitteln zumindest in Kauf genommen, hat es die Unschuldsvermutung verletzt.
2.7 Als Alternativbegründung hat die Vorinstanz angeführt, der Einzelrichter werfe dem Beschwerdeführer vor, er habe durch sein Verhalten die Durchführung der Untersuchung erschwert. Ihrer Ansicht nach hatte sich der Beschwerdeführer zu diesem Vorwurf nicht geäussert, weshalb seine Eingabe den Anforderungen an eine Rekursbegründung nicht genügt haben soll.
Der Einzelrichter ging davon aus, dass der Beschwerdeführer das Strafverfahren veranlasst habe. Daraus schloss er automatisch auch, der Beschwerdeführer habe durch sein Verhalten im Untersuchungsverfahren dessen Durchführung erschwert. Der Beschwerdeführer hat sich mit dem Vorwurf, er habe das Strafverfahren veranlasst, auseinandergesetzt. Zu einer weitergehenden Kritik hatte er keinen Anlass, zumal weder der Einzelrichter noch das Obergericht sich mit den Voraussetzungen, unter welchen von einer Erschwerung der Durchführung des Untersuchungsverfahrens ausgegangen werden darf, überhaupt befasst hatten (vgl. dazu BGE 116 Ia 162 E. 2d/aa S. 172 mit Hinweisen). Wenn mit unveränderter Begründung nicht nur davon ausgegangen wurde, der Beschwerdeführer habe das Strafverfahren veranlasst, sondern auch, er habe die Durchführung der Untersuchung erschwert, so liegt auch in dieser zweiten Feststellung ein Verstoss gegen die Unschuldsvermutung. Die Rüge erweist sich deshalb auch insofern als begründet.
2.8 Ist es somit unzulässig, dem Beschwerdeführer die Kosten der eingestellten Untersuchung aufzuerlegen (§ 42 Abs. 1 StPO/ZH), so stellt sich gemäss § 43 Abs. 1 StPO/ZH die Frage, ob ihm eine Entschädigung für die durch die Untersuchung verursachten Kosten und Umtriebe sowie eine Genugtuung auszurichten ist. Dies neu zu beurteilen, wird dem Einzelrichter in Strafsachen des Bezirks Andelfingen obliegen.
Beim Beschwerdeführer wurden gestützt auf § 83 StPO zur Deckung der Verfahrenskosten Vermögenswerte beschlagnahmt. Da diese Kosten nach dem Gesagten nicht dem Beschwerdeführer hätten auferlegt werden dürfen, sind die Vermögenswerte wieder herauszugeben.
3. Der Beschwerdeführer rügt schliesslich, dass ihm für den Rekursentscheid vom 2. Oktober 2000 keine angemessene Entschädigung zugesprochen worden sei. Der Entscheid der Vorinstanz sei diesbezüglich willkürlich, aktenwidrig und stelle einen Verstoss gegen den Anspruch auf ein faires Verfahren dar. Der Beschwerdeführer rügt in diesem Zusammenhang das Vorgehen der kantonalen Behörden in jenem Rekursverfahren. Weshalb aber die ihm zugesprochene Entschädigung rechtswidrig sein sollte, legt er nicht dar. Im Übrigen macht er auch nicht geltend, wie hoch die Entschädigung aus seiner Sicht sein müsste oder wie sie sich zusammensetzen sollte. Auf die Rüge ist nicht einzutreten (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG).
4. Die Beschwerde ist gutzuheissen, soweit darauf einzutreten ist, und der angefochtene Entscheid aufzuheben. Ausgenommen ist Ziff. 1 lit. a des Dispositivs des angefochtenen Entscheids, welcher die Entschädigung für das Rekursverfahren während der Strafuntersuchung betrifft. Die Sache ist zur neuen materiellen Beurteilung im Sinne der Erwägungen an den Einzelrichter in Strafsachen des Bezirks Andelfingen und zur neuen Beurteilung der Kosten- und Entschädigungsfolgen des vorliegenden Rechtsmittelverfahrens an das Obergericht des Kantons Zürich zurückzuweisen.
Der Beschwerdeführer stellt ein Gesuch um unentgeltliche Rechtspflege. Dieses erweist sich weitgehend als gegenstandslos. Der Beschwerdeführer unterliegt indessen mit seinem Antrag, ihm sei für die verschiedenen Rekursverfahren im Zusammenhang mit dem Strafverfahren eine angemessene Entschädigung auszurichten. Auf dieses Begehren ist mangels hinreichender Begründung nicht einzutreten. Infolge Aussichtslosigkeit entfällt insofern der Anspruch auf unentgeltliche Rechtspflege nach Art. 64 Abs. 1 BGG (Urteil 1D_1/2009 vom 15. Juni 2009 E. 3.2 mit Hinweisen).
Bei diesem Ausgang des Verfahrens sind dem Beschwerdeführer die Gerichtskosten lediglich zu einem kleinen Teil aufzuerlegen. Der Kanton Zürich hat keine Gerichtskosten zu tragen (Art. 66 Abs. 4 BGG). Der Kanton Zürich hat dem Beschwerdeführer eine angemessene Parteientschädigung auszurichten (Art. 68 Abs. 2 BGG). Dabei ist zu berücksichtigen, dass der Wortlaut der Beschwerde weitgehend mit jenem der Beschwerde in einem parallelen Verfahren übereinstimmt (Verfahren 1B_499/2011).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Der angefochtene Entscheid, ausgenommen Ziff. 1 lit. a dessen Dispositivs, wird aufgehoben. Die Sache wird zur neuen materiellen Beurteilung im Sinne der Erwägungen an den Einzelrichter in Strafsachen des Bezirks Andelfingen und zur neuen Beurteilung der Kosten- und Entschädigungsfolgen des Rechtsmittelverfahrens an das Obergericht des Kantons Zürich zurückgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen, soweit es sich nicht als gegenstandslos erweist.
3. Die Gerichtskosten werden im Umfang von Fr. 250.-- dem Beschwerdeführer auferlegt.
4. Der Kanton Zürich hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'500.-- auszurichten.
5. Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft Winterthur/Unterland, Zweigstelle Flughafen, dem Einzelrichter in Strafsachen des Bezirks Andelfingen und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 30. November 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold