Sachverhalt:
A. Die Staatsanwaltschaft Winterthur/Unterland, Zweigstelle Flughafen, führte gegen X._ und sechs weitere Personen (Y1._, Y2._, Y3._, Y4._, Y5._ und Y6._) eine Strafuntersuchung wegen Widerhandlungen gegen das BetmG (SR 812.121). Sie warf ihnen vor, durch ein Firmenkonglomerat, namentlich die Genossenschaft Q._ (im Folgenden: Q._), Hanfpflanzen mit einem THC-Gehalt zwischen 1.5 und 8.5 % angebaut, gezüchtet und geerntet zu haben. Die erzeugten Produkte sollen sie in verschiedenen Hanfläden verkauft haben.
Mit Verfügung vom 16. September 2008 stellte die Staatsanwaltschaft das Verfahren ein (Dispositiv Ziff. 1). Sie zog die im Laufe der Untersuchung bei Y1._, Y4._, Y5._, Y2._, Z._und der Q._ sichergestellten Beträge von insgesamt Fr. 62'828.30 sowie die bei Y5._ und X._ sichergestellten Beträge von insgesamt Fr. 20'465.-- zuhanden der Staatskasse ein (Ziff. 2). Von im Untersuchungsverfahren gesperrten Bankkonten zog die Staatsanwaltschaft insgesamt Fr. 55'662.86 zur (teilweisen) Deckung der Kosten ein (Ziff. 3). Die übrigen Konten gab sie frei (Ziff. 4). Die Kosten des Strafverfahrens auferlegte sie den Angeschuldigten zu je einem Siebtel unter solidarischer Haftung (Ziff. 5). Die Kosten der amtlichen Verteidigung auferlegte sie ebenfalls den Angeschuldigten, wobei sie die Festlegung der Höhe dieser Kosten dem Entscheid des Präsidenten des Bezirksgerichts Andelfingen vorbehielt (Ziff. 6).
In der Folge gelangten Y2._, Y5._ und X._ an den Einzelrichter in Strafsachen des Bezirksgerichts Andelfingen. Mit Verfügung vom 27. Oktober 2010 vereinigte dieser die drei Verfahren und ordnete an, dass die sichergestellten Beträge von Fr. 62'828.30 und Fr. 20'465.-- ebenfalls zur Kostendeckung zu verwenden seien. Weitere von X._ gestellte Anträge wies der Einzelrichter in Strafsachen ab, soweit er darauf eintrat. Die Verfahrenskosten und die Kosten für die amtliche Verteidigung auferlegte er den Gesuchstellern.
Einen dagegen von X._ eingelegten Rekurs hiess das Obergericht des Kantons Zürich mit Beschluss vom 10. August 2011 teilweise gut. Es ordnete an, dass X._ für Rekursverfahren während der Strafuntersuchung, in welchen er obsiegt hatte und in welchen die Entschädigung dem Hauptverfahren vorbehalten worden war, eine Entschädigung von insgesamt Fr. 200.-- auszurichten sei. Ebenfalls ordnete es an, dass 1/20 der X._ im Verfahren vor dem Einzelrichter auferlegten Gerichtsgebühren und Kosten der amtlichen Verteidigung auf die Gerichtskasse genommen würden. Im Übrigen wies das Obergericht den Rekurs ab, soweit es darauf eintrat.
B. Mit Beschwerde in Strafsachen an das Bundesgericht vom 16. September 2011 beantragt X._ die Aufhebung des Beschlusses des Obergerichts. Die Kosten des Strafverfahrens, einschliesslich der Kosten der amtlichen Verteidigung, seien auf die Staatskasse zu nehmen. Sämtliche von ihm sichergestellten Vermögenswerte seien herauszugeben. Für die Folgen des Strafverfahrens sei ihm eine angemessene Entschädigung auszurichten. Ebenfalls sei er für die verschiedenen Rekursverfahren im Zusammenhang mit dem Strafverfahren angemessen zu entschädigen. Eventualiter sei die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
Der Einzelrichter in Strafsachen des Bezirks Andelfingen und das Obergericht des Kantons Zürich haben auf eine Vernehmlassung verzichtet. Die Staatsanwaltschaft Winterthur/Unterland beantragt die Bestätigung des angefochtenen Entscheids.
Mit Präsidialverfügung vom 5. Oktober 2011 hat das Bundesgericht der Beschwerde die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Der angefochtene Entscheid betrifft die Einstellung einer Strafuntersuchung. Dagegen ist die Beschwerde in Strafsachen nach Art. 78 ff. BGG gegeben.
1.2 Die Einstellungsverfügung datiert vom 16. September 2008. Anwendbar ist deshalb die Strafprozessordnung des Kantons Zürich vom 4. Mai 1919 (StPO/ZH) und nicht die am 1. Januar 2011 in Kraft getretene Schweizerische Strafprozessordnung (StPO, SR 312.0; siehe Art. 453 f. StPO und Urteil 1B_411/2010 vom 7. Februar 2011 E. 1.3 mit Hinweisen).
1.3 Ein kantonales Rechtsmittel steht nicht zur Verfügung. Die Beschwerde ist nach Art. 80 BGG zulässig. Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und hat ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids. Er ist daher nach Art. 81 Abs. 1 BGG zur Beschwerde befugt. Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist grundsätzlich einzutreten.
2. 2.1 Der Beschwerdeführer macht geltend, die Kostenauflage und die Verweigerung einer Entschädigung im angefochtenen Entscheid verletzten die Unschuldsvermutung (Art. 32 Abs.1 BV und Art. 6 Ziff. 2 EMRK). Die in diesem Zusammenhang gegen ihn erhobenen Vorwürfe deckten sich mit dem strafrechtlichen Vorwurf, sowohl hinsichtlich der objektiven wie auch der subjektiven Tatbestandselemente. Auch sei - abgesehen von der Ausübung von Verteidigungsrechten - kein Verhalten im Untersuchungsverfahren erkennbar, das ihm vorwerfbar wäre. Sei demnach die Kostenauflage nicht zulässig, entfalle auch der Grund für die Beschlagnahme bzw. die Einziehung seiner Vermögenswerte (§ 83 StPO/ZH). Diese seien an ihn herauszugeben, und es sei ihm für die Folgen des Strafverfahrens eine angemessene Entschädigung auszurichten.
2.2 Nach § 42 Abs. 1 StPO/ZH werden die Kosten einer eingestellten Untersuchung von der Staatskasse getragen. Sie werden dem Angeschuldigten ganz oder teilweise auferlegt, wenn er die Untersuchung durch ein verwerfliches oder leichtfertiges Verhalten verursacht oder die Durchführung der Untersuchung erschwert hat. Gemäss § 43 StPO/ZH ist, wenn dem Angeklagten die Kosten nicht auferlegt werden, darüber zu entscheiden, ob ihm eine Entschädigung für die durch die Untersuchung verursachten Kosten und Umtriebe sowie eine Genugtuung auszurichten ist (Abs. 1). Ein Angeschuldigter, dem wesentliche Kosten und Umtriebe erwachsen sind, hat Anspruch auf eine Entschädigung. Diese wird jedoch ganz oder teilweise verweigert, wenn der Angeschuldigte die Untersuchung durch ein verwerfliches oder leichtfertiges Benehmen verursacht oder ihre Durchführung erschwert hat (Abs. 2).
2.3 Nach der Rechtsprechung des Bundesgerichts zu Art. 32 Abs. 1 BV und Art. 6 Ziff. 2 EMRK dürfen einem Angeschuldigten bei Freispruch oder Einstellung des Verfahrens nur dann Kosten auferlegt werden, wenn er durch ein unter rechtlichen Gesichtspunkten vorwerfbares Verhalten die Einleitung eines Strafverfahrens veranlasst oder dessen Durchführung erschwert hat. Bei der Kostenpflicht des freigesprochenen oder aus dem Verfahren entlassenen Angeschuldigten handelt es sich nicht um eine Haftung für ein strafrechtliches Verschulden, sondern um eine zivilrechtlichen Grundsätzen angenäherte Haftung für ein fehlerhaftes Verhalten, durch das die Einleitung oder Erschwerung eines Strafverfahrens verursacht wurde. Wie das Bundesgericht festgehalten hat, ist es mit Art. 32 Abs. 1 BV und Art. 6 Ziff. 2 EMRK vereinbar, einem nicht verurteilten Angeschuldigten die Kosten aufzuerlegen, wenn er in zivilrechtlich vorwerfbarer Weise gegen eine Verhaltensnorm, die sich aus der Gesamtheit der schweizerischen Rechtsordnung ergeben kann, klar verstossen und dadurch das Strafverfahren veranlasst oder dessen Durchführung erschwert hat (BGE 119 Ia 332 E. 1b S. 334 mit Hinweisen). Dabei darf sich die Kostenauflage in tatsächlicher Hinsicht nur auf unbestrittene oder bereits klar nachgewiesene Umstände stützen (BGE 112 Ia 371 E. 2a S. 374; Urteil 6B_835/2009 vom 21. Dezember 2009 E. 1.2, in: Pra 2010 Nr. 48 S. 351). Hingegen verstösst eine Kostenauflage bei Freispruch oder Einstellung des Strafverfahrens gegen den Grundsatz der Unschuldsvermutung, wenn dem Angeschuldigten in der Begründung des Kostenentscheids direkt oder indirekt vorgeworfen wird, er habe sich strafbar gemacht bzw. es treffe ihn ein strafrechtliches Verschulden (BGE 120 Ia 147 E. 3b S. 155; 6B_86/2009 vom 29. Oktober 2009 E. 9.3).
2.4 Wird eine Kostenauflage wegen Verletzung der Unschuldsvermutung angefochten, so prüft das Bundesgericht frei, ob der Kostenentscheid direkt oder indirekt den Vorwurf einer strafrechtlichen Schuld enthält. Nur unter dem Gesichtswinkel der Willkür untersucht es, ob die beschuldigte Person in zivilrechtlich vorwerfbarer Weise gegen eine geschriebene oder ungeschriebene Verhaltensnorm klar verstossen und durch ihr Benehmen das Strafverfahren veranlasst oder dessen Durchführung erschwert hat. Insoweit greift ausschliesslich Art. 9 BV Platz, wonach die kantonalen Kostenbestimmungen nicht willkürlich angewendet werden dürfen (vgl. BGE 116 Ia 162 E. 2f S. 175 f.; Urteil 6B_835/2009 vom 21. Dezember 2009 E. 1.3; je mit Hinweisen).
2.5 Die Vorinstanz legte dar, nach der Fassung des Betäubungsmittelgesetzes, wie sie im Zeitpunkt der Strafuntersuchung in Kraft war, seien Hanfkraut, das Harz der Drüsenhaare des Hanfkrauts und der Wirkstoff THC Betäubungsmittel. Nach aArt. 8 Abs. 1 lit. d BetmG dürfe Hanfkraut zur Betäubungsmittelgewinnung und das Harz seiner Drüsenhaare nicht angebaut, eingeführt, hergestellt oder in Verkehr gebracht werden. Nach der Rechtsprechung sei der Grenzwert des THC-Gehalts von 0.3 % massgeblich dafür, ob ein Hanfprodukt als Betäubungsmittel gelte und nach aArt. 8 Abs. 1 lit. d BetmG nicht in Verkehr gebracht werden dürfe (BGE 126 IV 198 E. 1 S. 199 f. mit Hinweisen). Aufgrund des THC-Gehalts handle es sich bei den von der Q._ bzw. vom Beschwerdeführer angebauten und vertriebenen Hanfpflanzen bzw. Hanfblüten und deren Produkten (sog. "Trockenblumen") um Betäubungsmittel. Es sei zudem davon auszugehen, dass der Beschwerdeführer in der Q._ eine tragende Rolle gespielt habe. Im Rahmen der Aufgabenteilung und der eingenommenen Funktionen hätten die Mitbeschuldigten und der Beschwerdeführer die Vornahme der Handlungen bzw. die Herstellung und den Vertrieb der Betäubungsmittel zumindest in Kauf genommen. Der Beschwerdeführer habe als Genossenschafter den Anbau und Vertrieb von Betäubungsmitteln durch die Genossenschaft gefördert und hingenommen. Er habe gewusst, dass der Hanf auch als Betäubungsmittel konsumiert werden konnte und habe den THC-Gehalt nicht überprüft. Aus alledem ergebe sich, dass der Beschwerdeführer gegen aArt. 8 BetmG verstossen habe. Ob bei einem Verstoss gegen diese Norm gleichzeitig eine strafbare Handlung im Sinne von Art. 19 ff. BetmG vorliege, sei nicht massgebend. Die Durchführung einer Strafuntersuchung sei durch das Verhalten des Beschwerdeführers verursacht worden.
Mit der Auflage der Kosten entfalle die Basis für die vom Beschwerdeführer geforderte Entschädigung und Genugtuung für die Polizei- und Untersuchungshaft.
In Bezug auf die Forderung des Beschwerdeführers nach Freigabe seiner Vermögenswerte legte das Obergericht dar, die Beschlagnahme bzw. Einziehung zur Deckung der Prozesskosten setze nicht voraus, dass das Vermögen deliktischen Ursprungs sei. Der Einzelrichter habe die Einziehung mit dem Hinweis auf § 83 StPO/ZH begründet. Damit habe sich der Beschwerdeführer nicht auseinandergesetzt. Der Rekurs sei insofern abzuweisen, soweit darauf einzutreten sei.
2.6 Das Obergericht ist nach dem Gesagten der Ansicht, dass der Beschwerdeführer gegen aArt. 8 BetmG verstossen habe und dass es sich bei dieser Bestimmung um eine Verhaltensnorm handle, welche unabhängig vom strafrechtlichen Vorwurf sei. Diese zweite Annahme ist indessen falsch. Art. 8 BetmG (in der damals bestehenden wie auch in der aktuellen Fassung) hat nicht im Sinne der Annahme der Vorinstanz eine gegenüber den Strafbestimmungen von (a)Art. 19 ff. BetmG selbständige Bedeutung. Dies geht einerseits aus der bundesgerichtlichen Rechtsprechung hervor. Im Urteil 6P.51/2000 vom 3. August 2000 hat das Bundesgericht ausgeführt, dass gemäss Art. 8 Abs. 1 lit. d BetmG Hanfkraut zur Betäubungsmittelgewinnung und das Harz seiner Drüsenhaare (Haschisch) nicht angebaut, eingeführt, hergestellt oder in Verkehr gebracht werden dürfen, und dass, wer dem Verbot zuwiderhandelt, sich nach Art. 19 Ziff. 1 BetmG strafbar macht (a.a.O., E. 2a mit Hinweis auf BGE 126 IV 60 E. 2a S. 62 f.; vgl. auch Urteile 6S.189/2001 vom 31. Mai 2001 E. 2b mit Hinweisen, in: Pra 2001 Nr. 182 S. 1107; 6S.715/2001 vom 3. Oktober 2002 E. 2). Andererseits ist gerade im vorliegenden Fall ersichtlich, dass sich der Vorwurf der Vorinstanz, der Beschwerdeführer habe gegen aArt. 8 BetmG verstossen, nicht vom Vorwurf des (eventualvorsätzlichen) Verstosses gegen aArt. 19 Abs. 1 BetmG unterscheiden lässt. Ein derartiges strafbares Verhalten des Beschwerdeführers ist indessen nicht bewiesen. Indem das Obergericht angenommen hat, der Beschwerdeführer habe die Herstellung und den Vertrieb von Betäubungsmitteln zumindest in Kauf genommen, hat es die Unschuldsvermutung verletzt.
2.7 Ist es somit unzulässig, dem Beschwerdeführer die Kosten der eingestellten Untersuchung aufzuerlegen (§ 42 Abs. 1 StPO/ZH), so stellt sich gemäss § 43 Abs. 1 StPO/ZH die Frage, ob ihm eine Entschädigung für die durch die Untersuchung verursachten Kosten und Umtriebe sowie eine Genugtuung auszurichten ist. Dies neu zu beurteilen, wird dem Einzelrichter in Strafsachen des Bezirks Andelfingen obliegen.
Beim Beschwerdeführer wurden gestützt auf § 83 StPO zur Deckung der Verfahrenskosten Vermögenswerte beschlagnahmt. Da diese Kosten nach dem Gesagten nicht dem Beschwerdeführer hätten auferlegt werden dürfen, sind die Vermögenswerte wieder herauszugeben.
3. Der Beschwerdeführer rügt schliesslich, dass ihm für zwei während des Untersuchungsverfahrens erhobene Rekurse keine angemessene Entschädigung zugesprochen worden sei. Der Entscheid der Vorinstanz sei diesbezüglich willkürlich, aktenwidrig und stelle einen Verstoss gegen den Anspruch auf ein faires Verfahren dar. Der Beschwerdeführer rügt in diesem Zusammenhang das Vorgehen der kantonalen Behörden in jenen Rekursverfahren. Weshalb aber die ihm zugesprochene Entschädigung rechtswidrig sein sollte, legt er nicht dar. Im Übrigen macht er auch nicht geltend, wie hoch die Entschädigung aus seiner Sicht sein müsste oder wie sie sich zusammensetzen sollte. Auf die Rüge ist nicht einzutreten (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG).
4. Die Beschwerde ist gutzuheissen, soweit darauf einzutreten ist, und der angefochtene Entscheid aufzuheben. Ausgenommen ist Ziff. 1 lit. a des Dispositivs des angefochtenen Entscheids, welcher die Entschädigung für die Rekursverfahren während der Strafuntersuchung betrifft. Die Sache ist zur neuen materiellen Beurteilung im Sinne der Erwägungen an den Einzelrichter in Strafsachen des Bezirks Andelfingen und zur neuen Beurteilung der Kosten- und Entschädigungsfolgen des vorliegenden Rechtsmittelverfahrens an das Obergericht des Kantons Zürich zurückzuweisen.
Bei diesem Ausgang des Verfahrens sind dem Beschwerdeführer die Gerichtskosten lediglich zu einem kleinen Teil aufzuerlegen. Der Kanton Zürich hat keine Gerichtskosten zu tragen (Art. 66 Abs. 4 BGG). Der Kanton Zürich hat dem Beschwerdeführer eine angemessene Parteientschädigung auszurichten (Art. 68 Abs. 2 BGG). Dabei ist zu berücksichtigen, dass der Wortlaut der Beschwerde weitgehend mit jenem der Beschwerde in einem parallelen Verfahren übereinstimmt (Verfahren 1B_497/2011).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Der angefochtene Entscheid, ausgenommen Ziff. 1 lit. a dessen Dispositivs, wird aufgehoben. Die Sache wird zur neuen materiellen Beurteilung im Sinne der Erwägungen an den Einzelrichter in Strafsachen des Bezirks Andelfingen und zur neuen Beurteilung der Kosten- und Entschädigungsfolgen des Rechtsmittelverfahrens an das Obergericht des Kantons Zürich zurückgewiesen.
2. Die Gerichtskosten werden im Umfang von Fr. 250.-- dem Beschwerdeführer auferlegt.
3. Der Kanton Zürich hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'500.-- auszurichten.
4. Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft Winterthur/Unterland, Zweigstelle Flughafen, dem Einzelrichter in Strafsachen des Bezirks Andelfingen und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 30. November 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold