Sachverhalt: A. Die Staatsanwaltschaft III des Kantons Zürich ermittelt gegen X._ und weitere Personen wegen diverser Vermögensdelikte. Bei einer Hausdurchsuchung am 26. Mai 2010 stellte sie Akten und Daten sicher. Auf Verlangen von X._ wurden drei CD-ROM mit Daten (Pos. 4/21 des Durchsuchungsprotokolls) gesiegelt. Am 17. Oktober 2011 beantragte die Staatsanwaltschaft beim Obergericht des Kantons Zürich als Zwangsmassnahmengericht die Entsiegelung der Daten. Dieses trat am 18. November 2011 wegen Nichteinhaltung der Frist gemäss Art. 248 Abs. 2 StPO auf das Gesuch nicht ein. B. In der Folge gab die Staatsanwaltschaft die Datenträger frei (ohne sie zurückzugeben) und stellte sie am 25. November 2011 erneut sicher. Mit Schreiben vom 30. November 2011 ersuchte X._ um Siegelung der Datenträger, weil deren erneute Sicherstellung rechtsmissbräuchlich sei. Am 1. Dezember 2011 verfügte die Staatsanwaltschaft die Durchsuchung der Datenträger, weil X._ keine Gründe i.S.v. Art. 248 Abs. 1 StPO angegeben habe, die einer Durchsuchung entgegenstünden. Mit Verfügung vom 7. Dezember 2011 erteilte der Präsident der Beschwerdekammer der Beschwerde aufschiebende Wirkung. Dagegen erhob X._ am 5. Dezember 2011 Beschwerde beim Obergericht des Kantons Zürich und beantragte, es sei von einer Durchsuchung der Datenträger abzusehen. Die Staatsanwaltschaft vertrat die Auffassung, die Verfügung über die erneute Sicherstellung der Datenträger sei unangefochten geblieben; ihre Zulässigkeit könne daher nicht mehr überprüft werden. Eventualiter stellte sie ein Entsiegelungsgesuch. Am 9. Februar 2012 wies das Obergericht die Beschwerde ab. C. Dagegen hat X._ am 28. Februar 2012 Beschwerde an das Bundesgericht erhoben. Er beantragt, der angefochtene Beschluss des Obergerichts und die Verfügung der Staatsanwaltschaft vom 1. Dezember 2011 seien aufzuheben und es sei von der Durchsuchung der Daten auf den Datenträgern (Pos. 4/21 des Durchsuchungsprotokolls vom 26. Mai 2010) abzusehen. Er ersucht um Gewährung der aufschiebenden Wirkung. D. Die Staatsanwaltschaft und das Obergericht haben auf eine Vernehmlassung verzichtet.