Sachverhalt: A. X._ war als Vertriebsvermittler für die A._ Ltd. und die B._ GmbH tätig. Beide Gesellschaften wurden von Z._ kontrolliert. Am 25. August 2003 erhoben X._ und weitere Personen Strafanzeige gegen Z._, den sie verdächtigten, Kundengelder in erheblichem Umfang veruntreut zu haben. Am 2. September 2003 wurde X._ als Auskunftsperson einvernommen. Am 27. August 2004 erliess die Bezirksanwaltschaft Zürich Vorführungsbefehl gegen X._, der mittlerweile ebenfalls der Veruntreuung verdächtigt wurde. Die Kantonspolizei Zürich vollzog diesen Vorführungsbefehl am 2. September 2004 am Arbeitsplatz von X._. Er wurde auf den Polizeiposten geführt, dort befragt, erkennungsdienstlich behandelt und am gleichen Tag wieder aus dem Polizeigewahrsam entlassen. Im Zusammenhang mit der Verhaftung vom 2. September 2004 machte X._ am 14. September 2004 gegenüber dem Regierungsrat des Kantons Zürich Haftungsansprüche geltend, da er seine Persönlichkeitsrechte verletzt sah. B. Am 10. Dezember 2004 lehnte die Finanzdirektion des Kantons Zürich die von X._ geltend gemachten Ansprüche ab. Darauf erhob X._ am 17. Dezember 2004 beim Bezirksgericht Zürich Klage gegen den Kanton Zürich mit dem Rechtsbegehren, es sei festzustellen, dass der Kanton Zürich durch die Verhaftung und (einzeln aufgeführte) nähere Umstände derselben seine Persönlichkeitsrechte verletzt habe. Nachdem in einem ersten Umgang das Bezirksgericht und das Obergericht auf die Klage nicht eingetreten waren und daraufhin das Kassationsgericht die Sache zur materiellen Beurteilung zurückgewiesen hatte, wies das Bezirksgericht Zürich die Klage von X._ mit Urteil vom 8. Oktober 2009 ab. Hiergegen erhob X._ Berufung beim Obergericht des Kantons Zürich. Dieses wies die Klage von X._ mit Urteil vom 4. Februar 2011 ab, soweit es darauf eintrat. C. Mit Eingabe vom 22. März 2011 führt X._ Beschwerde in Zivilsachen beim Bundesgericht und stellt den Antrag, das Urteil des Obergerichts sei aufzuheben, es sei auf die Klage auf Feststellung einer widerrechtlichen Persönlichkeitsverletzung einzutreten und es sei unter Gutheissung der Klage festzustellen, dass der Kanton Zürich durch die Verhaftung und (einzeln aufgeführte) nähere Umstände derselben seine Persönlichkeitsrechte verletzt habe. Die Finanzdirektion des Kantons Zürich schliesst auf Abweisung der Beschwerde; das Obergericht des Kantons Zürich verzichtet auf Vernehmlassung.