Sachverhalt: A. Am 17. August 2009 ereignete sich auf der Forchstrasse in Zollikerberg eine Kollision zwischen einem Personenwagen und einem Motorrad. X._, der Lenker des Motorrads, wurde dabei leicht verletzt. Ausserdem entstand an beiden Fahrzeugen ein Sachschaden. Am 7. September 2009 stellte X._ Strafantrag wegen fahrlässiger Körperverletzung gegen Y._, den Lenker des Personenwagens. B. Die in der Folge angehobene Strafuntersuchung gegen Y._ betreffend fahrlässige Körperverletzung wurde von der Staatsanwaltschaft IV des Kantons Zürich mit Verfügung vom 6. Dezember 2010 eingestellt, weil Y._ nicht rechtsgenügend nachgewiesen werden könne, eine Sorgfaltspflicht missachtet zu haben und damit in strafrechtlicher Hinsicht für die Verletzungen von X._ verantwortlich zu sein. Ein von X._ gegen die Einstellungsverfügung erhobener Rekurs wies das Obergericht des Kantons Zürich mit Beschluss vom 21. April 2011 ab, soweit es darauf eintrat. C. Gegen den Beschluss des Obergerichts gelangt X._ mit Beschwerde in Strafsachen ans Bundesgericht. Er beantragt, der angefochtene Entscheid sei aufzuheben und das Verfahren an die Staatsanwaltschaft zurückzuweisen, damit diese das Untersuchungsverfahren gegen Y._ weiterführe. D. Der Beschwerdegegner, die Staatsanwaltschaft und die Vorinstanz verzichten auf eine Vernehmlassung.