Sachverhalt: A. X._ (geb. 1983), kosovarischer Staatsangehöriger, ehelichte am 18. Juli 2003 die ebenfalls aus Kosovo stammende Y._ (geb. 1982), welche am 30. April 1999 in die Schweiz eingereist war und heute im Besitz einer Niederlassungsbewilligung ist. Am 11. August 2004 reiste X._ in die Schweiz ein und erhielt im Rahmen des Familiennachzugs eine Aufenthaltsbewilligung zum Verbleib bei der Ehefrau. Aus der Ehe ging die 2007 geborene Tochter Z._ hervor; diese wurde in die Niederlassungsbewilligung der Mutter einbezogen. Am 2. Oktober 2008 verurteilte das Obergericht des Kantons Zürich (nachfolgend: Obergericht) X._ wegen versuchter schwerer Körperverletzung rechtskräftig zu einer Freiheitsstrafe von 30 Monaten, aufgeschoben im Umfang von 20 Monaten und mit einer Probezeit von zwei Jahren. B. Mit Verfügung vom 10. Februar 2009 widerrief das Migrationsamt des Kantons Zürich (nachfolgend: Migrationsamt) die am 10. August 2009 auslaufende Aufenthaltsbewilligung und wies X._ aus der Schweiz weg. Den dagegen erhobenen Rekurs wies der Regierungsrat des Kantons Zürich am 2. März 2011 ab, soweit er nicht gegenstandslos geworden sei. Das Verwaltungsgericht des Kantons Zürich bestätigte diesen Entscheid mit Urteil vom 28. September 2011, wobei es nunmehr die Erteilung einer Niederlassungsbewilligung als Streitgegenstand bestimmte. C. X._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, das Urteil des Verwaltungsgerichts des Kantons Zürich vom 28. September 2011 sei aufzuheben und das Migrationsamt sei anzuweisen, ihm eine Niederlassungsbewilligung zu erteilen; eventuell sei die Sache zwecks zusätzlicher Sachverhaltsabklärungen und anschliessender Neuentscheidung an die Vorinstanz zurückzuweisen. Das Verwaltungsgericht des Kantons Zürich beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Bundesamt für Migration schliesst auf Abweisung der Beschwerde, während das Migrationsamt und der Regierungsrat des Kantons Zürich sich nicht vernehmen lassen. Am 24. November 2011 hat der Präsident der II. öffentlich-rechtlichen Abteilung der Beschwerde antragsgemäss aufschiebende Wirkung erteilt.