Erwägungen:
1. Der 1965 geborene türkische Staatsangehörige X._ reiste im Jahr 1987 in die Schweiz ein. Am 26. Juli 2005 wurde ihm die Niederlassungsbewilligung erteilt. Er ist in zweiter Ehe mit einer Landsfrau verheiratet, welche 1996 im Rahmen des Familiennachzugs in die Schweiz einreiste. Mit dieser hat er zwei Söhne (geb. 1997 und 2006).
X._ wurde in der Schweiz in erheblichem Ausmass straffällig: Nachdem er mit Strafbefehl der Bezirksanwaltschaft Winterthur vom 25. August 2003 eines Vergehens gegen das Waffengesetz schuldig erkannt wurde, verurteilte ihn das Obergericht des Kantons Zürich am 16. Januar 2009 wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz zu einer Freiheitsstrafe von vier Jahren; dem Urteil des Obergerichts lag zugrunde, dass sich X._ aus rein finanziellen Motiven, ohne selbst rauschgiftsüchtig zu sein, am organisierten Drogenhandel beteiligt und insbesondere an der Umsetzung von mehreren Kilogramm Heroin mitgewirkt hatte.
Als Folge dieser Delinquenz widerrief das Migrationsamt des Kantons Zürich am 26. Juli 2010 die Niederlassungsbewilligung von X._. Die hiergegen ergriffenen Rechtsmittel wurden von der Sicherheitsdirektion des Kantons Zürich (Rekursentscheid vom 8. Dezember 2010) und vom Verwaltungsgericht des Kantons Zürich (Beschwerdeentscheid vom 3. März 2011) abgewiesen.
2. Gegen Entscheide betreffend den Widerruf der Niederlassungsbewilligung ist die von X._ am 5. April 2011 erhobene Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht zulässig (BGE 135 II 1 E. 1.2.1 S. 4). Auf die von X._ eventualiter ebenfalls erhobene subsidiäre Verfassungsbeschwerde ist daher nicht einzutreten (Art. 113 BGG).
3. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich als offensichtlich unbegründet, weshalb sie im vereinfachten Verfahren nach Art. 109 BGG mit summarischer Begründung erledigt werden kann:
3.1 Nach Art. 63 Abs. 1 lit. a AuG (in Verbindung mit Art. 62 lit. b AuG) kann die Niederlassungsbewilligung widerrufen werden, wenn der Ausländer zu einer längerfristigen Freiheitsstrafe verurteilt wurde. Als längerfristig gilt eine Freiheitsstrafe von mehr als einem Jahr (BGE 135 II 377 E. 4.2 S. 379 ff.). Diese Voraussetzung ist vorliegend unbestrittenermassen erfüllt.
3.2 Der Beschwerdeführer beruft sich einzig darauf, dass die angeordnete Massnahme unverhältnismässig sei. Die erhobene Rüge geht jedoch ins Leere: Richtig ist wohl, dass ein Widerruf der Bewilligung aufgrund der gesamten Umstände des Einzelfalls verhältnismässig sein muss. Dies hat das Verwaltungsgericht aber nicht verkannt. Vielmehr hat es sich mit den diesbezüglichen Einwendungen des Beschwerdeführers vertieft und sorgfältig auseinandergesetzt. In sachgerechter Weise hat es sodann die hier massgeblichen öffentlichen Interessen an einer Ausreise des Beschwerdeführers und dessen private Interessen an einem Verbleib in der Schweiz sowie die Interessen seiner Familie gewürdigt und es für zumutbar erachtet, dass der Beschwerdeführer in die Türkei zurückkehrt.
3.3 Diese Schlussfolgerung der Vorinstanz ist nicht zu beanstanden: Gemäss ständiger Rechtsprechung besteht ein erhebliches öffentliches Interesse an der Fernhaltung ausländischer Drogenhändler (Urteil 2A.582/2006 vom 26. Februar 2007 E. 3.5; vgl. BGE 125 II 521 E. 4a/aa und E. 4a/bb S. 526 ff.). Das hohe Strafmass und die grosse Menge Heroin, welche der Beschwerdeführer umgesetzt hat, implizieren zudem ein besonders schweres Verschulden und schliessen auch nach langer Aufenthaltsdauer ein Verbleiben des Ausländers in der Schweiz in aller Regel aus (BGE 125 II 521 E. 2b und E. 4a/aa S. 523 ff.; 122 II 433 E. 2c S. 436; vgl. Urteile 2C_642/2009 vom 25. März 2010 E. 4.2.1; 2C_315/2009 vom 27. Oktober 2009 E. 5.2.3; 2C_632/2008 vom 11. September 2008 E. 2.3; 2A.582/2006 vom 26. Februar 2007 E. 3.4). Kein entscheidendes Gewicht kommt dabei dem Einwand des Beschwerdeführers zu, das Risiko einer erneuten Straffälligkeit könne durch eine Psychotherapie reduziert werden: Die Frage der Rückfallgefahr ist zwar im Rahmen der Interessenabwägung mitzuberücksichtigen, aber nicht allein ausschlaggebend. Im Übrigen muss bei schweren Straftaten - wozu auch Drogendelikte der vorliegenden Art gehören - selbst ein geringes Restrisiko nicht in Kauf genommen werden (BGE 130 II 176 E. 4.2 bis E. 4.4 S. 185 ff. mit Hinweisen).
Spezifische persönliche Umstände, die einer Ausreise des Beschwerdeführers entgegenstehen würden, liegen demgegenüber nicht vor: Soweit sich der Beschwerdeführer auf die von ihm geltend gemachten medizinischen Probleme beruft, ist er grundsätzlich auf die diesbezüglichen Erwägungen der Vorinstanz zu verweisen. Ergänzend bleibt festzuhalten, dass der vorliegend streitige Widerruf der Niederlassungsbewilligung keinen Einfluss darauf hat, an welchem Ort in der Türkei der Beschwerdeführer nach seiner Rückkehr Wohnsitz nimmt; es ist daher unbehelflich, wenn der Beschwerdeführer vor allem den mangelhaften Zustand der medizinischen Infrastruktur in Ostanatolien behauptet, zumal er auch in eine Grossstadt wie Istanbul oder Ankara ziehen kann, wo es Universitätskliniken gibt, die eine vergleichbare medizinische Versorgung wie in Zentraleuropa gewährleisten. Selbst wenn die medizinische Versorgung in der Türkei aber nicht in jeder Hinsicht dem schweizerischen Standard entsprechen sollte, würde dies der angeordneten Massnahme nicht entgegenstehen (Urteile 2C_76/2011 vom 26. Juli 2011 E. 3.3; 2C_477/2008 vom 24. Februar 2009 E. 3.3.2; 2C_341/2010 vom 14. Oktober 2010 E. 5.3). Aus diesem Grund erübrigen sich auch die diesbezüglich vom Beschwerdeführer beantragten weiteren Beweiserhebungen.
Angesichts der Schwere der vom Beschwerdeführer begangenen Drogendelikte ist ein Widerruf seiner Niederlassungsbewilligung ferner unabhängig davon gerechtfertigt, ob den Familienangehörigen eine Ausreise zumutbar ist (BGE 135 II 377 E. 4.4 S. 382 f. mit Hinweisen).
4. Aus den genannten Gründen ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen. Entsprechend diesem Verfahrensausgang hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen (Art. 66 Abs. 1 BGG). Da die Beschwerde von vornherein aussichtslos erschien, kann dem Gesuch um unentgeltliche Rechtspflege und Verbeiständung nicht entsprochen werden (Art. 64 Abs. 1 BGG e contrario).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen
4. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt und der Sicherheitsdirektion des Kantons Zürich, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 25. August 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Seiler
Der Gerichtsschreiber: Zähndler