Faits: A. Ressortissant turc né en Suisse en 1981, X._ a été mis au bénéfice d'une autorisation d'établissement et vit à Fribourg. Il est marié à une ressortissante suisse depuis le 9 octobre 2009, avec laquelle il affirme vivre depuis dix ans. Le 5 mai 2009, une fille est née de leur union. Sur le plan professionnel, X._ a effectué deux ans d'apprentissage en qualité de maçon, avant d'interrompre cette formation, alternant depuis lors des périodes de travail et d'inactivité. Il a notamment exercé une activité temporaire de juillet à novembre 2008. Financièrement, il faisait, au 30 décembre 2008, l'objet d'actes de défaut de biens pour un montant de 7'029 fr. 75. Aidé depuis mai 2002 par le Service de l'aide sociale de la Ville de Fribourg, sa dette sociale s'élevait à 52'744 fr. 80 au 1er avril 2008, étant précisé qu'il n'est plus assisté depuis cette dernière date. B. Depuis l'âge de quinze ans, X._ a régulièrement fait l'objet de condamnations pénales en Suisse. Ainsi, la Chambre pénale des mineurs l'a sanctionné le 16 octobre 1995, à deux jours de travail pour vol et conduite sans permis; le 28 janvier 1997, à quatre jours de détention ferme pour injures et menaces; le 26 mai 1998, à sept jours d'emprisonnement pour rixe; le 9 février 1999, à quatorze jours de détention ferme pour lésions coporelles simples et dommages à la propriété. A l'âge adulte, X._ a été condamné par l'Office des juges d'instruction le 16 janvier 2002 à deux mois d'emprisonnement, avec sursis et délai d'épreuve de quatre ans, pour dommages à la propriété, violence ou menace contre les autorités et les fonctionnaires, opposition aux actes de l'autorité et délit contre la loi fédérale sur les stupéfiants [LStup; RS 812.121]; le 27 octobre 2003, à trente jours d'emprisonnement, avec sursis et délai d'épreuve de cinq ans et 600 fr. d'amende, pour rixe et contravention à la loi fédérale sur le transport public [aLTP]; le 4 juin 2004, à dix jours d'arrêt et 200 fr. d'amende pour contraventions à la LStup et à l'aLTP; le 26 novembre 2004, à dix jours d'arrêt et 200 fr. d'amende pour contraventions à la LStup et à l'aLTP. Le 20 avril 2005, la Cour d'appel pénal du canton de Fribourg a condamné X._ à dix-sept mois d'emprisonnement, avec sursis, délai d'épreuve de quatre ans et 100 fr. d'amende, pour vol en bande et tentative de vol en bande, dommages à la propriété, violation de domicile et contravention à l'aLTP. L'Office des juges d'instruction l'a encore condamné le 30 octobre 2006, à vingt jours d'emprisonnement pour agression; le 31 octobre 2007, à vingt heures de travail d'intérêt général, avec sursis, délai d'épreuve de trois ans et 200 fr. d'amende, pour délit et contravention à la LStup; le 9 janvier 2009, à trente jours de peine privative de liberté pour agression. Par jugement du 4 octobre 2010, le Tribunal pénal de l'arrondissement de la Sarine a reconnu X._ coupable de conduite en état d'ébriété et d'infraction à la LStup. Il l'a condamné à une peine privative de liberté de trente mois, dont douze mois fermes et dix-huit mois avec sursis pendant un délai d'épreuve de cinq ans, et au paiement d'une amende de 500 fr., peine d'ensemble englobant celles prononcées les 20 avril 2005 et 31 octobre 2007. C. Par décision du 21 avril 2006, le Service de la population et des migrants de l'Etat de Fribourg (ci-après: le Service cantonal) a menacé X._ d'expulsion. A la suite de l'ouverture d'une procédure de révocation le 27 août 2008, le Service cantonal a, par décision du 10 février 2009, révoqué l'autorisation d'établissement de l'intéressé en lui impartissant un délai de trente jours pour quitter la Suisse. Par arrêt du 17 février 2011, la Ie Cour administrative du Tribunal cantonal du canton de Fribourg (ci-après: le Tribunal cantonal) a rejeté le recours de X._ contre la décision du 10 février 2009. D. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de dépens, principalement, de réformer l'arrêt du 17 février 2011 dans le sens où la décision du 10 février 2009 est annulée et l'autorisation d'établissement du recourant confirmée; subsidiairement, d'annuler l'arrêt querellé et de renvoyer la cause au Tribunal cantonal pour qu'il rende une nouvelle décision. Le Service cantonal se réfère aux considérants de l'arrêt attaqué. Dans un message du 16 juin 2011 à l'attention du Tribunal cantonal, il a transmis à titre d'information un arrêt de la Cour d'appel pénal du Tribunal cantonal fribourgeois du 8 juin 2011 confirmant la condamnation prononcée le 4 octobre 2010 par le Tribunal d'arrondissement de la Sarine. Par ordonnance présidentielle du 30 mars 2011, le Tribunal fédéral a admis la requête d'effet suspensif formée par X._.