Faits:
A. X._, ressortissant marocain, né en 1984, est arrivé en Suisse le 26 août 1996, à l'âge de douze ans, pour rejoindre sa mère qui séjournait déjà dans le canton de Vaud depuis janvier 1990. Au bénéfice d'une autorisation annuelle de séjour, puis d'un permis d'établissement, il a fréquenté l'école obligatoire à Yverdon-les-Bains, d'abord en voie secondaire à option pendant une année, puis en voie secondaire générale, soit du 17 août 1998 au 26 janvier 2001, date à laquelle il est retourné vivre au Maroc, où il a séjourné environ deux ans, avant de revenir en Suisse. De son côté, sa mère est rentrée définitivement au Maroc en juin 2003.
B. X._ a été condamné pénalement à plusieurs reprises:
- déjà comme mineur, pour vols et dommages à la propriété;
- le 4 mars 2004, le Tribunal de police de l'arrondissement de La Broye et du Nord vaudois lui a infligé une peine de trois mois d'emprisonnement, sous déduction de dix jours de détention préventive, avec sursis pendant deux ans, ainsi qu'une amende de 100 fr., pour vols, dommages à la propriété, violation de domicile, vol d'usage, conduite sans permis et sans couverture d'assurance responsabilité civile, usage abusif de plaques et contravention à la loi fédérale sur les stupéfiants (LStup);
- le 24 mai 2004, le Juge d'instruction du Nord vaudois l'a condamné pour tentative de vol, brigandage, dommages à la propriété, menaces, violation de domicile et contravention à la LStup, à trois mois d'emprisonnement avec sursis pendant deux ans;
- le 15 décembre 2006, le Juge d'instruction du Nord vaudois l'a condamné à 400 fr. d'amende pour contravention à la LStup et a renoncé à révoquer le sursis précédent;
- par jugement du 21 février 2008, le Tribunal correctionnel de l'arrondissement de l'Est vaudois a condamné X._ pour désistement de brigandage simple et en bande, tentative de brigandage en bande, actes préparatoires à brigandage en bande et contravention à la LStup, à une peine privative de liberté de quatre ans, sous déduction de 345 jours de détention préventive, cette peine étant complémentaire à la sanction infligée le 15 décembre 2006, et a mis les frais de la cause à sa charge, par 27'713 fr. 15. Le jugement retient en substance que X._ a cherché à trois reprises à attaquer une bijouterie, la première fois seul, muni d'un pistolet à billes, la deuxième fois avec deux complices, l'un dans la bijouterie et l'autre à l'extérieur, et la troisième fois accompagné des mêmes personnes, mais après la fermeture, en ayant obtenu par contrainte les clés de la bijouterie auprès d'une employée. Lors des deux premières tentatives, il avait renoncé de lui-même à la commission de l'acte délictueux et, à la troisième, c'était le déclenchement de l'alarme qui l'avait contraint à abandonner son projet. Il avait également volé une voiture avec l'un des co-accusés et un autre complice en vue de commettre un brigandage dans la discothèque Y._, où il avait travaillé, mais le projet n'avait pas été mené à terme.
C. X._ a été placé en détention préventive depuis le 15 mars 2007 à la Prison de la Tuillière. Le 29 avril 2008, il a été transféré aux Etablissements de Bellechasse et n'a posé aucun problème en détention.
Par décision du 30 mars 2009, l'Office d'exécution des peines a autorisé X._ à poursuivre l'exécution de sa peine sous le régime du travail externe. Un contrat de stage a été conclu avec l'entreprise Z._ SA, à Yverdon-les-Bains, qui s'occupe de la vente de vin et a accepté de l'engager en qualité de conseiller à la clientèle dès le 20 avril 2009.
D. Le 30 mars 2009, le Chef du Département de l'intérieur du canton de Vaud a prononcé la révocation de l'autorisation d'établissement de X._ et lui a imparti un délai immédiat pour quitter la Suisse dès qu'il aurait satisfait à la justice vaudoise.
Le 9 avril 2009, X._ a recouru contre cette décision auprès du Tribunal cantonal du canton de Vaud (Cour de droit administratif et public), qui a renoncé à mettre en oeuvre une expertise sur le risque de récidive, mais a procédé, le 1er juillet 2009, à l'interrogatoire de l'intéressé et à l'audition d'un témoin.
Par arrêt du 7 août 2009, le Tribunal cantonal a rejeté le recours. Il a notamment retenu qu'une expertise n'était pas nécessaire au vu des éléments figurant déjà au dossier. Sur le fond, il a jugé que le recourant avait été condamné à une peine de longue durée de quatre ans et avait dû encore exécuter deux peines complémentaires de six mois en tout pour lesquelles le sursis avait été révoqué, ce qui constituait manifestement une peine de longue durée au sens de la loi. Convaincue de l'évolution positive du recourant durant son incarcération et de la faiblesse du risque de récidive, la juridiction cantonale a toutefois pris en compte l'absence de liens familiaux de l'intéressé en Suisse, son avenir professionnel incertain et le fait qu'un retour au Maroc n'apparaissait pas comme une solution insatisfaisante par rapport à son avenir qu'il devait entièrement reconstruire, pour en déduire que l'intérêt privé du recourant n'était pas prépondérant par rapport à l'intérêt public en jeu.
E. Agissant par la voie du recours en matière de droit public, X._ conclut, avec suite de frais et dépens, à ce que l'arrêt cantonal du 7 août 2009 soit réformé, en ce sens que son autorisation d'établissement n'est pas révoquée. Le recourant demande également à être mis au bénéfice de l'assistance judiciaire complète devant le Tribunal fédéral.
Le Tribunal cantonal conclut au rejet du recours et se réfère aux considérants de son arrêt. Le Service cantonal de la population a renoncé à se déterminer et se réfère également à l'arrêt attaqué. De son côté, l'Office fédéral des migrations propose de rejeter le recours.
Par ordonnance présidentielle du 18 septembre 2009, la demande d'effet suspensif présentée par le recourant a été admise.
Considérant en droit:
1. Le litige porte sur la révocation de l'autorisation d'établissement du recourant prononcée le 30 mars 2009. Selon le dossier, le Service cantonal de la population a entamé cette procédure le 14 novembre 2008, en donnant au recourant la possibilité de se déterminer sur la révocation éventuelle de son autorisation. Initiée après l'entrée en vigueur, le 1er janvier 2008, de la loi fédérale sur les étrangers du 16 décembre 2005 (LEtr; RS 142.20), la procédure est soumise au nouveau droit (arrêt 2C_329/2009 du 14 septembre 2009, consid. 2.1).
2. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF). Il contrôle librement la recevabilité des recours qui lui sont soumis (ATF 135 III 430 consid. 1 p. 331; 483, consid. 1 p. 485).
2.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
En l'espèce, le recourant a obtenu une autorisation d'établissement par regroupement familial avec sa mère, qui a vécu en Suisse de 1990 à 2003. Dès lors que le litige porte sur la révocation de cette autorisation qui, sans cela, déploierait encore ses effets, le présent recours est recevable au regard de l'art. 83 let. c ch. 2 LTF (cf. ATF 135 II 1 consid. 1.2.1 p. 4).
Au surplus, dirigé contre une décision finale (art. 90 LTF) rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF), le recours a été déposé en temps utile (art. 100 al. 1 LTF) et dans les formes prescrites (art. 42 LTF), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF). Il y a donc lieu d'entrer en matière.
2.2 L'art. 99 al. 1 LTF dispose qu'aucun fait nouveau ou preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente. Le recourant produit pour la première fois devant le Tribunal fédéral cinq questionnaires soumis à des connaissances dans le courant du mois d'août 2009, qui tendent à établir qu'il a des amis en Suisse et peut parfaitement s'y intégrer, tant professionnellement que socialement. Dans la mesure où il s'agit de pièces nouvelles qui auraient pu être produites devant le Tribunal cantonal, elles ne sont pas recevables et doivent être écartées.
3. 3.1 L'art. 63 al. 1 LEtr. prévoit que l'autorisation d'établissement peut être révoquée lorsque:
- les conditions de l'art. 62 let. a ou b sont remplies (let. a);
- l'étranger attente de manière très grave à la sécurité et l'ordre publics en Suisse ou à l'étranger, les met en danger ou représente une menace pour la sécurité intérieure ou extérieure de la Suisse (let. b);
- lui-même ou une personne dont il a la charge dépend durablement et dans une large mesure de l'aide sociale (let. c).
Selon l'art. 62 let. b LEtr., l'autorité compétente peut révoquer une autorisation lorsque l'étranger a été condamné à une peine privative de liberté de longue durée ou a fait l'objet d'une mesure pénale prévue aux art. 64 ou 61 CP.
Il n'est pas contesté qu'en l'espèce, le recourant a été condamné à une peine privative de liberté de quatre ans, et qu'il a dû encore exécuter deux peines complémentaire de six mois au total, ce qui constitue une peine de longue durée au sens de l'art. 62 let. b LEtr. (sur cette notion, non définie par la loi, voir ATF 135 II 377 consid. 4.2 p. 379 ss; Andreas Zünd/Ladina Arquint Hill, Beendigung der Anwesenheit, Entfernung und Fernhaltung, in Ausländerrecht, 2ème éd. Bâle 2009, n. 8.28 p. 325/326). L'existence d'un motif de révocation ne suffit cependant pas à prononcer la révocation de l'autorisation, qui doit aussi répondre au principe de la proportionnalité (ATF 125 II 521, consid. 2a p. 523). Comme dans l'ancien droit, il appartient à l'autorité compétente de prendre en considération l'ensemble des circonstances du cas particulier (Andreas Zünd/ Ladina Arquint Hill, op. cit., n. 8.31 p. 328). Dans ce cadre, il y a lieu de procéder à la pesée des intérêts publics et privés en présence, en tenant compte de la situation personnelle de l'étranger et son degré d'intégration (cf. art. 96 al. 1 LEtr.; arrêts 2C_36/2009 du 20 octobre 2009, consid. 2.1 et 2C_793/2008 du 27 mars 2009, consid. 2.1 et les références citées).
3.2 Procédant à la pesée des intérêts en présence, le Tribunal cantonal a estimé que le recourant pouvait certes se prévaloir d'un long séjour en Suisse depuis 1996, bien qu'entrecoupé d'une période de deux ans où il était retourné au Maroc; il avait su aussi tirer profit de son incarcération pour se former et semblait avoir abandonné la voie de la délinquance empruntée pendant son adolescence. Toutefois, il n'avait pas de liens familiaux en Suisse et ne pouvait, en l'état, se prévaloir d'une bonne intégration dans ce pays. Par ailleurs, le recourant devait de toute manière entièrement reconstruire son avenir, que ce soit en Suisse ou au Maroc, de sorte qu'un renvoi dans son pays d'origine, où se trouvait sa famille, notamment sa mère et sa demi-soeur, n'était pas une solution insatisfaisante.
De son côté, le recourant reproche au Tribunal cantonal de n'avoir pas tiré les conséquences du fait qu'il s'était amendé en prison et qu'il ne présentait pas de risque de récidive. Il prétend aussi que son absence de famille en Suisse ne l'empêche pas d'y être bien intégré et d'avoir entrepris les démarches possibles pour assurer son avenir professionnel. En outre, contrairement à ce que retient l'arrêt attaqué, il rencontrerait d'importantes difficultés de réintégration en cas de retour au Maroc, car il n'a pratiquement pas de contacts avec les membres de sa famille.
3.3 En sa qualité de ressortissant marocain, arrivé en Suisse à l'âge de douze ans et ayant fréquenté l'école obligatoire pendant moins de trois ans, avant de retourner pratiquement deux ans au Maroc, le recourant ne peut être considéré aussi favorablement qu'un étranger né en Suisse (ATF 130 II 176 consid. 4.4.2 p. 190 et les arrêts cités) ou y ayant passé la plus grande partie de son enfance et adolescence (arrêt 2C_70/2007 du 2 mai 2007, consid. 2.3; Andreas Zünd/Ladina Arquint Hill, op. cit., n. 8.31 p. 329/330). Il ne peut pas non plus bénéficier des garanties découlant de l'art. 8 CEDH, dans la mesure où il n'a pas de famille proche en Suisse. Dans ces conditions, les infractions pénales commises par le recourant depuis son adolescence et poursuivies à l'âge adulte, qui ont abouti à plusieurs condamnations, pèsent d'un poids très lourd pour apprécier l'intérêt public à le renvoyer de Suisse. Il ressort en particulier, du jugement du 21 février 2008, qui l'a condamné à une peine privative de liberté de quatre ans, notamment pour avoir cherché à trois reprises à attaquer une bijouterie, la première fois seul, muni d'un pistolet à billes, puis en compagnie de deux complices, qu'il était alors oisif, buveur et joueur et qu'il avait agi par appât du gain. Ce jugement démontre que le recourant n'a pas été capable de s'intégrer à l'ordre public suisse (sur cette notion, voir ATF 134 II 1 consid. 4 p. 4 ss) et qu'il n'a pas su tirer profit des mises en garde que constituaient ses précédentes condamnations. Il ressort certes du dossier que, depuis le dernier jugement du 21 février 2008, le recourant semble s'être amendé et que le risque qu'il retombe dans la délinquance est considéré comme faible. Par ailleurs, le chef de l'entreprise Z._ SA, où il accomplissait un stage, a déclaré devant la juridiction cantonale que le recourant s'était facilement intégré à l'équipe en place et qu'il aimerait le garder au sein de l'entreprise, mais il n'est pas certain que ce projet puisse se réaliser, de sorte qu'aucun pronostic sur l'avenir professionnel du recourant en Suisse ne peut être formulé. En outre, il a été retenu que le recourant ne pouvait se prévaloir, ni d'une bonne intégration, ni d'attaches familiales en Suisse. Par conséquent, le seul fait que le recourant risque aussi de rencontrer des difficultés d'adaptation dans son pays d'origine n'est pas un élément suffisant. Dans un tel contexte, il faut admettre que l'intérêt du recourant à demeurer en Suisse pour y pour- suivre son intégration sur des bases nouvelles n'est pas prépondérant par rapport à l'intérêt public à son éloignement.
3.4 Il s'ensuit que le Tribunal cantonal n'a pas violé le droit fédéral, ni abusé de son pouvoir d'appréciation, en confirmant la révocation de l'autorisation d'établissement du recourant sur la base de l'art. 63 al. 1 let. a LEtr.
4. Au vu de ce qui précède, le recours doit rejeté.
Le recourant a présenté une demande d'assistance judiciaire qui doit être rejetée, dans la mesure où les conclusions du recours paraissaient vouées à l'échec (art. 64 al. 1 LTF). Les frais judiciaires doivent ainsi être mis à la charge du recourant, en tenant compte de sa situation financière (art. 65 al. 2 et 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population, au Département de l'intérieur et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 17 février 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Müller Rochat