Faits:
A.
Par jugement du 17 novembre 2011, le Tribunal correctionnel de l'arrondissement de La Broye et du Nord vaudois a, notamment, reconnu X._ coupable d'agression, de vol, de violation de domicile et de contravention à la LStup. Il a révoqué le sursis accordé le 9 décembre 2008 et prononcé une peine d'ensemble de travail d'intérêt général de 720 heures et une amende de deux cents francs, avec une peine privative de liberté de substitution de huit jours, cette peine étant partiellement complémentaire à celle prononcée le 10 août 2010 par le Juge d'instruction vaudois.
B.
B.a. Par jugement du 8 mai 2012, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté les appels formés par X._ et ses coaccusés et partiellement admis ceux du Ministère public et de A._. Elle a notamment confirmé la condamnation pour agression, vol, violation de domicile et contravention à la LStup. Elle a révoqué le sursis accordé le 9 décembre 2008 et ordonné l'exécution de la peine de vingt jours-amende à 30 fr. le jour. Elle a en outre prononcé une peine privative de liberté de douze mois et une amende de deux cents francs avec une peine privative de liberté de substitution de huit jours, peine partiellement complémentaire à celle prononcée le 10 août 2010 par le Juge d'instruction vaudois.
Par arrêt du 7 janvier 2013 (6B_410/2012), la Cour de droit pénal du Tribunal fédéral a partiellement admis le recours de X._, annulé le jugement du 8 mai 2012 et renvoyé la cause à l'autorité cantonale pour qu'elle statue à nouveau dans le sens des considérants. Elle a considéré que l'attaque de X._ à l'encontre de B._ n'était pas unilatérale et que, partant, le recourant ne s'était pas rendu coupable d'agression.
B.b. Statuant le 30 avril 2013 à la suite de l'arrêt de renvoi du Tribunal fédéral, la Cour d'appel pénale du Tribunal cantonal vaudois a reconnu X._ coupable de rixe (en lieu et place d'agression), de vol, de violation de domicile et de contravention à la LStup. Elle a révoqué le sursis qui lui avait été accordé et ordonné l'exécution de la peine de vingt jours-amende à 30 fr. le jour. En outre, elle a prononcé une peine privative de liberté de neuf mois et une amende de deux cents francs, avec une peine privative de liberté de substitution de huit jours, peine partiellement complémentaire à celle prononcée le 10 août 2010 par le Juge d'instruction vaudois.
C.
Contre ce dernier jugement, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à sa condamnation exclusivement pour vol, violation de domicile et contravention à la LStup et au prononcé d'une peine de travail d'intérêt général inférieure à 720 heures et à une amende de deux cents francs, avec une peine privative de liberté de substitution de huit jours; à titre subsidiaire, il conclut à l'annulation du jugement attaqué et au renvoi de la cause à l'autorité cantonale pour nouveau jugement. En outre, il sollicite l'assistance judiciaire.
Invités à se déterminer, la cour cantonale et le Ministère public y ont renoncé, se référant aux considérants du jugement attaqué.

Considérant en droit:
1.
Le recourant se plaint d'une mauvaise application de l'<ref-law>. Il soutient que cette disposition n'est applicable qu'aux débats de première instance, et non en procédure d'appel. Partant, la cour cantonale ne pouvait modifier la qualification des faits retenus dans l'acte d'accusation et le condamner pour rixe (en lieu et place d'agression).
1.1. Le tribunal est lié par l'état de fait décrit dans l'acte d'accusation, mais peut s'écarter de l'appréciation juridique qu'en fait le ministère public (<ref-law>), à condition d'en informer les parties présentes et de les inviter à se prononcer (<ref-law>; cf. MARTIN SCHUBARTH, in Commentaire romand, Code de procédure pénale suisse, 2011, n° 2 ad <ref-law>; PIERRE DE PREUX, in Commentaire romand, Code de procédure pénale suisse, 2011, n° 11 ad <ref-law>). La modification de la qualification juridique ne doit pas justifier de changement dans la description des faits retenus dans l'acte d'accusation. Elle est ainsi notamment envisageable lorsque le tribunal est confronté à des qualifications de moindre importance, à l'image d'une complicité plutôt que d'un acte principal, d'une tentative plutôt que d'un délit consommé, d'un vol ou d'un brigandage simple plutôt que d'infractions qualifiées, etc. Dès que la qualification juridique nouvelle ne peut plus se fonder sur l'état de fait retenu dans l'acte d'accusation, l'<ref-law> ne sera pas applicable ( MOREILLON/PAREIN-REYMOND, Petit Commentaire du Code de procédure pénale, 2013, n° 4 ad <ref-law>).
1.2. Selon l'<ref-law>, sauf disposition spéciale, les dispositions générales du présent code s'appliquent par analogie à la procédure de recours. C'est valable principalement pour les principes généraux (<ref-law>), les règles générales de procédure (<ref-law>), les règles relatives aux moyens de preuve (<ref-law>), tout comme pour la phase de la poursuite des débats (<ref-law>) (cf. NIKLAUS SCHMID, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, n° 1 ad <ref-law>; MOREILLON/PAREIN-REYMOND, op. cit., n° 2 ad <ref-law>). En outre, l'<ref-law> prévoit que les dispositions sur les débats de première instance s'appliquent par analogie aux débats d'appel. Figurant dans le chapitre " des débats " dans la section relative à la procédure probatoire, l'<ref-law> est dès lors applicable à la procédure d'appel. La juridiction d'appel pourra donc modifier la qualification juridique retenue dans l'acte d'accusation à la condition d'en informer les parties. Il a du reste déjà été admis qu'elle pouvait donner au ministère public la possibilité de modifier les faits exposés dans l'acte d'accusation en application de l'<ref-law> (arrêt 6B_777/2011 du 10 avril 2012, consid. 2; NIKLAUS SCHMID, op. cit., n° 4 ad <ref-law>).
1.3. En l'espèce, les conditions posées à la modification de la qualification juridique sont réalisées. Les faits retenus dans l'acte d'accusation suffisaient pour fonder la condamnation pour participation à une rixe, cette infraction étant subsidiaire à l'agression. Pour le surplus, le recourant a été informé par la direction de la procédure quelques mois avant la tenue de l'audience d'appel que la juridiction d'appel ferait application de l'<ref-law> et examinerait si les éléments constitutifs de la rixe étaient réalisés. Au demeurant, lors des débats de première instance, le recourant avait plaidé la rixe en se fondant sur l'état de fait décrit par l'acte d'accusation. La cour cantonale n'a donc pas violé l'<ref-law> en modifiant la qualification juridique retenue dans l'acte d'accusation. Le grief du recourant doit être rejeté.
2.
Le recourant invoque encore le principe de l'autorité de l'arrêt de renvoi.
2.1. Ce principe, que prévoyait expressément l'art. 66 al. 1 aOJ, est un principe juridique qui demeure applicable sous la LTF (<ref-ruling> consid. 2 p. 335 et les arrêts cités). Lorsque le Tribunal fédéral annule une décision et renvoie la cause à l'autorité cantonale pour qu'elle statue à nouveau, cette dernière est tenue de fonder sa nouvelle décision sur les considérants de droit de l'arrêt du Tribunal fédéral; sa cognition est limitée par les motifs de l'arrêt de renvoi, en ce sens qu'elle est liée par ce qui a déjà été tranché définitivement par le Tribunal fédéral ainsi que par les constatations de fait qui n'ont pas été critiquées devant lui ou l'ont été sans succès (<ref-ruling> consid. 5.2 p. 94; <ref-ruling> consid. 3d p. 277/278; cf. aussi arrêt 6B_440/2013 du 27 août 2013 consid. 1.1). Lorsque l'admission du recours en matière pénale conduit à l'acquittement sur un chef d'accusation, le droit fédéral n'exclut pas que l'accusé soit, pour les mêmes faits, reconnu coupable d'une autre infraction (<ref-ruling> consid. 1 p. 146; <ref-ruling> consid. 2f p. 17; <ref-ruling> consid. 2c p. 71).
2.2. En l'espèce, le Tribunal fédéral a considéré que la décision attaquée violait le droit fédéral en tant qu'elle considérait que l'attaque du recourant était unilatérale et qu'elle reconnaissait celui-ci coupable d'agression. Il n'a pas exclu la condamnation du recourant pour une autre infraction. Au vu des motifs de l'arrêt fédéral, la cour cantonale était autorisée à condamner le recourant pour rixe, à la condition de respecter les exigences posées à l'<ref-law>, ce qu'elle a fait (cf. consid. 1.3). Le grief soulevé par le recourant doit donc être rejeté.
3.
Condamné à une peine privative de liberté de neuf mois, le recourant se plaint de la sévérité de celle-ci.
3.1. L'<ref-law> prévoit que le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). L'alinéa 2 de cette disposition énumère une série de critères à prendre en considération pour déterminer la culpabilité de l'auteur (<ref-ruling> consid. 2.1 et les références citées).
Pour fixer la peine, le juge dispose d'un large pouvoir d'appréciation. Il y a toutefois violation du droit fédéral lorsque le juge sort du cadre légal, se fonde sur des critères étrangers à l'<ref-law>, omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 2.1; <ref-ruling> consid. 6.1 et les références citées).
3.2. La cour cantonale a considéré que le comportement du recourant était critiquable par sa lâcheté, sa brutalité et sa gratuité. Elle a qualifié de futile le motif de la bagarre, à savoir un coup de poing de B._, consécutif à son propre comportement lors de la visite précédente. Elle a retenu encore à sa charge ses antécédents judiciaires (avec la réserve que ceux-ci se rapportaient partiellement à des infractions d'un tout autre domaine, à savoir la LCR). Enfin, à décharge, elle a tenu compte de l'effet légèrement désinhibiteur de l'alcool et du cannabis consommé par le recourant avant les faits ainsi que des efforts entrepris pour une insertion sociale et familiale (jugement p. 39 et 40).
3.3. Le recourant reproche à la cour cantonale d'avoir omis certains éléments en fixant la peine.
Il fait valoir que ses antécédents judiciaires, qui se rapportent essentiellement à des infractions à la LCR, ne comprennent pas d'acte de violence à l'égard de personnes. La cour cantonale a expressément tenu compte de cet élément, précisant qu'il convenait de retenir ses antécédents judiciaires, " avec la réserve qu'ils se rapportent partiellement à des infractions d'un tout autre domaine, soit la LCR " (jugement attaqué p. 40). Le grief du recourant est donc infondé.
Le recourant reproche à la cour cantonale d'avoir retenu que le motif à l'origine de l'agression était " absolument futile " notamment car il s'agissait d'un " simple coup constitutif de voies de fait ". C'est avec raison que la cour cantonale a retenu que le coup reçu par le recourant ne justifiait pas les violences qui ont suivi. Le grief soulevé est donc mal fondé.
Le recourant fait valoir qu'il convient de tenir compte à sa décharge qu'il était sous l'influence de l'alcool (taux minimum de 1.04 g/kg) et du cannabis. La cour cantonale a retenu l'effet légèrement désinhibiteur de l'alcool et du cannabis consommé par le recourant avant les faits (jugement attaqué p.40). Le grief du recourant doit donc être rejeté.
Le recourant invoque sa situation personnelle dramatique (en particulier le meurtre de sa belle-mère par son père). La cour cantonale a résumé sa situation personnelle en page 20 du jugement. Le jugement formant un tout, on peut considérer qu'elle a gardé à l'esprit ces éléments lors de la fixation de la peine. Le grief soulevé n'est donc pas pertinent.
Le recourant fait valoir son évolution favorable depuis les faits. Ilexplique qu'il a cessé de consommer du cannabis, a été emprisonné pendant deux mois pour des amendes impayées et a échoué ses examens de polymécanicien, ce qui a entraîné une prise de conscience de la gravité de la situation dans laquelle il se trouvait compte tenu de son comportement inapproprié. La cour cantonale a relevé que le recourant n'aurait plus consommé de cannabis depuis le 13 juin 2011 (jugement attaqué p. 20), qu'il a échoué aux examens de la formation de polymécanicien en été 2011 (jugement attaqué p. 20) et qu'il avait entrepris des efforts pour une insertion sociale et familiale (jugement attaqué p. 40). Les reproches du recourant sont donc mal fondés.
3.4. Enfin, le recourant dénonce la violation du principe d'égalité de traitement par rapport à son co-accusé C._.
3.4.1. Dans l'exercice de son pouvoir d'appréciation, le juge doit respecter, en particulier, le principe d'égalité de traitement (art. 8 al. 1 Cst; <ref-ruling> consid. 3a p. 144 et les arrêts cités; cf. aussi <ref-ruling> consid. 2e p. 52 s.). S'il est appelé à juger les coauteurs d'une même infraction ou deux coaccusés ayant participé ensemble au même complexe de faits délictueux, il est tenu de veiller à ce que la différence des peines infligées aux deux intéressés soit justifiée par une différence dans les circonstances personnelles en fonction desquelles, conformément à l'<ref-law>, la peine doit être individualisée (cf. <ref-ruling> consid. 3.2 p. 193 ss; <ref-ruling> consid. 2d p. 204 ss). A défaut de motifs pertinents, il ne faut pas créer un écart trop important entre deux co-prévenus qui ont participé ensemble au même complexe de faits délictueux (cf. sur ce point arrêt 6B_233/2011 du 7 juillet 2011 consid. 2.2.1). La juste proportion des peines pour des coauteurs doit être prise en compte comme élément dans l'appréciation de la peine (<ref-ruling> consid. 3.2; <ref-ruling> consid. 2a p. 152 s.).
3.4.2. Dans le souci de respecter le principe d'égalité entre les coauteurs, la cour cantonale a opposé la situation du recourant et celle de C._ afin de fixer la peine de ce dernier (jugement attaqué p. 43 s.). Elle est partie du fait que le recourant avait été condamné en plus pour vol, ce qui justifiait une peine plus sévère. Certes, le coprévenu C._ a des antécédents plus graves, puisqu'il a été condamné notamment pour délit contre la loi fédérale sur les armes, violence ou menace contre les autorités et les fonctionnaires, brigandage et voies de fait, en sus d'une infraction contre le patrimoine (abus de confiance). A décharge, la cour cantonale a relevé les quelques regrets exprimés par C._, ainsi que son insertion professionnelle, ce qui relativise le poids des antécédents. Dans ces conditions, l'écart de deux mois entre les peines privatives de liberté des deux coprévenus n'apparaît pas disproportionné, de sorte qu'il faille conclure à un abus du pouvoir d'appréciation.
3.5. En définitive, la cour cantonale n'a pas omis d'élément important lors de la fixation de la peine et a correctement motivé celle-ci. Il convient encore d'examiner si, au vu des circonstances, la peine infligée apparaît sévère au point de constituer un abus du pouvoir d'appréciation.
Le recourant s'est rendu coupable de rixe, de vol, de violation de domicile et de contravention à la LStup, en concours (<ref-law>). En ce qui concerne la condamnation pour rixe, le comportement du recourant est critiquable par sa lâcheté, sa brutalité et sa gratuité. En sa défaveur, il convient en outre de tenir compte de ses antécédents (certes partiellement en matière de LCR). A décharge, il y a lieu de retenir l'effet désinhibiteur de l'alcool et du cannabis, sa situation personnelle et les efforts entrepris pour une insertion sociale et familiale. Au vu de l'ensemble de ces circonstances, la peine privative de liberté de neuf mois, assortie d'une amende de deux cents francs, n'est pas sévère, de sorte qu'il faille conclure à un abus du pouvoir d'appréciation accordé à la cour cantonale.
4.
Enfin, le recourant se plaint du type de la peine infligée. Il soutient que la cour cantonale aurait dû prononcer, en lieu et place d'une peine privative de liberté, un travail d'intérêt général ou une peine pécuniaire.
Le juge ne peut ordonner un travail d'intérêt général qu'à la place d'une peine privative de liberté de moins de six mois ou d'une peine pécuniaire de 180 jours-amende au plus (<ref-law>). En l'espèce, un travail d'intérêt général n'entre donc pas en considération, puisque la peine prononcée est de neuf mois.
Le recourant se plaint également de ne pas avoir été condamné à une peine pécuniaire. Comme la peine est supérieure à six mois, l'<ref-law> n'est pas applicable. Au demeurant, dans son mémoire de recours (p. 13), le recourant admet lui-même avoir subi deux mois de détention pour des amendes impayées, ce qui montre l'inefficacité des sanctions pécuniaires prononcées à son encontre.
5.
Le recours doit être ainsi rejeté.
Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (<ref-law>). Le recourant devra donc supporter les frais (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière.

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté.
2.
La requête d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'600 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 26 novembre 2013
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin