Faits : A. X._ est né en 1966 en Serbie, pays dont il est originaire. Il a vécu dans ce pays jusqu'à l'âge de 19 ans et y a effectué sa scolarité obligatoire ainsi que son service militaire. Dès 1987, il est venu en Suisse; il y a travaillé en tant que saisonnier, avant d'obtenir un permis de séjour, puis d'établissement. Par la suite, il a été naturalisé. Il a été marié à A._, avec laquelle il a eu quatre enfants, nés en 1990, 1996, 1999 et 2004. Le couple s'est séparé au mois de janvier 2012 et le divorce est définitif et exécutoire depuis le 2 novembre 2017. Avant son incarcération, intervenue à l'issue du jugement de première instance, X._ travaillait en qualité de concierge à un taux d'activité de 70 à 80%. Son casier judiciaire est vierge. A.a. Entre janvier 2010 et janvier 2012, il a régulièrement frappé son épouse A._, à coups de poing, de pied ou de ceinture, lui infligeant à tout le moins des voies de fait. Il a aussi, de manière régulière, menacé de la tuer ou de tuer sa famille, notamment si elle venait à le quitter. A.b. Au printemps 2011, alors que le couple n'entretenait plus de relations sexuelles depuis environ deux ans, après avoir essuyé un refus de son épouse, X._ a saisi celle-ci par les mains et les bras et l'a couchée sur le lit, dans l'intention d'entretenir une relation sexuelle. Lorsque A._ s'est débattue et a crié, il a mis une main sur sa bouche. Ensuite, lui tenant les deux bras d'une main, il l'a déshabillée de l'autre puis l'a pénétrée vaginalement jusqu'à éjaculation. La même année, au mois de mai, X._ a de nouveau souhaité des rapports sexuels que sa femme lui a refusés. Il l'a giflée, la faisant tomber sur le lit, puis a sorti un couteau et a menacé de lui arracher la gorge si elle criait. Il a alors bloqué un bras de sa victime avec la main qui tenait le couteau et l'a pénétrée vaginalement jusqu'à éjaculation. A.c. Entre le 10 et le 13 août 2012, X._ a menacé A._ de mort alors qu'elle se trouvait dans la buanderie de son immeuble en compagnie de deux de leurs enfants. A.d. Au printemps 2013, ensuite d'une dispute avec sa nouvelle compagne B._, X._ a déshabillé celle-ci, lui a tenu les mains au-dessus de la tête, puis a tenté d'introduire son sexe dans sa bouche. Constatant qu'elle s'y refusait, il l'a pénétrée vaginalement, malgré ses pleurs et le fait qu'elle lui a dit " laisse-moi, je me sens mal ". A.e. Au mois de juin 2013, X._ s'est disputé avec B._. Il s'est alors fortement énervé et l'a giflée à deux reprises sur la joue, lui a tiré les cheveux et l'a poussée sur le canapé du salon. Plus tard dans la soirée, au moment d'aller se coucher, B._ a refusé de le suivre dans la chambre. X._ l'a saisie par les poignets et l'y a traînée de force, avant de la pousser sur le lit et de la déshabiller. Malgré un refus verbal et des tentatives de résistance physique, il a maintenu sa victime par les poignets et l'a pénétrée vaginalement jusqu'à se retirer pour éjaculer sur son ventre. A.f. Dans la nuit du 12 juin 2013, B._ a surpris une conversation téléphonique de X._. Lorsqu'elle lui a demandé des explications, celui-ci s'est énervé, l'a frappée de deux ou trois coups de poing sur la tête et dans le dos et lui a tiré les cheveux. Après avoir été poussée, elle est tombée sur le canapé du salon, où elle a encore reçu plusieurs coups de poing. Par la suite, tout en la tenant par les cheveux, X._ l'a déshabillée et s'est mis sur elle. Il l'a alors pénétrée vaginalement, puis a mis son sexe dans sa bouche avant de se retirer et d'éjaculer sur son corps. X._ a ensuite pris B._ par le bras et l'a tirée dans la chambre à coucher où il l'a mise dans le lit. Constatant qu'elle pleurait, il lui a demandé pourquoi. Face à son silence, il lui a rétorqué : " tu veux encore une fois pour que cela te calme? ". Malgré l'opposition manifestée par B._, il a sauté sur elle, lui a levé puis maintenu les jambes à hauteur de la tête et l'a pénétrée vaginalement dans cette position jusqu'à éjaculer sur son ventre. Le lendemain matin, au moment de quitter l'appartement, X._ a menacé B._ de représailles, notamment de la tabasser, de la tuer ou s'en prendre à ses proches, si elle parlait de la conversation téléphonique qu'elle avait surprise la veille. A.g. Les 7 et 9 janvier 2014, X._ a envoyé deux messages en albanais, contenant des propos menaçants et insultants, à son beau-père, C._. A.h. Bien qu'inscrit au chômage dès le 1er août 2012, X._ a exercé une activité lucrative pour le compte de deux entreprises en 2012 et 2013, sans l'annoncer à la Caisse de chômage, percevant indûment des indemnités de celle-ci pour un montant total de 6556 fr. 55. A.i. Par ordonnance de mesures protectrices de l'union conjugale rendue le 17 juillet 2012 par le Président du Tribunal civil de l'arrondissement de la Broye et du Nord vaudois, X._ a notamment été astreint à payer une contribution d'entretien mensuelle de 2900 fr. en faveur de son épouse et trois de ses enfants jusqu'au 31 mars 2014. Par arrêt du 12 septembre 2014, la Juge déléguée de la Cour d'appel civile du Tribunal cantonal vaudois a astreint X._ à payer en faveur des siens une contribution d'entretien mensuelle de 725 fr., dès le 1er avril 2014. X._ ne s'est jamais acquitté de ces contributions d'entretien, sous réserve de prélèvements sur ses indemnités de chômage, malgré le fait qu'il avait ou aurait pu avoir les moyens de le faire, accumulant ainsi un arriéré pénal de 70'262 fr. 15. A.j. Par jugement du 25 octobre 2018, le Tribunal criminel de l'arrondissement de la Broye et du Nord vaudois a libéré X._ des chefs de prévention de lésions corporelles simples qualifiées et injure (I), a constaté qu'il s'était rendu coupable de menaces, menaces qualifiées, contrainte, tentative de contrainte sexuelle, contrainte sexuelle, viol, viol qualifié, violation d'une obligation d'entretien et infraction à la loi fédérale sur l'assurance-chômage obligatoire et l'indemnité en cas d'insolvabilité [LACI] (II) et l'a condamné à une peine privative de liberté de 8 ans (III). Ce jugement se prononce aussi, outre l'arrestation immédiate et la mise en détention pour des motifs de sûreté, sur les prétentions des parties plaignantes, le sort d'objets séquestrés ainsi que les frais et autres indemnités. Par prononcé du 7 novembre 2018, le Tribunal criminel a encore alloué une deuxième indemnité au conseil d'office de la partie plaignante A._. B. Saisie d'un appel de X._, par jugement sur appel du 30 janvier 2019, la Cour d'appel pénale du Tribunal cantonal vaudois l'a admis très partiellement. Elle a confirmé le jugement du 25 octobre 2018, n'annulant que la décision du 7 novembre 2018. Le jugement sur appel se prononce en outre sur l'imputation de la détention subie depuis le jugement de première instance, le maintien en détention de X._, ainsi que les frais et indemnités afférents à la procédure d'appel. On renvoie à cette décision quant aux faits qui ne sont pas reproduits au consid. A, supra. C. Par acte du 8 mai 2019, X._ forme un recours en matière pénale au Tribunal fédéral. Il conclut, avec suite de frais et dépens, principalement, à la réforme de cette décision en ce sens qu'une peine plus clémente lui soit infligée. A titre subsidiaire, il conclut à l'annulation de la décision entreprise et au renvoi de la cause à la cour cantonale pour nouvelle décision au sens des considérants.