Faits :
A.
X._ est né en 1966 en Serbie, pays dont il est originaire. Il a vécu dans ce pays jusqu'à l'âge de 19 ans et y a effectué sa scolarité obligatoire ainsi que son service militaire. Dès 1987, il est venu en Suisse; il y a travaillé en tant que saisonnier, avant d'obtenir un permis de séjour, puis d'établissement. Par la suite, il a été naturalisé. Il a été marié à A._, avec laquelle il a eu quatre enfants, nés en 1990, 1996, 1999 et 2004. Le couple s'est séparé au mois de janvier 2012 et le divorce est définitif et exécutoire depuis le 2 novembre 2017. Avant son incarcération, intervenue à l'issue du jugement de première instance, X._ travaillait en qualité de concierge à un taux d'activité de 70 à 80%. Son casier judiciaire est vierge.
A.a. Entre janvier 2010 et janvier 2012, il a régulièrement frappé son épouse A._, à coups de poing, de pied ou de ceinture, lui infligeant à tout le moins des voies de fait. Il a aussi, de manière régulière, menacé de la tuer ou de tuer sa famille, notamment si elle venait à le quitter.
A.b. Au printemps 2011, alors que le couple n'entretenait plus de relations sexuelles depuis environ deux ans, après avoir essuyé un refus de son épouse, X._ a saisi celle-ci par les mains et les bras et l'a couchée sur le lit, dans l'intention d'entretenir une relation sexuelle. Lorsque A._ s'est débattue et a crié, il a mis une main sur sa bouche. Ensuite, lui tenant les deux bras d'une main, il l'a déshabillée de l'autre puis l'a pénétrée vaginalement jusqu'à éjaculation.
La même année, au mois de mai, X._ a de nouveau souhaité des rapports sexuels que sa femme lui a refusés. Il l'a giflée, la faisant tomber sur le lit, puis a sorti un couteau et a menacé de lui arracher la gorge si elle criait. Il a alors bloqué un bras de sa victime avec la main qui tenait le couteau et l'a pénétrée vaginalement jusqu'à éjaculation.
A.c. Entre le 10 et le 13 août 2012, X._ a menacé A._ de mort alors qu'elle se trouvait dans la buanderie de son immeuble en compagnie de deux de leurs enfants.
A.d. Au printemps 2013, ensuite d'une dispute avec sa nouvelle compagne B._, X._ a déshabillé celle-ci, lui a tenu les mains au-dessus de la tête, puis a tenté d'introduire son sexe dans sa bouche. Constatant qu'elle s'y refusait, il l'a pénétrée vaginalement, malgré ses pleurs et le fait qu'elle lui a dit " laisse-moi, je me sens mal ".
A.e. Au mois de juin 2013, X._ s'est disputé avec B._. Il s'est alors fortement énervé et l'a giflée à deux reprises sur la joue, lui a tiré les cheveux et l'a poussée sur le canapé du salon. Plus tard dans la soirée, au moment d'aller se coucher, B._ a refusé de le suivre dans la chambre. X._ l'a saisie par les poignets et l'y a traînée de force, avant de la pousser sur le lit et de la déshabiller. Malgré un refus verbal et des tentatives de résistance physique, il a maintenu sa victime par les poignets et l'a pénétrée vaginalement jusqu'à se retirer pour éjaculer sur son ventre.
A.f. Dans la nuit du 12 juin 2013, B._ a surpris une conversation téléphonique de X._. Lorsqu'elle lui a demandé des explications, celui-ci s'est énervé, l'a frappée de deux ou trois coups de poing sur la tête et dans le dos et lui a tiré les cheveux. Après avoir été poussée, elle est tombée sur le canapé du salon, où elle a encore reçu plusieurs coups de poing. Par la suite, tout en la tenant par les cheveux, X._ l'a déshabillée et s'est mis sur elle. Il l'a alors pénétrée vaginalement, puis a mis son sexe dans sa bouche avant de se retirer et d'éjaculer sur son corps.
X._ a ensuite pris B._ par le bras et l'a tirée dans la chambre à coucher où il l'a mise dans le lit. Constatant qu'elle pleurait, il lui a demandé pourquoi. Face à son silence, il lui a rétorqué : " tu veux encore une fois pour que cela te calme? ". Malgré l'opposition manifestée par B._, il a sauté sur elle, lui a levé puis maintenu les jambes à hauteur de la tête et l'a pénétrée vaginalement dans cette position jusqu'à éjaculer sur son ventre.
Le lendemain matin, au moment de quitter l'appartement, X._ a menacé B._ de représailles, notamment de la tabasser, de la tuer ou s'en prendre à ses proches, si elle parlait de la conversation téléphonique qu'elle avait surprise la veille.
A.g. Les 7 et 9 janvier 2014, X._ a envoyé deux messages en albanais, contenant des propos menaçants et insultants, à son beau-père, C._.
A.h. Bien qu'inscrit au chômage dès le 1er août 2012, X._ a exercé une activité lucrative pour le compte de deux entreprises en 2012 et 2013, sans l'annoncer à la Caisse de chômage, percevant indûment des indemnités de celle-ci pour un montant total de 6556 fr. 55.
A.i. Par ordonnance de mesures protectrices de l'union conjugale rendue le 17 juillet 2012 par le Président du Tribunal civil de l'arrondissement de la Broye et du Nord vaudois, X._ a notamment été astreint à payer une contribution d'entretien mensuelle de 2900 fr. en faveur de son épouse et trois de ses enfants jusqu'au 31 mars 2014. Par arrêt du 12 septembre 2014, la Juge déléguée de la Cour d'appel civile du Tribunal cantonal vaudois a astreint X._ à payer en faveur des siens une contribution d'entretien mensuelle de 725 fr., dès le 1er avril 2014.
X._ ne s'est jamais acquitté de ces contributions d'entretien, sous réserve de prélèvements sur ses indemnités de chômage, malgré le fait qu'il avait ou aurait pu avoir les moyens de le faire, accumulant ainsi un arriéré pénal de 70'262 fr. 15.
A.j. Par jugement du 25 octobre 2018, le Tribunal criminel de l'arrondissement de la Broye et du Nord vaudois a libéré X._ des chefs de prévention de lésions corporelles simples qualifiées et injure (I), a constaté qu'il s'était rendu coupable de menaces, menaces qualifiées, contrainte, tentative de contrainte sexuelle, contrainte sexuelle, viol, viol qualifié, violation d'une obligation d'entretien et infraction à la loi fédérale sur l'assurance-chômage obligatoire et l'indemnité en cas d'insolvabilité [LACI] (II) et l'a condamné à une peine privative de liberté de 8 ans (III). Ce jugement se prononce aussi, outre l'arrestation immédiate et la mise en détention pour des motifs de sûreté, sur les prétentions des parties plaignantes, le sort d'objets séquestrés ainsi que les frais et autres indemnités. Par prononcé du 7 novembre 2018, le Tribunal criminel a encore alloué une deuxième indemnité au conseil d'office de la partie plaignante A._.
B.
Saisie d'un appel de X._, par jugement sur appel du 30 janvier 2019, la Cour d'appel pénale du Tribunal cantonal vaudois l'a admis très partiellement. Elle a confirmé le jugement du 25 octobre 2018, n'annulant que la décision du 7 novembre 2018. Le jugement sur appel se prononce en outre sur l'imputation de la détention subie depuis le jugement de première instance, le maintien en détention de X._, ainsi que les frais et indemnités afférents à la procédure d'appel.
On renvoie à cette décision quant aux faits qui ne sont pas reproduits au consid. A, supra.
C.
Par acte du 8 mai 2019, X._ forme un recours en matière pénale au Tribunal fédéral. Il conclut, avec suite de frais et dépens, principalement, à la réforme de cette décision en ce sens qu'une peine plus clémente lui soit infligée. A titre subsidiaire, il conclut à l'annulation de la décision entreprise et au renvoi de la cause à la cour cantonale pour nouvelle décision au sens des considérants.

Considérant en droit :
1.
Le recours porte exclusivement sur la peine, soit l'application des art. 47, 49 et 50 CP. Le Tribunal fédéral examine ces questions d'office (<ref-law>), avec plein pouvoir.
1.1. On renvoie, quant aux principes présidant à la fixation de la peine aux <ref-ruling> consid. 1.2 p. 319, 142 IV 137 consid. 9.1 p. 147 et 141 IV 61 consid. 6.1.1 p. 66 s. Il suffit de rappeler que l'exercice du contrôle de l'application de ces principes par le Tribunal fédéral suppose que le juge exprime, dans sa décision, les éléments essentiels relatifs à l'acte ou à l'auteur dont il tient compte, de manière à ce que l'on puisse constater que tous les aspects pertinents ont été pris en considération et comment ils ont été appréciés, que ce soit dans un sens aggravant ou atténuant (<ref-law>; <ref-ruling> consid. 2.1 p. 20 et les arrêts cités). Le juge peut passer sous silence les éléments qui, sans abus du pouvoir d'appréciation, lui apparaissent non pertinents ou d'une importance mineure. La motivation doit justifier la peine prononcée, en permettant de suivre le raisonnement adopté. Un recours ne saurait toutefois être admis simplement pour améliorer ou compléter un considérant lorsque la décision rendue apparaît conforme au droit (<ref-ruling> consid. 1.2 p. 319; <ref-ruling> consid. 5.6 p. 61; <ref-ruling> consid. 2.1 p. 19 s.).
Par ailleurs, aux termes de l'<ref-law>, si, en raison d'un ou de plusieurs actes, l'auteur remplit les conditions de plusieurs peines de même genre, le juge le condamne à la peine de l'infraction la plus grave et l'augmente dans une juste proportion. Il ne peut toutefois excéder de plus de la moitié le maximum de la peine prévue pour cette infraction. Il est en outre lié par le maximum légal de chaque genre de peine.
1.2. La cour cantonale a retenu le recourant coupable de menaces, menaces qualifiées, contrainte, tentative de contrainte sexuelle, contrainte sexuelle, viol, viol qualifié, violation d'une obligation d'entretien et infraction à la LACI. Elle a fait sienne l'appréciation de l'autorité de première instance selon laquelle la culpabilité du recourant est très lourde. Elle a relevé à ce propos qu'il s'était comporté durant des années en tyran domestique, n'hésitant pas à maltraiter son ex-épouse tant sur les plans physique, psychique que sexuel. Il avait passé outre son refus pour la contraindre à l'acte sexuel afin de satisfaire ses pulsions et il avait récidivé à l'encontre de B._ alors qu'une enquête était ouverte contre lui pour des faits similaires. Les infractions les plus graves avaient été commises à plusieurs reprises. Le recourant ne pouvait se prévaloir ni d'une collaboration à l'enquête, dès lors qu'il persistait à nier les faits malgré l'évidence, ni de la moindre prise de conscience. En définitive, il apparaissait capable de commettre toutes sortes d'infractions et de s'en prendre à quiconque. Les messages qu'il avait envoyés à son ex-beau-père étaient révélateurs de son état d'esprit. La cour cantonale a noté qu'à ses yeux n'apparaissaient guère d'éléments à décharge, si ce n'est l'ancienneté des faits, dont la plupart remontaient à plus de cinq ans, qui constituait toutefois une circonstance négligeable au vu du comportement de tyran domestique, de la gravité, ainsi que de la répétition des infractions - les plus graves - contre l'intégrité sexuelle, dont un viol qualifié. Cette dernière infraction constituait l'infraction de base qui, en soi, entraînait déjà une peine privative de liberté de l'ordre de trois à quatre ans, le minimum légal de l'<ref-law> étant de trois ans. Les autres crimes contre l'intégrité sexuelle des deux victimes devaient valoir une augmentation du même ordre, pour tenir compte à la fois de la gravité de chaque agression sexuelle et de la répétition des actes en concours réel. A cette peine de l'ordre de sept ans s'ajoutaient les menaces, la contrainte, la violation d'une obligation d'entretien et l'infraction réprimée par l'<ref-law> (jugement sur appel, consid. 4.1.2 p. 27 s.).
1.3. Le recourant reproche tout d'abord à la cour cantonale d'avoir mis en évidence une circonstance atténuante (l'écoulement du temps) que n'aurait pas prise en compte l'autorité de première instance, sans toutefois en tirer de conséquence quant à la quotité de la peine, demeurée inchangée.
Ce moyen est infondé. Le tribunal de première instance a indiqué que la peine de 8 ans de privation de liberté se justifiait, notamment " afin de tenir compte, dans une certaine mesure de l'écoulement du temps, du fait que les faits les plus récents remontent à plus de quatre ans et que X._ n'a pas attiré l'attention de la justice depuis lors " (jugement du 25 octobre 2018 consid. 3 p. 47). Pour le surplus, le recourant ne tente pas de démontrer que les quelque trois mois écoulés entre la décision de première instance et le jugement sur appel (dont la date est déterminante pour l'application de l'art. 48 let. e CP: <ref-ruling> consid. 3.1 p. 147 s.) auraient imposé une réduction supplémentaire de la durée de la privation de liberté et il n'apparaît pas que tel soit le cas.
2.
Le recourant reproche ensuite à la cour cantonale de n'avoir pas pris en considération qu'il était en Suisse depuis plus de 30 ans, qu'il en avait acquis la nationalité par son intégration réussie, qu'il n'avait jamais occupé la justice pénale et que les faits s'étaient déroulés dans un contexte relationnel sentimental et émotionnel particulier, les victimes n'étant pas des tierces personnes inconnues sur lesquelles il aurait commis des infractions en cédant à des pulsions.
Les éléments biographiques mis en évidence par le recourant ressortent sans ambiguïté de l'état de fait de la décision querellée, y compris le casier judiciaire vierge (jugement sur appel, consid. C.a p. 16). Il suffit de rappeler que de telles circonstances, qui ne reflètent guère que le comportement attendu d'un citoyen ordinaire, demeurent, en règle générale, neutres dans l'appréciation de la culpabilité (<ref-ruling> consid. 2.6 p. 2). Le recourant n'expose pas ce qui aurait imposé de s'écarter de ces principes en l'espèce, si bien qu'il n'apparaît pas non plus que la cour cantonale aurait violé son devoir de motivation en ne discutant pas plus avant l'influence de ces éléments mineurs (v. supra consid. 1.1). Pour le surplus, la cour cantonale n'a pas ignoré les circonstances dans lesquelles se sont déroulés les faits au préjudice de A._ et B._ et les liens qui ont uni le recourant et ces deux dernières. Elle a, en effet, souligné que le recourant s'était comporté comme un tyran domestique. On ne perçoit pas ce que l'intéressé entend en déduire en sa faveur.
3.
Le recourant invoque la violation de l'<ref-law>. Selon lui, il serait manifeste " que le contrôle de la fixation de la peine d'ensemble était impossible à la juridiction d'appel ". Les premiers juges se seraient contentés de qualifier sa culpabilité d'extrêmement lourde et de considérer qu'aucun élément à décharge n'était donné.
Tel qu'il est articulé, le moyen vise principalement le jugement de première instance, qui n'est toutefois pas l'objet du recours en matière pénale (<ref-law>). Il est irrecevable dans cette mesure. Par ailleurs, en se bornant à affirmer que la décision de dernière instance cantonale ne convainc pas " car l'examen a été fait sans état de fait établi et détaillé des critères de fixation de la peine en première instance ", le recourant fait fausse route. La décision sur appel, querellée devant le Tribunal fédéral, énonce en effet l'état de fait déterminant (jugement sur appel, consid. C p. 16 ss) et la cour cantonale a également précisé, en droit, quelle était l'infraction de base (le viol aggravé), comment les autres infractions contre l'intégrité sexuelle influençaient la peine de base et comment les menaces, la contrainte, la violation d'une obligation d'entretien et l'infraction à l'<ref-law> étaient prises en compte (jugement sur appel, consid. 4.1.2 p. 27 s.). Faute pour le recourant de discuter même succinctement ces points de la motivation de la décision cantonale, respectivement d'exposer quels éléments feraient défaut et ne permettraient pas de contrôler précisément comment la peine a été fixée, il n'explique d'aucune manière en quoi la décision de dernière instance cantonale violerait le droit fédéral (cf. <ref-law>). Le moyen n'apparaît pas recevable.
Au demeurant, on peut relever d'office (<ref-law>) que toutes les infractions en concours pouvaient être sanctionnées d'une peine privative de liberté et que telle a bien été l'intention concrète des autorités cantonales. Il ressort, en effet, du jugement de première instance, dont la cour cantonale a confirmé les motifs (jugement sur appel, consid. 4.1.2 p. 29), que " Les injures étant prescrites (cas 7 de l'acte d'accusation), il n'y a pas lieu d'infliger une peine pécuniaire en plus de la peine privative de liberté " (jugement du 25 octobre 2018 consid. 3 p. 47). Cette brève indication, mise en relation avec la citation de l'<ref-ruling>, permet de comprendre que ni le tribunal de première instance ni la cour cantonale n'ont envisagé de punir l'infraction à l'<ref-law> ou la violation de l'obligation d'entretien (<ref-law>) - portant sur quelque 70'000 fr. - par une peine pécuniaire en sus de la privation de liberté devant sanctionner les autres infractions. La décision entreprise n'apparaît donc pas critiquable, sous cet angle non plus, au regard du droit fédéral. Supposé recevable, le grief devrait être rejeté.
4.
Le recourant soutient pour terminer que sa peine serait exagérément sévère par comparaison avec d'autres affaires portées devant le Tribunal fédéral.
4.1. Compte tenu des nombreux paramètres qui interviennent dans la fixation de la peine, une comparaison avec des affaires concernant d'autres accusés et des faits différents est d'emblée délicate (<ref-ruling> consid. 3a p. 144 et les arrêts cités; cf. aussi <ref-ruling> consid. 2e p. 52 s.). Il ne suffit donc pas que le recourant puisse citer un ou deux cas où une peine particulièrement clémente a été fixée pour prétendre à un droit à l'égalité de traitement (<ref-ruling> consid. 3a p. 144 et les références citées).
4.2. Le recourant se réfère à un arrêt 6B_547/2008 du 5 août 2008, dans lequel le Tribunal fédéral a jugé que la peine de 22 mois de privation de liberté, avec sursis pendant deux ans, infligée à un auteur qui avait, après un premier rapport consenti par son ex-amante, infligé à celle-ci un acte de sodomie puis encore, après l'avoir frappée, une pénétration forcée, n'apparaissait pas excessivement clémente. Le recourant souligne que la quotité de sa propre peine est environ quatre fois plus élevée et qu'il n'a pas obtenu le sursis. Dans la seconde affaire (arrêt 6B_14/2007 du 17 avril 2007), l'auteur avait été sanctionné d'une peine de 8 ans de privation de liberté. Il avait violé à plusieurs reprises son apprentie, en profitant de son état psychique fragilisé, puis, après la fin de l'apprentissage, il avait continué à abuser de la jeune fille à chaque fois qu'elle se rendait au bureau communal pour régler des questions administratives. A une occasion, face à un refus d'un rapport sexuel, il lui avait introduit une baguette métallique dans l'anus, ce qui avait provoqué une déchirure et des saignements.
La première cause se distingue des faits jugés en l'espèce sur tant de points (nombre des victimes, existence d'un cas de viol qualifié, nombre des infractions en concours, durée de l'activité criminelle, etc.) que toute comparaison apparaît immédiatement vaine. Quant à la seconde, à supposer les états de fait réellement comparables, contrairement à ce que semble penser le recourant, le parallèle avec la présente affaire suggérerait plutôt d'écarter l'hypothèse d'une inégalité de traitement. Ce grief est infondé.
5.
Le recourant succombe. Il supporte les frais de la procédure (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés 3000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 23 août 2019
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
Le Greffier : Vallat