Faits: A. Le 18 octobre 2006, le Tribunal correctionnel de l'arrondissement de l'Est vaudois a condamné X._, par défaut, pour viol, vol d'usage, circulation sans permis de conduire et infraction à la loi fédérale sur le séjour et l'établissement des étrangers à la peine de trois ans de réclusion sous déduction de 86 jours de détention préventive. L'expulsion de l'intéressé du territoire suisse a été ordonnée pour une durée de dix ans, cependant que le Tribunal a renoncé à révoquer un précédent sursis. Ce jugement statuait en outre sur des prétentions civiles et sur les frais de la cause. Ensuite de la demande de relief de ce jugement formée par le défaillant, la reprise de cause a été fixée au 12 décembre 2007. L'intéressé ne s'étant pas présenté à cette audience, le Tribunal correctionnel a constaté qu'il n'avait pas de raison de croire que l'absence de l'accusé était due à la force majeure. Il a confirmé le jugement rendu à son encontre le 18 octobre 2006 et l'a condamné aux frais de la reprise de cause, par 4499 fr., montant incluant l'indemnité versée à son défenseur d'office. B. Saisie d'un recours contre ce jugement, la Cour de cassation pénale du canton de Vaud a constaté qu'aucune voie de recours cantonale n'était ouverte contre une telle décision. Le recours a été écarté par arrêt du 28 janvier 2008 et les frais de seconde instance par 1167 fr. 35, y compris l'indemnité allouée à son défenseur d'office de 387 fr. 35, mis à sa charge. C. X._ forme un recours en matière pénale contre cet arrêt. Il conclut à sa réforme en ce sens que le jugement du 11 décembre 2007 soit annulé et la cause renvoyée en première instance pour nouvelle instruction et nouveau jugement. Il conclut, par ailleurs, à ce que les frais de sa défense d'office, savoir 3873 fr. 60 en première instance et 387 fr. 35 en seconde instance, ne soient pas mis à sa charge. Le Ministère public et la cour cantonale ont renoncé à déposer des observations.