Faits: A. Par décision du 12 mars 2009, le Président du Tribunal de l'arrondissement de Lausanne a, notamment, libéré X._, de même qu'une coaccusée, C._, de la prévention de contrainte, subsidiairement de tentative de contrainte, et mis fin, suite à un retrait de plainte, aux poursuites pénales les concernant. Il a néanmoins mis la moitié des frais de justice, y compris la moitié de l'indemnité de leur défenseur d'office, à leur charge, à concurrence des 2/3, soit 5561,15 fr., pour X._ et de 1/3, soit 2780,55 fr., pour C._. B. X._ et C._ ont chacun recouru contre ce prononcé, contestant leur condamnation aux frais. Par arrêt du 18 juin 2009, la Cour de cassation pénale du Tribunal cantonal vaudois a écarté, comme tardif, le recours de X._. Elle a rejeté celui de C._, réformant toutefois d'office le prononcé de première instance en ce qui la concernait, en ce sens que la part de l'indemnité allouée au défenseur d'office sera exigible pour autant que la situation économique de l'intéressée se soit améliorée. Elle a mis les frais de seconde instance, d'un montant total de 630 fr., pour 1/4 à la charge de X._ et pour 3/4 à la charge de C._. S'agissant du recours de X._, la cour cantonale a retenu que le prononcé de première instance lui avait été notifié le vendredi 20 mars 2009, de sorte que le délai de recours, de 10 jours, venait a échéance le lundi 30 mars 2009. Déposé le 31 mars 2009, le recours était donc tardif. C. Après réception de l'arrêt du 18 juin 2009, qui lui a été notifié le 30 septembre 2009, X._ a adressé, le 12 octobre 2009, une lettre à la cour cantonale. Il faisait valoir, pièces à l'appui, que la décision de première instance lui avait été notifiée le 26 mars 2009, et non le 20 mars 2009, comme retenu dans l'arrêt cantonal. Il demandait que ce dernier soit corrigé pour en tenir compte. Il se disait conscient que son recours serait, de la même manière que celui C._, rejeté au fond. Le fait qu'il soit entré en matière sur son recours aurait toutefois pour effet que, comme pour sa corecourante, il serait précisé dans le dispositif de l'arrêt que le remboursement à l'Etat de la part des frais mise à sa charge ne sera exigible que pour autant que sa situation économique se soit améliorée. Par lettre du 14 octobre 2009, le président de la cour cantonale a répondu au recourant qu'une rectification par la cour elle-même de son arrêt, non prévue par la loi, ne pourrait éventuellement se justifier que si elle portait sur une inadvertance ou erreur mineure touchant le dispositif. Or, la rectification demandée, consistant à admettre la recevabilité du recours, entraînerait non seulement une modification du dispositif de l'arrêt, mais du considérant 1 relatif à la recevabilité du recours. De plus, outre la précision qui serait apportée quant au remboursement des frais, le dispositif de l'arrêt devrait aussi être rectifié quant à la répartition de la charge des frais de seconde instance. Dans ces conditions, il ne pouvait être donné suite à la demande de rectification. D. X._ forme un recours au Tribunal fédéral, pour constatation manifestement inexacte des faits. Il conclut à l'annulation de l'arrêt attaqué en ce qui le concerne, en sollicitant l'assistance judiciaire. Le Ministère public conclut à l'admission du recours. L'autorité cantonale se réfère à son arrêt et à la lettre adressée le 14 octobre 2009 au recourant.