Vu :
la lettre du 31 mai 2021 par laquelle A._ a déclaré retirer le recours interjeté le 19 avril 2021 contre l'arrêt de la Cour des assurances sociales du Tribunal cantonal du canton de Vaud du 2 mars 2021,
considérant :
que la cause doit être rayée du rôle en application des art. 32 al. 2 et 71 LTF, en relation avec l'art. 73 al. 1 PCF,
que, suivant l'art. 66 al. 2 LTF, il sied de statuer sans frais,
par ces motifs, la Juge unique ordonne :
1.
La cause est rayée du rôle par suite de retrait du recours.
2.
Il n'est pas perçu de frais judiciaires.
3.
La présente ordonnance est communiquée aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 2 juin 2021
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Juge unique : Moser-Szeless
Le Greffier : Bleicker