Om morgenen den 22. mars gikk nazistene under befal av SS-Oberführer Oskar Dirlewanger inn i landsbyen. Beboerne visste intet om at en tysk bilkolonne samme morgen var blitt overfalt av partisaner seks kilometer fra Khatyn og at en tysk offiser, Hans Woellke, ble drept. Tyskerne bestemte seg for å ta ut sin hevn på landsbyen. Hele landsbybefolkningen, inklusive barn og gamle, ble ført sammen inn i en låve i det lokale kolkhoset. Alle som forsøkte å flykte ble skutt i hjel av salver fra automatvåpen. Da de var blitt innelåst la tyskerne ut halm rundt låven, helte på bensin og tente på. Ilden spredte seg raskt og snart var alt over. 149 personer, av dem 75 var barn under 16 år, døde i Khatynmassakeren.