V srpnu 1938 jej Stalin jmenoval mužem číslo 2 v NKVD a 25. listopadu 1938 postoupil ještě výš: stal se lidovým komisařem vnitra, poté, co pomohl poslat na popraviště bývalého šéfa NKVD Ježova. Berija navrhl Stalinovi a poté zorganizoval Katyňský masakr polských zajatců v roce 1940.