W roku 1921 lub 1922 wstąpił do Czeka. W swojej karierze w partii komunistycznej i aparacie bezpieczeństwa Rosji Radzieckiej był wspierany przez rodaka Sergo Ordżonikidze, który poznał go ze Stalinem. W początkach lat 20. Gruzja wahała się między tendencjami narodowymi i komunistycznymi. Beria w 1924 roku brał udział w stłumieniu wystąpienia narodowego i popowstaniowych represjach, w których, jak się ocenia, stracono 7-10 tysięcy osób. W uznaniu za to został szefem tajnego politycznego wydziału OGPU (następca Czeka) obejmującego rejony zakaukaskie i wręczono mu Order Czerwonej Gwiazdy. W roku 1926, dzięki poparciu Ordżonikidze i Nestora Łakoby, został szefem zakaukaskiego OGPU, a także I Sekretarzem Komitetu Centralnego Komunistycznej Partii Gruzji, a w 1932 przywódcą organizacji partyjnej całego Zakaukazia. Członkiem Komitetu Centralnego Wszechzwiązkowej Komunistycznej Partii (bolszewików) został na XVII Zjeździe WKP(b) w 1934.