Το ξεκίνημα της Κα Γκε Μπε προέρχεται από την ίδρυση της Τσέκα έξι εβδομάδες μετά από την Οκτωβριανή Επανάσταση του 1917 με σκοπό να υπερασπιστεί το εκκολαπτόμενο κράτος των Μπολσεβίκων από τους πανίσχυρους αστούς εχθρούς του, και κυρίως το κίνημα των Λευκών. Η Τσέκα ξεκίνησε τη δράση της με σκοπό να καταπνίξει βίαια την διαφωνία ανακρίνοντας και βασανίζοντας ύποπτους αντεπαναστάτες και της είχε δοθεί από τον Λένιν ένας κεντρικός ρόλος για την επιβίωση του νέου καθεστώτος. Με την έγκριση του Λένιν, μια νέα υπηρεσία πληροφοριών για το εξωτερικό της Τσέκα, με τα αρχικά INO (Innostranyi Otdel), ιδρύθηκε στις 20 Δεκεμβρίου του 1920. Ήταν ο προάγγελος για τη δημιουργία της πρώτης Γενικής Διεύθυνσης της Κα Γκε Μπε. Η ίδια η Τσέκα μετονομάστηκε σε "Πολιτικό Διευθυντήριο του Κράτους" (OGPU), ένα όνομα που θα διατηρούσε για ένα μεγάλο διάστημα της πρώιμης κυριαρχίας του Στάλιν (1920-30).