Η υπηρεσία δημιουργήθηκε το 1947 από τον πρόεδρο Χάρρυ Τρούμαν με την απόφαση Εθνικής Ασφάλειας του Κογκρέσου. Η CIA είναι μετεξέλιξη της υπηρεσίας OSS (Office of Strategic Services) που έδρασε κατά την περίοδο του Β' Παγκοσμίου Πολέμου. Πρώτος της διευθυντής ήταν ο Sidney Souers. Την περίοδο του Ψυχρού Πολέμου ο ρόλος της ήταν η ανατροπή κομμουνιστικών (κυρίως) κυβερνήσεων και η κατασκοπεία σε βάρος της Ανατολικής Γερμανίας και της Ρωσίας. Επίσης, έπαιξε ενεργό ρόλο στον πόλεμο της Κορέας (1950-1953) όπου έχασε κάποιους πράκτορές της. Μία από τις πρώτες μεγάλες επιτυχίες της CIA ήταν το πραξικόπημα στο Ιράν σε βάρος του Μοχάμεντ Μοσαντέκ στις 15 Αυγούστου του 1953. Η επιχείρηση είχε κωδικό όνομα "TP-Ajax" και πραγματοποιήθηκε σε συνεργασία με την Αγγλική ΜΙ6.