Nach Abschluss der Mittelschule wurde Litwinenko 1980 zu den Inneren Truppen der UdSSR einberufen. Ab 1988 war er in der Abteilung für militärische Spionageabwehr des sowjetischen Geheimdienstes KGB (3. Hauptverwaltung) tätig. In verschiedenen Konfliktherden der zerfallenden Sowjetunion und später Russlands war er an Kampfeinsätzen beteiligt. Beim FSB, der Nachfolgeorganisation des sowjetischen KGB in Russland, war Litwinenko im Kampf gegen Terrorismus und organisierte Kriminalität eingesetzt.