Sékou Traoré syntyi sotilaan perheeseen. Hän liittyi vapaaehtoisena Ranskan siirtomaa-armeijaan vuonna 1930 ja osallistui toiseen maailmansotaan ja Indokiinan sotaan. Malin liittovaltion armeijan esikuntapäällikkö Abdoulaye Soumaré kutsui kapteeni Traorén Madagaskarista helmikuussa 1960 ja saman vuoden elokuussa hänet nimitettiin itsenäistymässä olleen Malin tasavallan armeijan esikuntapäälliköksi. Joulukuussa 1960 presidentti Modibo Keïta nimitti esikuntapäälliköksi Soumarén ja Tourésta tuli hänen varamiehensä. Soumarén kuoltua vuonna 1964 Traorésta tuli jälleen armeijan komentaja.