Al inicio de la Guerra Civil Rusa entre las fuerzas bolcheviques, el Ejército Blanco y otros movimientos antibolcheviques, Yakir fue miembro del comité del partido bolchevique de la provincia de Vorónezh y empezó al servicio del Ejército Rojo como comisario político.