Después de tener distintos puestos en las fuerzas armadas, Ould Taya fue nombrado Jefe de Personal del Ejército en enero de 1981.