Hijo del político Sarney de Araújo Costa y de Kiola Ferreira de Araújo Costa, en 1965 adoptó legalmente el nombre de José Sarney de Araújo Costa, el cual ya utilizaba para fines políticos desde 1958, por ser más conocido como "Zé do Sarney", es decir, "José el hijo de Sarney".