Marx falleció el 19 de agosto de 1977 en Los Ángeles a causa de una neumonía, dejando atrás tres exesposas, Ruth, Kay y Eden, tres hijos (Arthur, que fue exitoso guionista y escritor de biografías; Miriam y Melinda), 18 películas —14 de ellas junto a sus hermanos— y millones de admiradores.