Mengele døde i Bertioga, Brasil, den 7. februar 1979, 67 år gammel, av drukning på en svømmetur. Dødsårsaken var muligens slag. Han ble gravlagt av ekteparet Bossert i Embu das Artes under navnet «Wolfgang Gerhard», en identitet han hadde brukt siden 1976.