Opprinnelsen til fengselets navn er usikker. Den tradisjonelle avledningen av «Tullianum» er fra navnet til en av de legendariske navnene til en av Romas konger, Tullus Hostilius eller Servius Tullius (sistnevnte forklaring er nevnt hos Titus Livius, Varro, og Sallustius). Det er en alternativ teori at det er fra arkaiske latinske , «vannstråle», en referanse til sisterne. Navnet «Mamertiner» er fra middelalderen, og kan være en referanse til et Mars-tempel rett ved.