Tilnavnet Devils er knyttet opp mot et sagn om et monster som en gang i tiden skulle ha holdt til i området rundt New Jersey. Klubben hadde i mange år rollen som lillebror i New York-området, i skyggen av New York Rangers og New York Islanders. I årene rundt millenniumskiftet har imidlertid «djevlene» vært den mest suksessfulle klubben i området med tre Stanley Cups.