Групата е сформирана от Джерард Уей и бившия им барабанист Мат Пелисър приблизително една седмица след атентата срещу кулите близнаци на 11 септември 2001 година, което всъщност е вдъхновило Джерард да направи нещо с живота си. Той написва първата им песен („Skylines And Turnstiles“), отразяваща чувствата му относно атаката. Скоро след това те канят Рей Торо да се присъедини към тях, защото по това време Уей не може да свири на китара и да пее едновременно, а и смята, че Торо е един от най-добрите китаристи, които е чувал в Ню Джърси. Правят първия си запис на тавана на Мат, където са записани песните им „Our Lady Of Sorrows“ (в началото озаглавена „Bring More Knives“) и „Cubicles“. Майки Уей – братът на Джерард харесал демото толкова много, че напуснал колеж и се включил в групата, като съответно се научил да свири на бас китара. Името „Май Кемикъл Романс“ е предложено от Майки, след като той попада на израза „Chemical Romance“ в книгата „Екстази“ на Ървин Уелш (Ecstasy: Three Tales of Chemical Romance), докато работи в книжарницата „Barnes &amp; Noble“ заедно с брат си Джерард.