Розенберг је пореклом био балтички Немац; рођен је у Талину, (Естонија) који је тада био део Руске Империје. Студирао је архитектуру у Риги и машинство у Москви, а докторирао је 1917. у 24. години. Зграде које је тада пројектовао још стоје у центру Талина. За време Бољшевичке револуције 1917. подржао је контрареволуционарне снаге, а након њиховог неуспеха емигрирао је у Немачку заједно с Максом Шојбнер-Рихтером, каснијим страначким колегом. Често се кретао у круговима руских емиграната с којима је делио антибољшевичке ставове које је повезао са антисемитским у теорију о јеврејској завери која стоји иза револуције. Розенберг је био један од првих чланова Немачке радничке партије; придружио се у јануару 1919. године, а такође је био и члан окултне организације "Друштво Туле".