Рагим Газиев родился в 1943 году в Шеки. Окончил Бакинский инженерно-строительный институт и защитил кандидатскую диссертацию по математике и физике. С 1968 по 1990 годы преподавал в том же университете. В 1988 году Газиев стал одним из основателей и пятнадцати первых членов Народного фронта Азербайджана. Он стал известен своими националистическими взглядами и яростной поддержкой Абульфаза Эльчибея. Был арестован летом 1990 года как организатор антисоветских беспорядков, привёдших к вводу войск в Баку и содержался в Лефортовской тюрьме в Москве. Спустя несколько дней был освобождён, в результате избрания в Верховный Совет Азербайджанской ССР, хотя уголовное дело против Газиева ещё не было закрыто.