4 марта 1935 Козма занял пост министра внутренних дел в правительстве Дьюлы Гёмбёша. Пронацистские симпатии премьера совпадали с расизмом и антисемитизмом министра. Кроме того, и Гёмбёш, и Козма ставили в приоритет ревизию Трианонского договора. В 1936 Козма некоторое время являлся также министром обороны. В своём программном выступлении Козма солидаризировался с фашистской Италией, поддержав эфиопскую войну режима Муссолини, высказался за более жёсткий административный контроль над избирательным процессом и пообещал усилить борьбу с бедностью — «там, где она действительно существует».