Кабинет доктора Калигари
В 1919 году дебютировал в кино. Во время съёмок экспрессионистского фильма «Кабинет доктора Калигари» у его жены начался роман с Фрицем Лангом. В 1920 году пара развелась, бывшая жена впоследствии вышла замуж за Ланга. Несмотря на развод, бывшие супруги вместе работали в фильмах Ланга «Усталая Смерть», «Доктор Мабузе, игрок», «Нибелунги», «Метрополис» и «Шпионы». Их последней совместной работой стал фильм «Завещание доктора Мабузе», после запрета которого нацистами Ланг покинул Германию. Впоследствии Кляйн-Рогге сыграл в двух фильмах, которые поставила его бывшая жена.