В течение его первых лет в «Брондбю» Каленберг играл на позиции центрального полузащитника. Он был признан одним из самых талантливых датских полузащитников, и дебютировал в молодёжной сборной Дании в сентябре 2002. Он дебютировал в датской национальной сборной 30 апреля 2003, когда в товарищеском матче сборная Дании обыграла со счетом (1:0) сборную Украины. Он был отобран в сборную Дании на Чемпионат Европы-2004, но так и не сыграл ни игры на турнире.