14 січня 1934 року у віці 19 років дебютував в офіційних матчах у складі національної збірної Німеччини в товариській грі проти Угорщини (3:1), де забив гол. А вже влітку того ж року поїхав з командою на дебютний для німців чемпіонату світу 1934 року в Італії. На «мундіалі» молодий німецький нападник вразив своєю грою, забивши три м'ячі в першому ж матчі проти Бельгії 27 травня. На перерву збірні йшли за рахунку 2:1 на користь бельгійців, у другому таймі спочатку на 49-й хвилині Отто Зіффлінг у своєму першому матчі за збірну зрівняв рахунок, а потім протягом 19 хвилин Конен забив 3 голи, ставши таким чином автором першого німецького хет-трику на чемпіонатах світу і загалом лише четвертого в історії чемпіонатів світу, а німці виграли 5:2 і вийшли в 1/4 фіналу.