Успіхи Осима у клубній роботі не лишилися непоміченими і 2006 року йому запропонували стати наступником бразильця Зіку на посаді очільника тренерського штабу національної збірної Японії. Він готував збірну команду до фінальної частини Кубку Азії 2007 року, змагання, яке японці вигравали у двох попередніх розіграшах поспіль. Під керівництвом Осима, утім, їм цей тріумф повторити не вдалося — у півфіналі вони поступилися збірній Саудівської Аравії, а згодом не змогли здолати збірну Південної Кореї у грі за третє місце. Попри цей невдалий виступ Осим залишився працювати з японською збірною і залишив її лише за півроку, у грудні 2007 після проблем із серцем, які змусили його взагалі завершити тренерську діяльність.