В сборной Югославии Йован Ачимович дебютировал 8 июня 1968 года в финальном матче чемпионата Европы 1968 года со сборной Италии, завершившимся со счётом 1:1. В составе сборной Ачимович принял участие в двух чемпионатах Европы 1968 и 1976 годов и чемпионате мира 1974 года. Свой последний матч за сборную Ачимович сыграл в матче за третье место на чемпионате Европы 1976 года против сборной Нидерландов 19 июня 1976 года, тот матч завершился поражением югославов в дополнительное время со счётом 2:3. Всего же за сборную Ачимович сыграл 55 официальных матчей в которых забил 3 гола. Также Ачимович сыграл 10 матчей за молодёжную сборную Югославии в которых забил 1 гол и 1 матч за юношескую сборную Югославии.