Jabarkan NK Željezničar (1960-1970) dari Ivica Osim dalam bahasa jawa

Ketika dia mengakhiri kariernya sebagai juru main pada taun 1978, Osim langsung menjadi pelatih untuk klub dimana dia bermain untuk pertama kali, NK Željezničar. Dia melatih tim Sarejevo itu hinggal taun 1986, dan mencapai peringkat kedua di Liga Yugoslavia dua kali, mencapai final Piala yugoslavia sekali, dan semifinal Piala UEFA sekali. Dia juga memegang kalungguhan pelatih tim olimpiade Yugoslavia pada Olimpiade 1984 dan meraih medali perunggu.

Pada taun 1986, dia ditunjuk sepagai pelatih tim nasional bal-balan Yugoslavia dan mencapai perempatfinal pada Pial Dunia FIFA 1990. Osim juga melatih FK Partizan dari taun 1991 hingga 1992, dan membawa mereka meraih Piala YUgoslavia pada taun 1992.

Yugoslavia lolos kualifikasi pada Piala Éropa 1992, namun dia mengundurkan diri sebagai pelatih karena keluarganya di Sarajevo menghadapi bombardir bala Serbia pada perang Yugoslavia. "Nagara saya tidak pantas untuk tampil di Piala Éropa," kata Osim, "Saya tidak dapat bertahan sebagai pelatih sementara kulawarga saya menderita."1. Yugoslavia dilarang tampil pada kejuaraan tersebut, dan kemudian menjadi nagara yang terpisah-pisah.

Setelah meinggalkan Yugoslavia, dia melatih Panathinaikos dari taun 1992 hingga 1994, meraih juara Piala Yunani pada taun 1993 dan 1994, sarta mencapai peringkat kedua di liga pada taun 1993.

Dari taun 1994 hingga 2002, Osim melatih SK Sturm Graz, yang dia bawa menjuarai Liga Ostenrik pada taun 1998 dan 1999, juara Piala Ostenrik pada 1999 dan Piala Super Ostenrik pada 1998 dan 1999. Sturm Graz terus tampil di Liga Champions UEFA dari taun 1998 hingga 2000.

Sejak taun 2003 hingga 2006, Osim menjabat sebagai pelatih JEF United Ichihara (sekarang JEF United Ichihara Chiba) di J-League, dan mengubah image tim lemah menjadi tim yang patut diperhitungkan. JEF hampir saja meraih juara liga untuk pertama kali pada taun 2003, ketika duduk di peringkat ketika pada setengah mangsa pertama dan kedua. Pada taun 2005, klub itu akhirnya meraih gelar juara piala liga untuk pertama kali.

Piyambakipun dipundhawuhi saperlu dados pelatih tim nasional  rikala Juli 2006 dumugi taun 2007.