Ivan Gošnjak war von Beruf Zimmermann und trat 1934 der Kommunistischen Partei Jugoslawiens (KPJ) als Mitglied bei. 1935 wurde er nach Moskau gesandt, wo er die Internationale Lenin-Schule besuchte und Josip Broz Tito kennen lernte, dem er mehr als 40 Jahre als Berater diente. 1936 absolvierte er eine militärische Ausbildung im Militärlager Rjasan und nahm ab Januar 1937 als Freiwilliger mit dem Kampfnamen "Nummer 36" am Spanischen Bürgerkrieg teil. Dort wurde er als Anhänger von Josef Stalin zum Hauptmann der Internationalen Brigaden befördert. Nach der Niederlage der republikanischen Kräfte wurde er im Februar 1939 in Frankreich festgenommen, ehe ihm nach dem Kapitulation Frankreichs beim Waffenstillstand von Compiègne vom 22. Juni 1940 die Flucht gelang. Er floh 1941 ins Deutsche Reich und war dort mit einem gefälschten Reisepass als Arbeiter tätig.