1936 ging Janka in die Spanische Republik, um sich im Thälmann-Bataillon am Spanischen Bürgerkrieg zu beteiligen. 1937 wurde er Hauptmann und bald danach in der Karl-Marx-Division jüngster Major der spanischen Volksarmee. In der Schlacht am Ebro erlitt er eine schwere Verwundung. Er begegnete in Spanien auch dem späteren Stasi-Chef Erich Mielke in dessen Funktion als Offizier der stalinistischen Geheimpolizei in Spanien, SIM (Servicio de Investigación Militar).