Joos var autodidakt, men fikk etterhvert en privatlærer i trompet før han studerte kontrabass fra 1958. Han studerte også flugelhorn, barytonhorn, mellophone og alpehorn. Fra midten av 1960-tallet var han med i den moderne Jazz Quintet Karlsruhe, og gruppen Fourmenonly (med Wilfried Eichhorn og Rudolf Theilmann). Han var med i flere moderne og frijazzorkestre (med Bernd Konrad, Hans Koller og Adelhard Roidinger og Jürgen Wuchner). Han spilte på festivaler og Freejazz Meeting Baden-Baden med en flugelhornworkshop med Kenny Wheeler, Ian Carr, Harry Beckett og Ack van Rooyen. Han ga ut soloalbumet (1973). I tillegg ledet han sin egen messingtrio, kvartett og orkester. Den største anerkjennelsen fikk han i løpet av 1980-tallet som medlem av Vienna Art Orchestra. I de siste 15 år spilte han spesielt med SüdPool-prosjektet, men også i en duo med Frank Kuruc, samt i grupper med Patrick Bebelaar, eller Michel Godard, Wolfgang Puschnig, Clemens Salesny og Peter Schindler.