Po raz pierwszy na arenie międzynarodowej Johannes Weiss pojawił się 12 marca 2005 roku, kiedy wystartował w zawodach FIS Race w Pragelato. Zajął wtedy 52. miejsce w konkursie rozgrywanym metodą Gundersena. W 2007 roku wystartował na Mistrzostwach Świata Juniorów w Tarvisio, gdzie wspólnie z kolegami z reprezentacji wywalczył złoty medal w zawodach drużynowych. Rok później, podczas Mistrzostw Świata Juniorów w Zakopanem Austriacy z Weissem w składzie zdobyli tym razem srebrny medal. Indywidualnie wystąpił tylko w sprincie, w którym zajął dziewiątą pozycję. Startował także na Mistrzostwach Świata Juniorów w Štrbskim Plesie, ale nie zdobył medali. Indywidualnie plasował się w drugiej dziesiątce, a austriacka sztafeta zajęła czwarte miejsce.