Formé dans le club tchèque du HC Dukla Jihlava, Josef Marha fait ses débuts en Extraliga lors de la saison 1992-1993. En 1994, il est repêché par les Nordiques de Québec au ( au total). Après une autre saison en République tchèque, Marha traverse l'Atlantique pour rejoindre l'Avalanche du Colorado. Ne recevant pas réellement sa chance, il est vite envoyé dans le club-école, les Aces de Cornwall. La saison suivante, toujours boudé par l'Avalanche, il remporte la Coupe Calder avec les Bears de Hershey.