He began his career in 1987 with John Garcia, Brant Bjork, Josh Homme and Chris Cockrell under the band name Katzenjammer.
Оливери начал свою карьеру в 1987, играя с Джоном Гарсией, Джошем Оммом и Брэнтом Бьорком в группе Katzenjammer.