東プロイセンのケーニヒスベルク出身。1925年にドイツ陸軍の歩兵連隊に入隊。1934年3月1日にはナチス党政権下で極秘裏に再建された空軍へ移籍。さらに1935年10月1日には親衛隊（SS）に入隊（隊員番号257,146）。バイエルン州バート・トェルツ（Bad Tölz）の親衛隊士官学校に配属され、1936年から同校の教官に任じられた。1937年5月1日に国家社会主義ドイツ労働者党（ナチ党）に入党（党員番号4,691,488）。1938年8月にはSS第4連隊「デア・フューラー」の指揮官となる。その後、1939年6月1日に親衛隊少佐に昇進し、対空砲機関銃部隊（Fliegerabwehr-Maxchinengewehr-Abteilung）の指揮官となった。さらにその後、装甲師団「ケンプフ」に配属され、1939年9月のポーランド侵攻に従軍した。1940年4月にパウル・ハウサー指揮下の第2SS装甲師団「ダス・ライヒ」に配属され、西部戦線に従軍。一級鉄十字章と二級鉄十字章を叙勲した。1940年12月13日に親衛隊中佐に昇進した。その後も「ダス・ライヒ」に属してバルカン半島の戦いや独ソ戦を転戦。スモレンスクでの戦闘後、1941年9月に騎士鉄十字章を受章した。1942年3月には親衛隊大佐に昇進。1942年6月にはドイツ十字章金章を受章している。1942年7月にパウル・ハウサーの下にSS装甲軍団が創設されるとパウル・ハウサー軍団長の副官に任じられ、第三次ハリコフ攻防戦に参加した。1943年4月20日、親衛隊上級大佐に昇進。1943年11月から第17SS装甲擲弾兵師団「ゲッツ・フォン・ベルリヒンゲン」に配属され、1944年1月から6月15日にかけて師団長となった。1944年4月20日には親衛隊少将及び武装親衛隊少将に昇進。1944年6月からノルマンディー上陸作戦を迎えうつ作戦に参加したが、激しい負傷をした。1944年11月1日から1945年2月10日にかけて再度「ゲッツ・フォン・ベルリヒンゲン」師団長となる。この間の1944年12月1日、親衛隊中将及び武装親衛隊中将に昇進し、軍集団「ライン」の参謀長ともなった。さらに1945年1月29日から1945年3月9日にかけて第2SS装甲師団「ダス・ライヒ」の師団長となった。1945年3月9日、ハンガリーのセーケシュフェヘールヴァールで激しく負傷。この時の負傷がもとで5月1日、バート・アウスゼー（Bad Aussee）の軍事病院において死去した。
滋賀県大津市で生まれ、小学校3年の手前まで草津市で暮らす。8歳の時に山口県防府市に移る。引っ越し先で友達ができていくきっかけが地元の太鼓の練習であり、そして同市立牟礼中学校に入学する。中学になると本格的に音楽活動を始める。当時はドラマーであり、多くのバンドを掛け持ちする人気ドラマーだった。山口県立防府西高等学校卒業後、しばらく厨房で働いた後、1990年頃から日中は中関港のマツダ防府工場で、船内の自動車をベルトで固定する荷役の労働に従事して、夜は周南市にあるライブハウス「Boogie House」でライブ活動をするという日々を1年半過ごした。この「BoogieHouse」に出演交渉に行った際、「ライブをやりたいけど、どういうスタイルでやればいいのか分からない」と悩んでいた山崎だったが、マスターの森永正志（2012年食道ガンで逝去）は「ブルースはどうか」と、カセットテープにライトニン・ホプキンスを吹き込み手渡した。山崎はカセットを聞き非常に感銘を受け、ギターの弾き語りと作詞・作曲、いわゆるシンガーソングライターとしての活動を本格的に始めるようになった。その後も森永との師弟関係は続き、後に山崎は公式ファンクラブを立ち上げることになった際に、このライブハウスの名前から「BOOGIE HOUSE」と名付けている。1991年、レコード会社「キティ・レコード」と映画製作会社「キティ・フィルム」を混同し、キティ・フィルム主催のアクター・オーディションを受けてしまうというミスをやらかす。同オーディションは応募者が1000人以上という規模の大きいものであったが、俳優のオーディションだと山崎が気づいたのは、同年7月に行われた東京での最終審査の直前であったという。最終審査の場で、山崎は自作の歌「Rough Rock'n Roll Boogie」「中華料理」を歌い、「新人歌手のオーディションだったら間違いなく合格」という評価を受けるものの、歌手のオーディションではなかったため、審査員特別賞に終わった。しかし、「歌える役者が欲しい」という目的で審査員をしていたキティ・レコードの音楽プロデューサーに見いだされ、1993年春にキティ・レコードと契約・上京することが内定。山崎は帰郷後デモテープ制作に没頭するものの、何故か1992年10月に上京。上京直後はその音楽プロデューサーの家（恵比寿）に居候していたという。程なく横浜市桜木町に居を構え、マネキン人形運びのアルバイトをする傍ら、オリジナル曲の制作も行いつつ、ライブハウスへの出演や杏子へ楽曲提供、CMソングの仕事や永瀬正敏・三上博史のアルバムにスタジオ・ミュージシャンとして参加するなど下積み時代を過ごす。1992年11月、RCサクセションの「トランジスタ・ラジオ」のカバーシングルを、キティレコードからリリース。1994年（平成6年）3月からはフジテレビ系深夜番組『寺内ヘンドリックス』に準レギュラーとして出演。この時期、山崎自身のアルバム・レコーディングも開始されたが、キティ・レコードの経営悪化に伴い、山崎のデビュー話が浮く形になる。山崎を見出した音楽プロデューサーはキティ・レコードを退社。その音楽プロデューサーが別のレコード会社に山崎を売り込みに行き、山崎はひたすら創作に没頭するという「不遇の時代」を過ごす。なお、この音楽プロデューサーは後に山崎のチーフマネージャーになっている。