小倉工業高から、社会人野球の新日本製鐵君津へ進む。社会人時代は、関東地方屈指のスラッガーと評価された。1985年、同年のドラフト会議で西武ライオンズから指名を受けた。しかし、同じ一塁手の清原和博が1位指名を受けて入団したことから、1年後の他球団からの指名も視野に入れ西武入団を保留し新日鐵君津に残留。結局、指名してくれた根本陸夫管理部長への恩もあり1年後の1986年シーズン終了後に入団した。1987年は、その清原が新人王を獲得して既に一塁手のレギュラーに定着しており、外野手として登録されている。同年は同期入団となった中村日出夫らとともに1Aのサンノゼ・ビーズに野球留学し、主に外野手として109試合に出場した。帰国した1988年は背番号が14に替わりチームに期待されていたが、故障で一軍出場はなかった。翌1989年は背番号が62になったが、一軍初出場を果たしてシーズン終盤には代打の切り札として頭角を表した。9月10日には初めてスタメンで起用され、さらに9月24日の対ダイエー戦では出場停止の清原に代わって3番打者を務め、この試合で村田勝喜からタイムリーを放ったことが大きな自信に繋がったという。1990年はチームに不足している左打ちの強打者として期待され、背番号が20になった。同年は羽生田忠克や吉竹春樹、安部理らと左翼手のレギュラーの座を争い、前年を上回る60試合に出場して打率.282、初の本塁打も記録している。翌1991年は左翼手としてチーム最多の37試合に先発出場し、9月8日には野茂英雄から決勝3ランを打ちチームにマジックが点灯した。同年は規定打席には達しなかったものの打率は.303となり、7本塁打を放っている。1992年は打率.140、本塁打なしと成績が低下したが、1993年は体調を崩した清原に代わって3番打者を務めた8月19日の対近鉄戦で2年ぶりの本塁打を放つなどの活躍を見せた。3年ぶりに復帰したオレステス・デストラーデが途中退団した1995年は清原が右肩の故障の影響により一塁守備ができないため、指名打者を務めることが多く、シーズン後半を中心に一塁手として29試合に先発出場している。1996年は内野手に選手登録が変更され、5月15日の対日本ハム戦では右中間への打球が跳ね返って本塁打かエンタイトルツーベースか判断が分かれ、中間を取って三塁打と判定される珍しいプレーがあった。1997年限りで現役を引退し、スポーツ選手の動作解析ソフトを扱う企業に就職した。社業のかたわらマスターズリーグに参加し、2003年には首位打者となっている。2004年の同リーグ開催中に西武でチームメートだった石毛宏典から四国アイランドリーグ設立の構想を聞いたのをきっかけに、2005年に香川オリーブガイナーズのコーチに就任した。2006年シーズン限りで香川を退団し、2007年から古巣である西武ライオンズの二軍打撃コーチに就任した。2008年12月9日、一軍打撃コーチだった大久保博元が知人女性への暴行容疑で被害届を提出されている事からフロントによって配置転換され、代わりに2009年から同コーチに昇格し2010年までこれを務めた。2019年4月1日から千葉県にある千葉経済大学附属高等学校の硬式野球部の監督に就任することが発表された。
宮城農業高校時代は柔道部に所属し、活躍した。知人から木瀬親方（元前頭9・清ノ森）を紹介され、高校を中退して木瀬部屋に入門。1968年11月場所で初土俵を踏んだ。入門時に高橋を説得した人物の中には廃業するかしないかの頃であった9代木瀬もいた。以来、順調に番付を上げてゆき1972年1月場所では西幕下筆頭にて4勝3敗と勝ち越し、新十両昇進が期待された。しかし東幕下4枚目で5勝を挙げた白根山宗則に先を越され、3月場所では東に回っただけだった。その3月場所では東幕下筆頭で3勝4敗と負け越し、八番相撲で勝ち4勝4敗（いわゆる「勝ち得」、ただし番付編成上は4勝3敗ではなく4勝4敗）となり、翌5月場所も同じ地位に留まった（前場所は同地位で4勝4敗であるが、4勝3敗から八番相撲で敗れて4勝4敗のため、番付編成上は4勝3敗として扱われる、いわゆる「負け得」）の成績で渥美洋正征が十両に昇進した）。しかし、3勝4敗と負け越してしまい、またもや十両に昇進する事ができなかった。当時の白根山の師匠は伊勢ノ海監事（元前頭1・柏戸）であり、渥美洋の師匠は伊勢ヶ濱理事（元横綱・照國）であったため、大部屋の無形の圧力があったのではないかという噂も流れた。その後一時は幕下10枚目台に在ったが、1974年5月場所にて、西幕下筆頭で勝ち越しながら十両に昇進できなかった2年前の悔しさを晴らす新十両昇進を果たした。以降は順調に番付を上げ、1975年11月場所で新入幕。同場所では10勝5敗と好成績を残し、敢闘賞を受賞した。筋肉質の長身を生かした、右四つからの豪快な吊り技を見せていた。森繁久彌主演の或るテレビドラマのセリフにも、「青葉山みたいに塩をいっぱい持って来い」と名前が塩撒きの代名詞として登場するほどの派手な塩撒きで人気があった。しかし、自身が十両に上がったばかりの頃はトイレットペーパー騒動が発生してから日が浅かったこともあって、大量の塩撒きが物資の無駄であるとして批判を受けることもあった。自身が細身のソップ型だった事もあり、同時期に活躍した初の外国人関取である高見山大五郎（最高位・関脇、前・東関親方）が超アンコ型で申し訳程度にチョロっと塩を撒くのとは体格も含めて対照的で、2人の取組前の塩撒きは相撲ファンの中でお楽しみとなっていた。また、シンガー・ソングライターの石川優子は青葉山のファンを公言し、とある雑誌の企画で対談を行った事もあった。一時は、幕内上位に定着していた。だが、三役での勝ち越しは1度もなく、関脇昇進を果たせなかった。増位山や貴ノ花など、大関からは幾つか勝ち星を挙げたものの（大関戦での勝利は、上記2名からの4勝を含め、計7勝）横綱には1度も勝つ事なく現役生活を終えた。その後、糖尿病を患ってからは精彩を欠く相撲が多くなり、三役と平幕を往復するのが精一杯であった。1982年1月場所からは、十両に低迷。糖尿病と体力の衰えにより、この地位でも本来の相撲が次第に取れなくなり、同年9月場所を以って現役を引退した。引退後は年寄・桐山（後、同・浅香山）を襲名し、木瀬部屋付きの親方として後進の指導に当たりつつ、勝負審判も務めたが、持病の糖尿病が悪化し、1997年9月24日に47歳で死去した。没後、浅香山の名跡は師匠の木瀬が管理していたが、停年直前の2000年3月末に同じ立浪・伊勢ヶ濱連合の小結（後に大関）魁皇へ譲渡された。