塩釜FCユースから富士大学を経て、2015年にヴァンラーレ八戸に加入した。2016年を以てヴァンラーレ八戸を退団。その後、フットサルに転向。1年の練習生期間を経て、2018年1月にイタチカ八戸に加入。
東京五反田の至誠病院に生まれ、中野区や大田区や豊島区などを転々として育つ。幼児期から父山本直忠の作曲弟子、作曲家渡辺浦人によって徹底した早期音楽英才教育を施されたほか、自由学園で羽仁協子や久山恵子、林光、三善晃などと共に早期音楽教育を受ける。自由学園時代の学友の一人に渡辺岳夫がいる。指揮は高校時代から自由学園を借りて毎週日曜に開かれていた齋藤秀雄指揮教室で齋藤秀雄に師事。同時期の同門に、小澤征爾、久山恵子、秋山和慶、飯守泰次郎、尾高忠明らがいる。小澤は後に、「自分は日本に留まって音楽の底辺を広げる。お前は世界を目指せ」と山本から告げられたことがあった、と語っている。1951年、東京芸術大学の入試に失敗し、父の弟子である渡辺浦人のもとに預けられて渡辺の仕事の手伝いをする。1浪後、1952年に東京芸術大学作曲科に入学、池内友次郎に師事。芸大では1学年上級の打楽器科学生岩城宏之と知り合って意気投合し、岩城とともに本物のオーケストラを指揮したい一念で、学生たちに声をかけまくって学生オケをつくり、岩城と交代で指揮をするようになる。3年生終了後、指揮科へ転じ、渡邊暁雄に師事。1958年、長男出生の年に大学を卒業。指揮科卒業演奏の曲目はブラームス作曲「交響曲第1番」だった。当初は山本も小澤らと同じように指揮者として世界で活躍することを夢見たこともあったようだが、大学指揮科在学中に眼を患い、視力の著しい低下から次々に新しいスコアを読み込み暗譜してコンサートに乗せることに不安を覚えるようになった。そのため、大学在学中からテレビや映画の分野に積極的に進出し、ポピュラーからクラシックまで幅広く作曲活動を行うようになる。同時に、テレビなどを通したクラシック音楽の普及・大衆化に力を注いだ。中でも最も知られているのは、1973年から10年間放送されたTBSのテレビ番組「オーケストラがやってきた」の企画・音楽監督・総合司会者である。また、1983年に落成した大阪城ホールのこけら落としとして、当時・毎日放送常務取締役テレビの斎藤守慶営業本部長（後に社長・会長を歴任）とともに「サントリー1万人の第九」を企画する。当時・サントリーの佐治敬三社長の後押しもあり、83年スタート。98年の第16回まで連続して構成・総監督・指揮を務めてきた。このほか、NHKのFMラジオ放送「FMシンフォニー・コンサート」（番組そのものは2007年3月で一旦終了した後、2009年4月から再開して現在に至る）の司会なども務めていた。1972年には小澤とともに新日本フィルハーモニー交響楽団を結成、指揮者団幹事となる。1979年、1980年には2度にわたり、日本人として初めてボストンポップスを指揮している。山本は人々の心に強く残る明快なメロディーを次々と生み出したが、いずれもシンプルでかつ基礎的技術の高さに裏打ちされている。代表的な作品として、映画『男はつらいよ』のテーマ曲や、TBSラジオの人気長寿番組『小沢昭一の小沢昭一的こころ』のお囃子（劇中音楽）を担当し、テーマ曲と挿入曲を作曲したことでも知られる。「男はつらいよ」シリーズでは、テーマソング・映画音楽を一貫して担当してきたが、第47作「男はつらいよ 拝啓車寅次郎様」以降の3作品は、息子の山本純ノ介と共同で音楽を担当した。1975年12月31日放送の「ゆく年くる年」（全民放局同時放送・幹事局は日本テレビ）と1987年3月31日放送の「国鉄最後の日」の関連特番（日本テレビ）では蒸気機関車の汽笛の音を用いて演奏する「蛍の光」で指揮を務めた（後者では最後に蒸気機関車の汽笛の音にあわせて機関士一同が合唱を行なった）。2回とも京都市にある梅小路機関区で行なわれた。口ひげと黒縁メガネがトレードマークとして知られ、その自由奔放なキャラクターから、タレントとしての一面も備えていた。森永製菓「エールチョコレート」のCMソング『大きいことはいいことだ!!』、日本船舶振興会（当時）の『火の用心の歌』を手がけた際には、自らCMに出演した。音楽関係者の間では「日本の音楽普及に最も貢献したひとり」と高く評価する声もある。だが一方で、生前は周囲とのトラブルや、1978年8月6日に起こした交通違反スキャンダルなどでマイナスイメージがつき、その功績に比して音楽家として世間から必ずしも高い評価を得られてはいなかった。晩年は再び純音楽の舞台への復帰を強く願っており、FM放送で番組司会者の仕事も再開させていた。岩城宏之とは無二の親友であった。1999年には、妻の心臓発作を機にキリスト教（カトリック）に入信している。洗礼名はフランシスコといった。こどもさんびか改訂版に「せかいのこどもは」(作曲)を残している。1998年に鹿児島県南種子町で開催された「トンミーフェスティバル」において作曲を手がけたことが縁となり、楽譜をはじめとした資料、楽器、生活家具などが同町へ寄贈され、南種子町郷土館内に「山本直純音楽記念室」が開設された。2002年6月18日、急性心不全のため死去。69歳没。墓所は、東京都品川区上大崎の真言宗高福院にある。墓石には上田敏の訳詩集タイトルの「海潮音」の文字が彫られている。戒名は「秀慧院昊樂直純居士」。