柳葉敏郎が、オーディション番組『スター誕生!』（1971年 - 1983年、日本テレビ系列）のテレビ予選で同楽曲を歌唱。しかし、合格ラインである300点に達せず、挑戦者全員（柳葉を含めて5人。柳葉以外は女性）が失格だったため、司会者の萩本欽一から「バンザーイ、無しよ!」のギャグを受けた。これが劇団ひまわりの目に留まり入団、俳優としての第一歩を切った。
父は溶接工で鉄工所を経営。16歳で歌を始め、色々なコンテストにも出場。ジャンルはカントリー・フォーク。19歳の頃からはライブにも積極的に出演し、なかでも大阪・桃谷にあったライブハウス「BEE HOUSE」では、金曜担当で、シンガーソングライターの河島英五（水曜）やブルース・バンド「憂歌団」の木村充揮（木曜）などと毎週のようにライブを行う。本気でプロを目指していて、東京に行って音楽で成功しようと決めていた。22歳の頃、ライブハウスで松竹芸能にスカウトされ、事務所に入って3ヶ月で「鶴瓶と花の女子大生」のリポーター出演が決定、その後「おはよう朝日です」「ざまぁKANKAN!」のレギュラー出演へと続く。「おはよう朝日です」の当時の1コーナー「おーい、山田くん」にて、下駄にバンカラ姿で『おーい、山田くん』と書かれたのぼりを手に、街頭インタビューを行っていた。番組内では同コーナーのみの担当であったが、知名度が向上する。1988年、よみうりテレビが当時他局で好評だった夕方の若者向けバラエティ番組の競争に参戦することになり、森脇健児と共に、当時松竹芸能の若手ホープであった山田は『ざまぁKANKAN!』で司会に抜擢される。この番組の成功により、全国区に進出する足がかりを掴む。若井はやとに弟子入りする（森脇健児も若井はやとに弟子入りしている）。その後は、東京でも積極的に仕事をこなし全国区の知名度を得るが、諸事情により『第2回松竹芸能タレントオーディション』の合格者で一期後輩である東ちづると共に同社から独立したことで、東京では目立った仕事は減るようになる。ドラマ『渡る世間は鬼ばかり』（以下『渡鬼』）では、途中からレギュラー出演を果たす。ただ、一度「京都の実家の父が倒れた」という設定で、急に"おかくら"を飛び出したことがあり、一部で「『渡鬼』降板か!?」と騒がれた。『渡鬼』の過去の出演者の前例からみて、降板すれば復帰はまず不可能と思われたが、その後レギュラーに復帰した。経緯は不明で、様々な憶測が飛んだ。また、2006年3月27日放送『関口宏の東京フレンドパークII』のスペシャル版では、「渡鬼」メンバーとして出演し、「ビッグチャレンジ」でダーツをスペシャル特別商品の「満漢全席」の箇所に命中させた。 競馬が好きで、特にテンポイントの大ファンであり番組等で様々なエピソードを披露している。その甲斐あってか、東海テレビ制作の『競馬BEAT』（2009年まで『ドリーム競馬』、中京競馬場開催分）の司会を務めていた。また、競馬の架空実況を若い頃からの持ちネタとしており、『笑っていいとも!』のテレフォンショッキングに出演の際は架空実況を披露することが恒例となっている。それ以前には『みどりのマキバオー』では競走馬のモーリアロー号役として声優出演している。本人はこのマキバオーのアニメ化決定の際に「観客役でもいいから出たい」と出演志願していたという。2000年に金沢競馬の重賞レース・百万石賞で、地元のテレビ局（石川テレビ）にゲストで呼ばれ、レースを実況したことがある。娘の名前、桜子は桜花賞からつけた。大の阪神タイガースファンで特に掛布雅之を崇拝し、「ヒーローは君だ」という名前の新聞のスクラップ帳（いわばノートの類）を作成。特に掛布がホームランを打った日の翌日の新聞記事は必ずスクラップしていた。掛布が引退した後にそのスクラップ帳を本人に見せたところ、後日掛布本人から現役時代の泥が着いたままのユニフォームを贈られた。1991年3月28日に、藤井寺球場での近鉄バファローズと阪神のオープン戦で始球式を務めたが、打席に立っていた高橋慶彦に死球を与えてしまった。翌年限りで高橋が引退したため、彼の古巣・広島東洋カープのファンから「引退に追い込んだのは山田雅人」と恨まれた。2006年春、TBSの『オールスター感謝祭』に出場。地道に得点を重ね総合優勝を果たした。同年4月からテレビ東京「ド短期ツメコミ教育!豪腕!コーチング!!」の「芸能人こそ東大へ行け！」プロジェクトに出演し東京大学合格を目指し受験勉強に励んだことを機会に、その後毎年東大に出願している様子が放送されているが、二次試験を受ける水準にも到達していないとされている。なお、センター試験以後（二次試験）の描写が放送やブログに登場したことはまだない。2013年7月9日放送の「解決!ナイナイアンサー」（日本テレビ系）では、収入が売れている頃の10分の1の中、参考書代月7000円、家庭教師代月12万円、模試（5回）2万5千円を費やしながら7浪中であることが明らかにされた。もっとも、仕事を理由にセンター試験を一部科目しか受験しない年もある（当然失格となる）。山田は横山一門にとても可愛がられており、特に同じ横山一門の上岡龍太郎は彼を重用し、「あんなあほなやつはおらん」と芸人として絶賛していた。また朝日放送のアナウンサー三代澤康司とは大の親友同士である。前述の競馬エピソードを語り口調で行う楽屋芸をしていたが、高田文夫の助言で（球界など）ジャンルを広げたことで一人語りの芸として昇華、2009年から「かたりの世界」として舞台公演を行うようになっている。