2014年7月5日に西京極スタジアムで行われた京都サンガF.C.戦で途中出場したのを最後にドイツへ出発し、ブンデスリーガ2部のカールスルーエSCの練習に参加。磐田側は残留を希望したが、山田の強い海外移籍の意志を容認し、2014年7月24日に公式に完全移籍が発表された。また、同日に柿谷曜一朗などが所属している株式会社バランスマネジメントとマネジメント契約した。8月3日に行われたブンデスリーガ2部 開幕節のウニオン・ベルリン戦にスタメン出場し、公式戦初出場を果たした。9月21日に行われた1.FCニュルンベルク戦でリーグ初ゴール、初アシストを記録した。磐田で退団セレモニーなどは行われなかったため、磐田サポーターにちゃんとした挨拶が出来ないままになっていたが、12月22日に静岡の可美公園総合センター 体育館で「山田大記選手 激励会」が行われた。その後、チームの中心選手として活躍し、山田の市場価値は半年で数倍に上がった。2014-15シーズンでは、33試合で6得点を挙げたが、チームは昇格プレーオフで敗れ、1部昇格は叶わなかった。2015-16シーズンは、磐田時代と同じ背番号10に変更し、32試合に出場した。2016-17シーズンでは、チームの調子が上がらず監督が4回も変わり、山田もレギュラーを外れる試合が多かった。チームはそのまま順位を上げる事が出来ずに3部へ降格し、シーズン終了後の2017年5月22日にチームを退団する事を自身のFacebookで発表した。
大学卒業後、ジュビロ磐田と鹿島アントラーズからオファーが有ったが、ジュニアユースまで所属していたジュビロに入団。同期入団は、小林裕紀と金園英学。2011年、1年目にして背番号10を任されるなどシーズン前から期待をされていた。開幕戦は途中出場だったが、期待通りの活躍を見せ、第2節以降スタメンに定着する。キレのあるドリブルやパスで勝利に貢献し、第10節のモンテディオ山形戦ではプロ初得点を決めるなどした。中心選手として活躍していたが、シーズン終盤に左下腿の肉離れを起こし、続けて今度は右第5中足骨を疲労骨折し、手術のため離脱し、終盤は試合に出られなかった。それでもシーズンを通して5得点を記録し、FWの選手を除けばチーム最多得点者となった。2012年、柏レイソルに完全移籍した那須大亮の後を継いでクラブ史上最年少ゲームキャプテンに就いた。また、日本代表候補トレーニングキャンプメンバーに初招集される。2013年7月25日、東アジアカップ2013オーストラリア戦で日本代表初出場を果たした。2013年シーズン終了後、スコットランドのセルティックFCに練習参加。
総音程音列を反復語法に利用した経験から、「全く偶発的に密度が選ばれているにもかかわらず、音響内は常に運動する」書式を考案し、「ピッチ・インターヴァル技法」と定義したのがこの時期である。この技法では1000を越える総音程音列の中から、7オクターブ弱に音高をまたがらせた任意の一つを選び、リズム、コード、アタック等の諸パラメータを全て乱数表で決定するものである。この技法を用いるようになってから、創作ペースが急激に上がる（「モルフォジェネシスI」は、ポーランドからの帰りの飛行機の中で完成した）。この極端な書法で、調性音楽が確立した様々なイディオムは、全てこの書法の異物として耳が機能することにより、引用がことさらに効くようにもなった。この時期に入っても「先にオーケストラ作品でスケッチしてから、2台ピアノ作品を完成させる」（尖度I, II, 1982年）など、常人とは全く逆のプロセスで作曲するユニークな態度は変わっていない。この時期に編纂した総音程音列の一覧表は、今も現役のままで使われている。「線的なセリー使用に伴う、聴覚的な音程の矛盾」はミルトン・バビット他さまざまな作曲家によって指摘されてきたが、彼だけが完全に解決することが出来た。この時代には、ピアノ独奏作品が次々と生まれたことも特筆される。これは、平尾はるなの門下生である中村和枝らを得たことが大きい。中村は彼のピアノ協奏曲全3曲の世界初演で、全てソリストを務めた松平作品のスペシャリストである。今度は「Rから始まる三つのピアノ協奏曲」という計画で「レコレクション」（1989年）、「レヴォリューション」（1991年）、「リメンブランス」（1996年）を作曲した。なかでもレコレクションはカジミェシュ・セロツキの残した初期設定に緻密な注釈を与えていく様が聴覚的にも容易に把握でき、楽器数の少なさにもかかわらず音楽的密度も複雑化の極致を追求している。中村のみならず、里見暁美、渋谷淑子、井上郷子、栗本洋子、門光子、山口淳、松永加永子、稲垣聡、新垣隆らも、それぞれ松平作品の演奏を残している。第2期で関わった演奏家とは顔ぶれががらりと変わることに注意されたい。プログラムノートの筆の鋭さも相変わらず健在で、レヴォリューションの解説に「既に『革命』と呼ばれる行為が、もう政治的意味をなさない」ことを断っていることにも、旧左翼陣営への挑発的態度が伺える。1980年代はMIDI音源を駆使した音楽性が商業音楽全体を覆い尽くすが、この様相にも着実に対応しており「アンノーテーション」（1987年）で既にテクノ調のリズムが導入されている。ガムランとピアノ・ソロのための「コエグジスタンス」（1993年）では、ガムランは通常の調律のままなのに、ピアノ・ソロは平均律クラスター音響の連続であり、題名とは裏腹に一種の戦闘状態を想起させるが、ラストは三和音のクリシェで何事もなく閉められる。「Uの為の1,2,3」（1990年）もチェロの特殊奏法と三和音のクリシェが共存しており、調性音楽との様々な対峙が第2期以上に際立って多い。最も松平らしさが前面に押し出された「閃光」（1997年）は、彼が開拓した音楽技法の統合のような様相を呈しており、演奏効果も高い。ラストのバッハの引用も、突然終止が用意してある。元素材にリング変調やディストーションをかけていた第2期の頃には目立って多かった騒音的効果は後退している。この時期の最初にオペラ「挑発者たち」（1982年 - 2008年）を構想。