信者かつ日本カトリック医師会会員として、日本のカトリック教会と関わってきた。1995年度から日本カトリック医師会の評議員を務め、2003年度からは日本カトリック医師会長崎支部長と評議員を兼任。2005年以降はさらに理事も担当したが、2011年度を以て日本カトリック医師会の全ての役職から離れた。2009年11月23日から24日、長崎で開催された「日本カトリック医療団体協議会」第一回大会で、「原爆被災と世界の被ばく医療」と題した講演をし、「この夏来日した国連議長のデスコト神父が話すように、広島・長崎のみが平和に対する『道義的権威』を有します。これに従い、現実と理想、理論と実践を結びながら非核平和外交論を唱える宿命がある。永井隆が言うように、科学を軽視することで人類はしっぺ返しを食らいます」と述べた。福島第一原子力発電所事故後の2011年5月7日には、カトリックさいたま教区にあるさいたまカテドラルでさいたま教区サポートセンター・カリタスさいたま・ロバの会（カトリック さいたま教区正義と平和協議会）主催による「本当に大丈夫？ 放射能 放射能について学ぼう ～山下俊一先生に聞く～」と題する講演を行い、「福島は、まだ沈黙の戦争のさなかにあります。福島の十字架を誰が背負うのか・・・。風評を最小限にとどめて、一人ずつが理性的な行動をしていくことが大切です」と語った、さいたま教区長である谷大二司教を責任者として同名のパンフレットが同教区から6カ国語に翻訳して発行され、教区内や避難所等で配布された。日本財団前会長の曽野綾子とも面識のあるカトリックさいたま教区の助祭で群馬大学名誉教授の矢吹貞人は、オリエンス宗教研究所が発行する雑誌『福音宣教』で、山下の「環境の汚染の濃度は100マイクロシーベルト（毎時）を越さなければ健康には影響しません」という発言を受けて、「100マイクロシーベルト（毎時）といえば、現在のさいたまの二千倍近い強さです。それぐらい、生物は放射線に強くなっているということです」と書いた（ただ、福島県を管轄するカトリック仙台教区の平賀徹夫司教は2011年12月22日に出した 『福島差別を危惧するアピール』で、年間20ミリシーベルトという数値を「人命を第一とした数字とは言えない」としている）。カトリック社会問題研究所が編集する『福音と社会』に、2011年3月22日の外国人記者クラブの講演および質疑応答が本人の承諾の元に掲載された。また、次号では山下本人へのインタビューを行った。7月の山下の福島県立医科大学副学長就任のニュースは、カトリック長崎大司教区報『よきおとずれ』にも掲載された。11月27日には、教区福音化推進部人権委員会により、カトリック長崎大司教区カトリックセンターで「シンポジウム『被曝』新たな被害をもたらすもの」が開催され、シンポジストの一人として参加した。
2010年から薬害HIV患者の心身の健康、社会経済状況、将来設計などを調査を通じて長期的視野に立った政策提言を行い、これからの人生をより良く生きるための長期療養のモデル作りを目指すことを目的とした「HIV・HCV重複感染血友病患者の長期療養に関する患者参加型研究」をはばたき福祉事業団と共同で行っていた。2011年3月26日、山下は薬害エイズ和解15周年記念集会で講演し、「福島原発大事故に実際現場で活動している状況と、科学の生み出したものは科学の英知を集めて対処できるはずと、薬害エイズ事件も含めたあきらめない努力」を語った。
1995年からカザフスタン共和国セミパラチンスク核実験場周辺の調査活動に入り、中心的役割を果たし、2000年からの5年間、JICAセミパラチンスク地域医療改善計画プロジェクトに関わった。
1990年（平成2年）の第39回衆議院議員総選挙に旧熊本1区から無所属で立候補。当初は泡沫候補と見られていたが、北口博、松野頼三らを下し最下位ながらも初当選、以降連続6回当選（当選同期に岡田克也・佐田玄一郎・亀井久興・森英介・福田康夫・石原伸晃・河村建夫・小林興起・塩谷立・古屋圭司・細田博之・小坂憲次・山本拓・赤城徳彦・簗瀬進・山本有二など）。議員一期目に、三塚派の先輩である小泉純一郎や石原慎太郎に同調して小選挙区導入に猛反対し、同じ三塚派所属の一年生議員らと共に党中枢と敵対した。他にもコメの自由化に反対して国会前で座り込みをしたり、1994年（平成6年）11月の熊本市長選挙で魚住汎英と乱闘を起こすなど、武闘派として知られるようになる。一方で、選挙で対立候補を支援した建設会社に対して、その後公共事業の発注を行わせないようにするなどの一面もあった。1995年（平成7年）8月8日、村山改造内閣で農林水産政務次官（翌年1月11日まで）、1999年（平成11年）10月29日、衆議院農林水産委員長（翌年6月2日まで）、2000年（平成12年）12月6日、第2次森改造内閣で農林水産総括政務次官となる。2001年（平成13年）1月6日、初代農林水産副大臣となり、WTO交渉等に精力的に取り組む（同年4月26日まで）。党内では、安倍晋太郎派→三塚博派→亀井グループを経て1998年（平成10年）に江藤・亀井派結成に参加していた。当初は小泉改革に反対する立場だったが、衆議院予算委員会理事、衆議院郵政民営化に関する特別委員会理事を経て、小泉を積極的に支持する姿勢に転換、郵政国会を機に長年仕えてきた亀井静香・平沼赳夫らと事実上訣別した。同年の通常国会では、2003年（平成15年）に解党された自由党の政党交付金を同党の党首を務めていた小沢一郎が着服したとされる疑惑を追及した。また、同年8月に郵政関連法案が参議院で否決されたことにより当時の小泉首相は衆議院の解散を決断するが、同日に小泉と改革への決意を首相官邸で語っていた人物は松岡である。他方、これまでの主張であったコメの輸入自由化・FTAへの頑強なまでの反対姿勢を一転させたことは、従来の支持基盤だった農家からの激しい反発を招いた。2006年（平成18年）9月26日、松岡は第1次安倍内閣で農林水産大臣に就任した。松岡農水相は早い段階で安倍支持を表明し、松岡農水相が地盤とする熊本県での安倍晋三首相の党員得票率は75%を記録した。しかしその後、松岡農水相の事務所費問題、光熱水費問題、献金問題等数々の疑惑が浮上し大きな批判を受けるようになる。安倍首相は自身の内閣の威信を貫くため松岡農水相を庇い続けたが、マスコミは連日のように松岡農水相の不祥事を報道した。