入団1年目となる1986年は近藤貞雄監督の下で本格派として期待され、一軍で18試合に登板して0勝3敗・防御率5.11の成績に終わるも3セーブを挙げた。同年5月6日に同い年の相川英明とともに出場選手登録されるとその2日後（5月8日）に対読売ジャイアンツ（巨人）5回戦（後楽園球場）にて若菜嘉晴とバッテリーを組み一軍初登板・初先発を果たし、初マウンドで巨人先発・江川卓と投げ合った。この試合では試合開始直前の1時間前に先発登板を告げられたが「力を抑えて低めを狙う」冷静な投球で1・2回を無失点に抑えた。その後5回裏から疲れが見えたところを巨人打線に痛打され、相川に交代するまでに5回3分の2を投げ5被安打・2奪三振・3与四球・5失点（自責点4）で敗戦投手となったが、近藤監督は中山の投球を「合格点。（チャンスに主力が外野にすら打球を飛ばせなかった）打線が情けない」「中山は打線の援護が思うように入らなくてもよく投げた」と高く評価し、中山本人も『朝日新聞』の取材に対し「江川さんと投げ合えて楽しかった。原さんには打たれる気がしなかった」と語った。またこの試合では打撃でも2回表2死一・二塁の場面で江川から三塁線に抜ける二塁打（二塁走者・田代富雄が生還し1点適時打。一塁走者・若菜は本塁で憤死）を放ちプロ初安打・初打点を記録した。同年7月には平塚球場で開かれた二軍イースタン・リーグ（イ・リーグ）の試合に登板した際、ジュースの差し入れを受けたことをきっかけにその差し入れ主である大洋ファンの女性（当時・淑徳短期大学英語学科在学。後に婚約するも1991年末の事件により婚約破棄）と交際を開始した。同年10月13日にはナゴヤ球場で開かれた中日ドラゴンズ戦で初セーブを記録した。プロ入り2年目となる1987年は推定年俸590万円（前年比160万円増）で臨み、古葉竹識監督の下で33試合に登板し5勝12敗・防御率5.17・セーブなしと大きく負け越したが、著しい成長を遂げて投手陣の軸に近づく飛躍の1年となった。同年5月9日に本拠地・横浜スタジアムで開かれた読売ジャイアンツ（巨人）戦で先発して堀場秀孝とバッテリーを組み6回3分の2を投げ、疲れが出た7回表に連打を浴びて4失点するなどして5失点を喫したが、チームは8対6で勝利して連敗を5で止め、中山自身もプロ初勝利を飾った。また同年5月21日には横浜スタジアムで開かれたヤクルトスワローズ戦にて堀場とバッテリーを組んで6被安打・5奪三振・1与四球・1失点でプロ入り初の完投勝利（シーズン2勝目）を記録し、同年6月27日には後楽園球場で開かれた巨人戦で若菜嘉晴とバッテリーを組み先発すると巨人打線を6回2死まで無安打・合計4被安打に抑え完投してプロ入り初完封勝利（シーズン3勝目）を記録した。10歳代（未成年）の投手が巨人戦で完封勝利を記録したのは当時20年ぶりのことで、このころには当時のエース・遠藤と同数の勝利数を稼ぐことを目標に掲げていた。一方で古葉監督からは「先発の際には良い球と悪い球の落差がありすぎる」と指摘されていたほか、同年11月に静岡県伊東市内で開かれた秋季キャンプ中には「自分は先発ローテーション入りして一人前になった」と自負していたところ、コーチたちから様々な注意・助言を受けたことに対し反抗的な態度を取ったため寺岡孝ヘッドコーチから「やる気がないなら東京へ帰れ！」と鉄拳制裁を受けたが、それが意識改革を促すきっかけとなった。プロ入り3年目の1988年シーズンは推定年俸1,180万円（前年比590万円増）で臨み、それまでの抑え・斉藤明夫が抑え投手としては球速が遅かったことに加え、中山もオープン戦で先発をテストされたが5回まで持たなかったため、古葉監督の提案で抑えに転向した。中山自身は抑え転向を古葉から言い渡された当初「抑えの場合は調整法がわからないし、高知商高出身の先輩には鹿取義隆さん（巨人）・中西さん（阪神）のように抑え投手が多いが、自分は先発を目指したい」と先発投手への強いこだわりを見せていたが、古葉が中山を抑えに転向させた理由は「今年からは延長12回制となったから切り札・斉藤の前にもう1人抑えが欲しかった。性格が強気で速い球を投げられる投手は中山しかいない。短いイニングなら集中力を持続でき、先発時に集中力を欠いてミスをすることも少ないだろう」という見立てだった。実際、抑えに転向した当初こそ調子を乱し撃ち込まれたが、古葉は期待の裏返しとして「中山と心中する」と宣言し、中山も抑えに慣れ、戸惑いがなくなると抑えとして好成績を残せるようになった。同年は新たにスライダーを会得したことで投球に余裕を持つことができるようになり、リーグ最多の70試合に登板して10勝6敗24セーブ34セーブポイント・防御率2.28の成績を挙げ、中日ドラゴンズ・郭源治やロッテオリオンズ・牛島和彦に並んで「プロ野球を代表するストッパー」とうたわれた。同年は救援投手ながら規定投球回に到達する活躍を見せたほか、オールスターゲームでは第2戦・ナゴヤ球場（7月25日）、第3戦・東京ドーム（7月26日）と2戦連続で勝利投手となった。また同年11月5日開幕の日米野球大会（読売新聞社主催）全日本メンバーに選出されたほか、11月19日に平和台野球場で行われたセ・リーグの第10回東西対抗戦東軍にも選出された。同年オフは防御率リーグ3位など好成績を残したことを高く評価され、12月2日に推定年俸2,520万円（前年比200%アップ、1,340万円増）で契約更改した。右投げの速球派投手として活躍していた中山だったが、大洋にとっては「即戦力」とみなされたため古葉監督時代にリリーフで酷使されたことから肩・腰を痛めてしまい、プロ入り4年目となる1989年シーズンは45試合に登板して1勝10敗17セーブ・防御率4.10と大乱調に終わった。同年オフには推定年俸2,200万円（前年比320万円減）で契約更改した。故障から「これで終わり」と言われた中山だったが、高校の大先輩・須藤豊が監督に就任したプロ入り5年目の1990年シーズンは先発ローテーション投手として復活し、27試合に登板して8勝12敗・防御率3.92の成績を残した。同年4月7日にナゴヤ球場で開かれた中日ドラゴンズとの開幕戦で開幕投手を務めたが、それから3週間にわたっては未勝利に終わっていた。しかし4月28日に高校時代に活躍した思い出の地・阪神甲子園球場にて開かれた阪神タイガース戦で市川和正とバッテリーを組み、投げては完投して阪神打線をわずか4安打に抑え、打っては5回表に一死三塁の場面で自らセンター犠牲フライを打って1点を取り、その点を決勝点として守り切ったことで同年初勝利を3年ぶりの完封勝利で飾った。完封勝利はプロ入り2度目で、それまで開幕投手を務めながらも苦戦していた中山に対し、須藤監督は「甲子園は彼にとって思い出の場所だろう。本来は試合に勝ってからだが、中山へのおまじないでマウンドに立つ前に（母校の校歌を）歌ってやろう」と母校の校歌を口ずさんでおり、試合後にも中山とともにベンチ裏で再び校歌を歌った。同年はオールスターゲームにも通算2度目の出場を果たし、オフの契約更改では12月6日に推定年俸2,450万円（前年比270万円増）を保留し、12月25日になって推定年俸2,630万円（前年比430万円増、前回交渉より130万円増）で契約更改した。また逮捕されるちょうど1年前となったこの日には入団後まもなく知り合った当時21歳の女性と婚約し、翌1991年オフに女性と挙式する予定だったが、同年は成績不振だったため巻き返しを期して挙式を1992年オフに延期していた。プロ入り6年目となった1991年シーズンも2年連続で開幕投手を務めたが、春先こそ好調だったものの6月8日の試合（札幌市円山球場・中日戦）では6点リードを守れず降板した。それ以降は成績が下降線たどり、夏場は先発で6連敗するなどエースとしての期待に応えきれず、8月には二軍落ちした。二軍落ちした際に中山を指導した二軍投手コーチ・野村収は『神奈川新聞』運動部記者・文平英樹の取材に対し「当時も悩んでいた様子はなかった」と証言した。同年は先発20試合を含め27試合に登板して8勝10敗・防御率4.20の成績で、規定投球回数到達選手20人中ではリーグ最下位の成績だった。しかしプロ入りから同年シーズン終了までの6年間で通算32勝53敗44セーブの成績を挙げ、大洋球団のエース級投手として活躍しており、シーズン終了後の同年12月6日には翌1992年度の契約について推定年俸2,650万円（現状維持）で契約更改していたほか、同年10月には横浜市緑区若草台（現：横浜市青葉区若草台）に約1億1,800万円で2階建ての新築住宅を建て、郷里・高知市内に暮らしていた両親・姉も含めて5人で新生活を送っていた。