در دورهٔ هرمز دوم، پسر و جانشین نرسه، مسیحیان که از آرامش نسبی برخوردار بودند به تثبیت ساختار کلیسا پرداختند. این امر در سال‌های نخستین حکمرانی شاپور دوم نیز ادامه یافت و اسقف سلوکیه-تیسفون به نام در سال ۳۱م تلاش کرد تا اتحاد کلیساهای ایران را فراهم کند. چنین به نظر می‌رسد که تا آن هنگام ساختار کلیساهای ایران از انسجام و سلسله مراتب مشخصی برخوردار نبود و کلیساهای شهرهای مختلف به صورت مستقل اداره می‌شدند. در برخی شهرها نیز چند اسقف به امور دینی مسیحیان رسیدگی می‌کردند پاپا می‌خواست همان گونه که اسقف‌های انطاکیه و اسکندریه بر همه کلیساهای امپراتوری روم نظارت داشتند اسقف سلوکیه-تیسفون نیز بر فعالیت اسقف‌های ایران نظارت داشته باشد و به عنوان نماینده و مطران مسیحیان به دربار ساسانی معرفی شود، اما اسقف‌های ایران آن را نپذیرفتند، به همین دلیل پاپا با اسقف ادسا مکاتبه کرد و اسقف به او وعده داد که می‌تواند از پشتیبانی کنستانتین امپراتور مسیحی روم برخوردار شود. اسقف‌های ایران معتقد بودند که در این صورت میان دو دشمن قدرتمند، امپراتور روم و شاهنشاه ساسانی، در تنگنا قرار می‌گیرند. ظاهراً تلاش‌های پاپا برای تثبیت ساختار کلیسا در زمان خود وی به نتیجهٔ مطلوبی منتهی نشد و در خصوص سرانجام وی نیز منابع اتفاق نظر ندارند برخی معتقدند در شورایی که در حدود سال ۳۱۴ یا ۳۱۵ م. در سلوکیه-تیسفون تشکیل شد، پاپا را محکوم و از مقام اسقفی خلع کرد، برخی نیز بر این باورند که اسقف‌های رومی او را به رسمیت شناختند و او به عنوان جاثلیق سلوکیه-تیسفون و در رأس کلیساهای ایران قرار گرفت برخی نیز می‌گویند پس از برکناری وی، سیمون بار صبع به عنوان اسقف سلوکیه-تیسفون انتخاب شد. سوزومن مورخ سدهٔ پنجم میلادی می‌گوید با افزایش شمار مسیحیان، بنای کلیساها و انتصاب کشیشان آغاز شد و این امر نارضایتی روحانیون زرتشتی را به دنبال داشت. یهودیان نیز که به مسیحیان حسادت می‌ورزیدند ناراضی بودند و بدین علت بر ضد سیمون بار صبع اسقف سلوکیه-تیسفون به شاه شکایت کردند و سیمون را دوست امپراتور روم معرفی کردند. در دهه‌های آغازین سدهٔ چهارم میلادی که ساختار کلیسای ایران در حال تغییر بود، رویدادهای دیگری نیز در خارج از مرزهای ایران به وقوع پیوست که در وضعیت مسیحیان ایران نقش بسزایی داشت مسیحیت در اوایل سدهٔ چهارم میلادی در ارمنستان به رسمیت شناخته شد. در اوایل سلطنت شاپور دوم نیز اتفاقی افتاد که موقعیت مسیحیان ایران را کاملاً تغییر داد. در سال ۳۱۳م کنستانتین یکم امپراتور روم مسیحی شد و بر اساس فرمان میلان در همین سال فرمان آزادی مسیحیان را صادر کرده و در سال ۳۶۸ م. در زمان گراتیان، دیگر امپراتور، روم مسیحیت به عنوان دین رسمی امپراتوری روم به رسمیت شناخته شد ضمناً وی حمایت از مسیحیان ایران را وظیفهٔ خود می‌دانست و هنگام جنگ اسقف‌ها و روحانیون مسیحی را همراه خود می‌برد تا برای پیروزی او دعا کنند. وی حتی در سال ۳۳۷ م. در نامه ای خطاب به شاپور دوم از وی خواست تا با مسیحیان مدار کند. با این حال شاپور بر این باور بود که مسیحیان و به ویژه مسیحیان ساکن نواحی غربی متحد رومی‌ها هستند شاهنشاه ایران که همیشه روم را دشمن طبیعی خود می‌دانست، به محض این‌که دین مسیحیت در روم دین رسمی شد، مسیحیت را نیز دشمن سلطنت خود دانست و مسیحیان ایران را دوستان مخفی امپراتور روم و یاغی تصور کرد. هرچند این تصورات پادشاه کاملاً بی‌مورد نبود زیرا مسیحیان ایران که میل داشتند همانند هم کیشان خود در روم آزاد باشند، آرزو می‌کردند که کنستانتین آن‌ها را تحت حمایت خود درآورد. شاپور که به دنبال بهانه‌ای برای درگیری با روم بود از دولت روم خواست پنج ایالتی را که پیش از این، ایران در زمان نرسه به گالریوس واگذار کرده بود، پس بدهد. برای این کار پول لازم شد و قرار شد که این پول را از مسیحیان بگیرند، زیرا مسیحیان ایران در نبردها شرکت نمی‌کردند. آن‌ها به بهانه گردآوری پول از مسیحیان ایران و عدم تمکین آن‌ها در پرداخت آن پول، مسیحیان ایران را به همدستی با دشمن و جاسوسی متهم کردند. نامه ای از شاپور دوم به فرماندهان نواحی غربی ایران مبین بی‌اعتمادی وی نسبت به مسیحیان آن نواحی و یقین وی بر مناسبات مسیحیان با روم موجود است، متن نامه از این قرار است که به مجرد وصول این فرمان که از جانب خداوندی ما صادر شده‌است، سیمون، رئیس نصارا را دستگیر و تا زمانی که این نوشته را امضا نکند و مالیات سرشماری و خراج قوم نصارا را، که در کشور ما خداوند زندگانی می‌کنند بالمضاعف وصول نکند و به خزانهٔ ما نپردازد، او را رها مکنید زیرا ما خدایان به امور جنگ اشتغال داریم و آن‌ها در ناز و نعمت به سر می‌برند. آن‌ها در مملکت ساکنند و دوستدار دشمن ما قیصر هستند. بر اساس همین نامه شاپور فرمان داده بود تا کشیشان و رهبران عادی با شمشیر کشته شوند، کلیساها ویران و ظروف آن‌ها در خزانه نگهداری شود و سیمون به عنوان خائن به کشور و دین زرتشت دستگیر شود. سیمون که حاضر به انجام فرمان نشد به قتل رسید. این وقایع سرآغاز تعقیب مسیحیان در ایران است که از سال ۳۳۹ م تا فوت شاپور دوم ادامه یافت. تعقیب و آزار مسیحیان در مناطق شمال غربی و نواحی مجاور روم از شدت بیشتری برخوردار بود. تا جایی که شمار مقتولین مسیحی عصر شاپور دوم را حدود ۱۲ هزار نفر ذکر کرده‌اند. برخی مسیحیان ایران که امیدوار بودند تحت حمایت کنستانتین باشند و از محدودیت‌ها و مشکلاتی که حکمرانان پیش از شاپور بر مسیحیان اعمال می‌کردند در امان بمانند، با شروع جنگ میان ایران و روم در آغاز سده چهارم میلادی نه تنها کمکی به ایران نکردند، بلکه پیشگویی می‌کردند که پیروزی از آن رومی‌ها خواهد بود و حتی اگر ایران بر روم پیروز شود این نشانهٔ غضب خداوند است ولی از قرار معلوم هیچ‌گاه بر ضد شاهنشاه ساسانی دست به شورش نزدند و دشمنان را نیز یاری نکردند.