במלחמת העולם הראשונה הבריטים, שהתקדמו דרך מדבר סיני, הניחו גם מסילת עד רפיח, ומאפריל 1917 החלו מניחים משם שלוחה מזרחה עד לעין הבשור. לאחר נפילת באר שבע המשיכו הבריטים את הנחת המסילה עד לביר אבו רקייק ("מחנה תימן" כיום), שם התחבר הקו אל המסילה הטורקית. קו באר שבע - רפיח נחנך רשמית ב-8 במאי 1918 בטקס, שאליו הגיע ברכבת מהודרת מרפיח המושל הצבאי של הארץ, הקולונל אלפרד פארקר, יחד עם שיח'ים בדווים. קבלת הפנים החגיגית נערכה בתחנת הרכבת של באר שבע בליווי תזמורת צבאית. לאחר חנוכת הקו הייתה התחנה בבאר שבע לתקופת מה לצומת רכבות מרכזי בארץ: ממנה יצאו רכבות מערבה, לרפיח (ומשם למצרים או ליפו), צפונה לירושלים, ודרומה לניצנה. המסילה מרפיח נסללה ברוחב של 143.5 ס"מ, ואילו רוחב המסילה הטורקית היה 105 ס"מ. כדי שגם קרונות טורקיים יוכלו לנוע בקו זה, הוסיפו הבריטים בין הפסים פס שלישי. וכך נוצר מצב שהיה יחיד במינו בתולדות הרכבות בארץ ישראל, הרכבות מבאר שבע היו מורכבות לפעמים בעת ובעונה אחת מקרונות בריטיים וטורקיים גם יחד, וכל קרון נע על מסילה ברוחב שונה. אך ב-1919 נעקרו הפסים הטורקיים, וכך נותרה באר שבע מחוברת במסילת ברזל רק עם רפיח. תושבים מח'אן יונס עיבדו במקום חלקות קרקע ולעיתים התגוררו במקום בעונת העבודה החקלאית. לאחר שהאזור נכבש על ידי הבריטים בקרב רפיח (1917), החל להתגבש במקום יישוב של קבע. תרמה לכך הקרבה למחנות הצבא הבריטי והקרבה לגבול בין ארץ ישראל ומצרים. חלק מהחנויות במקום נבנו ממש על הגבול, על מנת להקשות על גביית מכס. כך, בשנת 1922 מנתה אוכלוסיית רפיח 600 תושבים ובשנת 1948 הגיעה האוכלוסייה ל-2,500 תושבים. רוב האוכלוסייה התפרנסה מחקלאות וגידול צאן. הבתים במקום נבנו בתחילה בפיזור רב זה מזה, אך עם הזמן התגבשו במקום רחובות מסודרים שלאורכם בתים. רובה של רפיח היה בצד הארצישראלי של הגבול, בעוד תחנת הרכבת נמצאה בצד המצרי של הגבול. בשנת 1946 שכן ברפיח מחנה מעצר, אליו הועברו רבים מעצורי "השבת השחורה". מחנות רפיח, אליהם הועבר ציוד רב במהלך סיום המנדט, היו השטח האחרון אותו פינו הבריטים בארץ ישראל, ביולי 1948.