Tuż po zakończeniu sezonu 2010/2011 Raphaël stał się jednym z najbardziej pożądanych piłkarzy w Ligue 1. Mimo wielkiego zainteresowania ze strony Paris Saint-Germain i Manchesteru United, młody Francuz wybrał ofertę Realu Madryt. Pomysłodawcą tego transferu był Zinédine Zidane, który był zachwycony umiejętnościami stopera. 27 czerwca 2011, tuż po przejściu testów medycznych, doszło do oficjalnego potwierdzenia transferu. Varane kosztował 10 mln euro oraz podpisał 6-letni kontrakt z "Los Blancos". Varane w Primera División zadebiutował 21 września 2011 w wyjazdowym spotkaniu przeciwko Racingowi Santander, które zakończyło się bezbramkowym remisem. Debiutancką bramkę zdobył już 3 dni później. 24 września, ekwilibrystycznym strzałem pietą, strzelił czwartego gola w wygranym 6:2 meczu z Rayo Vallecano. Sezon 2011/2012 był dla młodego piłkarza udanym. Wystąpił w 15 spotkaniach i miał swój wkład w zdobycie Mistrzostwa Hiszpanii i dotarcie do półfinału Ligi Mistrzów. Młody piłkarz imponował spokojem i pewną grą. Sezon 2012/2013 rozpoczął z mianem trzeciego stopera i otrzymał nr 2 na koszulce, a drużyna zdobyła Superpuchar Hiszpanii, okazując się lepszą od Barcelony. Na początku sezonu grywał często, jednak podstawową parą stoperów byli Sergio Ramos i Pepe, jednak dwumiesięczna kontuzja tego drugiego, zmusiła sztab szkoleniowy "Los Blancos" na ruch, jakim było wystawienie Varane’a w kilku bardzo ważnych spotkaniach na początku 2013 roku. W El Clásico rozgrywanym w ramach półfinału Pucharu Króla wychowanek Lens rozegrał wręcz doskonały mecz, zwieńczony bramką na 1:1, dającą nadzieję na awans do finału. Piłkarz urodzony w Lille stał się w ten sposób najmłodszym obcokrajowcem, który zdobył bramkę w El Clásico i drugim w historii obrońcą Realu, który w swoim pierwszym El Clásico strzelił gola. W rewanżu na Camp Nou strzelił trzeciego gola dla Realu, przyczyniając się do wygranej Realu 3:1.