Своєю грою за цю команду привернув увагу представників тренерського штабу клубу ЦСКА (Москва), до складу якого приєднався 6 лютого 2004 року. Російський дебют бразильця відбувся 7 березня, коли в матчі за Суперкубок країни він у додатковий час забив гол «Спартаку» і приніс своїй команді перемогу. У 2004 році Карвальйо довгий час переслідували травми, тому на полі він з'являвся рідко, отримавши, тим не менш, срібні медалі чемпіонату країни, але вже у наступному 2005 році Карвальйо став лідером «армійців». Саме через нього стала будуватись атака команди, яка зробила ЦСКА найсильнішою командою країни, яка двічі поспіль у 2005 та 2006 роках вигравала «золотий дубль», а також вперше серед російських клубів здобула єврокубок — Кубок УЄФА, при цьому саме Карвальйо був визнаний найкращим гравцем тріумфального фіналу Кубка УЄФА 2005 році, в якому віддав усі три результативні передачі своєї команди, а згодом став першим легіонером, який був названий футболістом року в Росії, при цьому як за версією тижневика «Футбол», так і газети «Спорт-Експрес» (2005).