За репрезентацију Португала је дебитовао 11. октобра 2003. у пријатељској утакмици са Албанијом. На Европском првенству 2004. већ се био у сталио у стартној постави своје репрезентације. На том првенству које је и играно Португалији, његова репрезентација је успела да стигне до финала у којем је поражена од Грчке. На Светском првенству 2006. је одиграо шест утакмица за своју репрезентацију која је у полуфиналу елиминисана од Француске. Две године касније, на Европском првенству 2008. одиграо је три од четири утакмице португалске репрезентације која је изпала у четвртфиналу након пораза од Немачке. На Светском првенству 2010. репрезентација Португала је стигла до осмине финала, са само једним примљеним голом у четири утакмице. Карваљо је био један од најзаслужнијих за тако добру игру португалске одбране на овом првенству.