В июле 2001 года Кэрролл перешёл в «Манчестер Юнайтед». Сумма трансфера составила 2,5 млн фунтов. В новой команде он столкнулся с жёсткой конкуренцией со стороны чемпиона мира и Европы француза Фабьена Бартеза. В сезоне 2003/04 Рой завоевал свой первый трофей, став победителем Премьер лиги. В том же году команду покинул Бартез, вернувшийся во Францию и новым конкурентом Кэрролла стал американец Тим Ховард. В мае 2004 года в финале Кубка Англии Рой заменил Ховарда в конце матча и стал обладателем трофея.