קרול החל את הקריירה בקבוצת אייאקס אמסטרדם מעיר הולדתו, תחת המאמן רינוס מיכלס, בעונת . הוא רשם בעונה זו הופעת ליגה אחת בלבד ושימש בעיקר כמחליף, אך עונה אחר כך כבר זכה למקום קבוע בהרכב הפותח של הקבוצה, וסייע לה לזכות בעונה זו בדאבל המקומי. בעונת העפילה אייאקס עד לגמר גביע אירופה לאלופות, אך קרול החמיץ את המשחק עקב שבר ברגלו. בשתי העונות הבאות, לעומת זאת, השלימה אייאקס שתי זכיות נוספות בגביע אירופה, וקרול פתח בשני משחקי הגמר, מול אינטר מילאנו ב-1972 ומול יובנטוס ב-1973. במהלך הקמפיין של הקבוצה באירופה בעונת , כבש קרול את שער הניצחון במשחק הראשון של חצי הגמר מול ריאל מדריד.