Руд Крол начал свою футбольную карьеру в амстердамском «Аяксе», по совету главного тренера «Аякса» Ринуса Михелса. В своём дебютном сезоне Руд мало выходил на поле, но после перехода левого защитника Тео ван Дёйвенбоде в «Фейеноорд» летом 1969 года, Руд всё больше стал выходить в основном составе. Крол стал неизменным игроком защиты. Так, в 1971 году «Аякс» дошёл до финала Кубка чемпионов, в котором победил «Панатинаикос» со счётом 2:0, но Крол не играл в финале из-за перелома ноги.