Террі дебютував в основному складі клубу 28 жовтня 1998 року в матчі Кубка англійської Ліги з «Астон Віллою». Матч завершився внічию, а сам Джон вийшов на заміну в кінцівці матчу. Вперше в стартовому складі він вийшов у цьому ж сезоні, в матчі третього раунду розіграшу Кубка Англії, коли «Челсі» переміг «Олдхем Атлетік» з рахунком 2:0. Потім була річна оренда в «Ноттінгем Форест», де Джон отримував досвід гри в основному складі клубу. 2002 року він потрапив у неприємну історію в одному з нічних клубів Лондона з партнером по «Челсі» Джоді Морісом і гравцем «Вімблдону» Десом Бірном. Він був звинувачений в образі та бійці з охоронцями нічного клубу. Пізніше з Джона були зняті всі звинувачення. На час розслідування справи він був тимчасово відсторонений Англійською Федерацією футболу від участі в міжнародних матчах збірної. До цього Джон, як і Френк Лемпард, Джоді Морріс, Ейдур Гудйонсен і Френк Сінклер, у вересні 2001 року був оштрафований на дві тижневі зарплати за те, що вони в п'яному вигляді знущалися над американськими туристами практично відразу після атаки терористів на ВТЦ 11 вересня 2001 року.