Уилкс-Барре/Скрэнтон Пингвинз
Начав тренерскую работу, Байлсма поочерёдно успел поработать помощником главного тренера в клубе АХЛ «Цинциннати Майти Дакс» (2004/05), затем в «Нью-Йорк Айлендерс» (2005/06). Затем он перешёл в «Уилкс-Барре/Скрэнтон Пингвинз» на аналогичную должность, где после двух полных сезонов (2006-2008) занял место уже главного тренера.