Если бы эти фамилии рифмовались, то соотношение слогов и их закрытость, открытость и ударение было бы индентичным, что здесь не наблюдается. В фамилии Костылин - ударение на втором слоге, а не на первом, слогов три шт, а не две, в фамилии Жилин первый слог открытый, а вот просто одинаковое окончание никогда рифмой не являлось, это примерно так же как сказать, что фамилии Обухова и Муравьева рифмуются, потому что заканчиваются на - ова.Рифмуются Костылин - Сержилин, или Стылин-Жилин