Первый кто это увидит: доведите, блять, до ума поиск в глубину. Там переполнение стека. Чтобы проверить - раскомментируйте строчку graph.findLayers(); в GraphForm.java.