Надо проверить, что shutdownNow() вернул пустой список - т.е. никаких заданий в очереди нет.