Sebelum Neuville menuju untuk mengumpul 69 kaps bersama 10 gol, beliau sebahagian daripada skuad yang merupakan naib juara Piala Dunia FIFA 2002. Selain itu, beliau menjaringkan gol kemenangan Jerman pada pusingan 16 menentang Paraguay, 1-0.