Entre 2000 y 2001 participó con los "Kiwis" en la Copa de las Naciones de la OFC, donde cayeron en la final ante los "Socceroos" por 1-0 y en las eliminatorias para el Mundial de Corea del Sur-Japón de 2002, donde nuevamente los australianos eliminaron al combinado neozelandés. En 2002, Vicelich colaboró con un gol para vencer a y dos para ganarle a las en el camino a la obtención del torneo continental de Oceanía. Un año más tarde, disputó dos de los tres partidos de su selección en la Copa FIFA Confederaciones 2003, donde los neozelandeses fueron eliminados en la primera ronda tras perder todos sus encuentros. En la Copa de las Naciones de la OFC 2004, Nueva Zelanda no alcanzó la final tras ser superada por las selecciones de Australia y las Islas Salomón.