Chalkias empezó su carrera futbolística en las categorías inferiores del Panathinaikos FC, hasta que en la temporada 1995-96 pasa a formar parte de la primera plantilla del club y gana una Liga.