Det har vært bosetting i området siden det 5. til 4. årtusen f.kr., og denne kulturen er kalt Naravakulturen etter byens navn. Den forsterkede bebyggelse ved Narva Joaoru er den eldste kjente i Estland, datert til ca. 1000 f.Kr. Den tidligste skriftlige referanse til Narva er i første Novgorod Kronikkel som i år 1172 beskriver en bydel i Novgorod kalt Nerevsky eller Narovsky konets (verksted). Ifølge historikere, kommer dette navnet fra navnet på Narva eller Narvaelven og indikerer at en hyppig brukt handelsrute gikk gjennom Narva, men det er ikke påvist at det var bebyggelse her på denne tiden.