Elva surgió alrededor de una estación de tren de la línea de ferrocarril que une Tartu con Valga, el corredor ferroviario fue construido entre los años 1886 y 1889 y ya en este último año se encuentra la primera mención de la población en un periódico estonio.