Før Jaroslavl lå det vikingsteder som Timerevo på stedet fra 700- og 800-tallet av. Byen skal ha blitt grunnlagt i 1010 som en utpost for Fyrstedømmet Rostov Velikij, og den ble første gang nevnt i historiske dokumenter i 1071. Byen var hovedstad i et uavhengig fyrstedømme fra 1218, som ble innlemmet i Storfyrstedømmet Moskva i 1463. På 1600-tallet var den Russlands nest største by, og for en periode (under den polske okkupasjonen av Moskva i 1612), landets de facto hovedstad.