Byen ble grunnlagt 13. september 1736. Opprinnelsen av navnet «Tsjeljabinsk» er usikkert, men det er stor sannsynlighet for at den kommer fra det tyrkiske ordet «çelebi» som betyr «veloppdraget». Ordet «Tsjeljaba» («Челя́ба») er fotsatt brukt som uoffisielt navn på byen.