Plassen er fra 1914 oppkalt etter forfatteren Alexander Kielland (1849–1906) fra Stavanger. Før dette ble plassen kalt Steinløkka etter et steinhuggeri på 1800-tallet.