Il termine cloud computing deriva dall'uso di un simbolo a forma di nuvola per rappresentare l'Internet o le infrastrutture di rete nei diagrammi di rete e nei diagrammi di flusso.
Questo simbolo è stato adottato per indicare che il cloud computing si riferisce ai servizi IT forniti attraverso Internet, anziché localmente da un server fisico o computer.
L'uso di una nuvola per rappresentare l'Internet risale agli anni '90, quando i diagrammi di rete iniziarono a utilizzare questo simbolo per astrarre la complessità delle infrastrutture sottostanti. Quando il concetto di accedere alle risorse IT attraverso Internet si è evoluto, il termine "cloud computing" è diventato il nome di questa nuova tecnologia.
La nuvola simboleggia l'astrazione delle complessità sottostanti, proprio come avviene nel cloud computing dove l'utente finale non ha bisogno di conoscere i dettagli dell'infrastruttura che fornisce i servizi.