La informática en la nube es posible gracias a una tecnología conocida como virtualización. La virtualización permite la creación de un ordenador virtual, simulado y digital que se comporta como si fuera un ordenador físico con su propio hardware. El término técnico para este ordenador es máquina virtual. Las máquinas virtuales en el mismo equipo servidor, cuando se implementan de forma correcta, están separadas entre ellas, así que no interactúan entre sí, y los archivos y las aplicaciones de una máquina virtual no son visibles para otras máquinas virtuales, a pesar de estar ubicadas en la misma máquina física.
Las máquinas virtuales también usan de forma más eficiente el hardware que las aloja. Al ejecutar muchas máquinas virtuales a la vez, un servidor se convierte en muchos "servidores" y un centro de datos se convierte en un host completo de centros de datos, capaces de servir a muchas organizaciones. Por eso, los proveedores de nube pueden ofrecer el uso de sus servidores a muchos más clientes de lo habitual y pueden hacerlo a un coste muy bajo.
Por regla general, incluso si se caen los servidores individuales, los servidores en la nube seguirán estando en línea y disponibles. Generalmente, los proveedores de nube hacen copias de seguridad de sus servicios en varias máquinas y en múltiples regiones.
Los usuarios acceden a los servicios en la nube mediante un navegador o una aplicación, que se conecta a la nube a través de Internet, es decir, a través de muchas redes interconectadas, independientemente del dispositivo que estén utilizando.