В общем случае виртуализация призвана помочь в разделении производительности одного физического сервера или кластера серверов для создания логически изолированных друг от друга виртуальных машин с предоставлением им некоторого количества необходимых ресурсов и возможности запуска независимых друг от друга операционных систем.
Один из возможных вариантов - виртуализация на уровне операционной системы, которая сама отвечает за разделение ресурсов и изоляцию виртуальных машин. Минусом является невозможность запуска ОС с ядром, отличающимся от ядра системы-хоста. Виртуализацию на уровне ОС используют OpenVZ и Virtuozzo.
Аппаратная виртуализация обеспечивает более высокую степень изоляции виртуальных машин, а также снимает ограничения архитектуры, позволяя устанавливать различные гостевые ОС, не зависящие от ядра системы-хоста. К аппаратным виртуализациям относятся KVM, VMware, XEN, Hyper-V.
Если вам требуется установить какую-либо специфическую ОС, то стоит обратить внимание на аппаратные виртуализации, делающие возможной установку практически любой системы из образа ISO, и не зависящими от архитектуры хоста. Также часто на виртуальных машинах OpenVZ отключены устройства TUN/TAP. В остальных случаях большую разницу вы вряд ли заметите.