Балансировщик сетевой нагрузки на timeweb.cloud предлагает на выбор два алгоритма балансировки.
Round Robin — алгоритм кругового обслуживания. Первый запрос передается первой машине, второй — следующей и так далее. Когда отработает последний сервер, процесс повторяется сначала.
Least Connections — новый запрос передается на тот сервер, на котором в текущий момент меньше всего активных подключений.
При выборе алгоритма важно учитывать специфику проекта и цели, которые вы хотите достичь, используя network load balancing.
Например, Round Robin не учитывает загруженность части кластера. Даже если машина использует 100% ресурсов, на нее будет направляться трафик. При этом load balancer с Round Robin не требует связи между машинами и проще настраивается.
Server load balancing с использованием алгоритма Least Connections как раз учитывает количество подключений, которые сервер поддерживает в данный момент. Это позволяет распределять трафик более равномерно.