Un software muy utilizado para esto es HAProxy.