Вопрос: Какой нужен сервер(ы) для сайта-миллионника?

Лучший ответ: Сильно зависит от приложения.
Что они у вас там делают? Статику качают? Это сайт? Что на сервере стоит?
Короче опишите вашу ситуацию нормально.

Худший ответ: если просто сайт "картинка" 
с базой пользователей
сам сайт писался с нуля в в блокноте, то он не будет весомым и загружать сильно сервер при обращении к нему. если это не торент трекер, на него капитальная нагрузка идет при обработке данных, про него я говорить не буду, сейчас это под запретом.
Скажу про банальный сайт база, включает авторизацию + база на добавление ответа текстовый + максимум графический по тегу, и только из интернета. То  впринципи одним сервером ожно обойтись. Если уже надо загружать с компьютера изобрадение должен быть сервер, хотя, можно и на одном, но при такой нагрузке нужно уже два, да вообще как минимум две железки надо будет, самый минимум это роутер, который будет вести клиента к серверу, ты же не будешь на прямую на сервер пускать клиентов. я работал с откртым, статика была на сервере под виндой, т.е. сразу на сервер идут клиенты, это для тебя будет сложно, понимаю что ты не понятно откуда взял эти данные.
тебе главное защитить сервер. если про это идет разговор что "при сильной нагрузке" сайт ложится, так это банальная атака, как от нё избавиться читай, не все так просто. Можно перед сервером поставить железяку которая будет препятствовать заливке, распознает трафик, такая тебе полюбому нужна будет, называется фаервол, выбираешь с захитой от флуда (DDoS) атак.
для тебя идеально, скажу на стороне брать сервер, так нет, они не отвечают за этьо, наверное лучше у себя ставить, и анализ делать.
Смотри есть есть куда ввести данные, хотьь одна строчка, то сервер можно взомать проникнуть на сервер, вот это тебя должно будешь напрягать. Ты не описал что у тебя будет на сайте.
К примеру могу сказать ставь 64 гб озу - это в твоем случаи, т.к. в первую нагрузка идет при флуд атаке на оперативную память, а там уже как атака напрявлена, если мощные камни, то их будет тяжелее загрузить при большом озу. минимум плата на 2 камня.
по поводу скорости давай прикиним сколько у тебя страница весит - 1 мегабайт, это максимум - больше не советую делать, картинки все сжимаешь, если что на новую страницу выводишь в полный объем откртие страницы, плюс это доп просмотры.
для дома более 40 мегабит врятле получится получить исходим из этого + провайдер режит скорость до 35 делим / на 8 = 4,375 у тебя исходящий канал получится дома в МБ (мегабайтах)
если для работы то могут дать по оптике к примеру денег хватит у тебя на 100 мегабит  это равно при учете после прохождения железки фаервола если денег не так много это будет 50 мегабит, ну допустим у фирмы при таких объямах есть деньги и они купили тебе циску или делинк нормальный у тебя после прохождения его выйдит скорость 85 мегабит делим / на 8 = 10.625 МБ (мегабайт на выходе) - всегда оталиваемся от этого какую страницу пишем весом. и здесь уже встает вопрос сколько должна весить страница для просмотра для просмотра одновременого из расчета хорошего пинга, идейка пришла,  покупаем мамку с оптикой  внутри, считай сам, потери будут меньше.
посчитаю по бьджетному варианту, т.к. на такой сайт может хватит сервера одногопроцесорного и 16 гб озу даже 8 гб, при грамотной настройке.
10.625 делю на милион, но не сразу на него делю, у меня есть + ну к примеру человек что бы не сильно утуждал (первую старницу вообще легкой делай, кантакты и т п)
человек будет жадть бех затруднения к примеру 5 секунт вообще без напряга, не поймет 10 тоже. берем среднее 5+10=15/2=7 с копейками получается это среднее время ожидания человека при открытии новой страницы или открытия сайта. я дам пример с этим временем, можешь просчитать весомые страницы до 25 секунд, при условии что человек уже вошел на сайт, если выгрузка данных можно делать до нескольких минут, анимацию ставь главное что что то происходит.
умножаем 10.625 мегабайт на 7,5 секунт ожидаения которую мы вычислили выше  у нас получается вес трафика может быть 79,6875 мегабайт за секунду.
теперь самое интересное мы переводим эту сумму в КБ для вычисления страницы.
дял этого мы делаем 79,6875 мегабайт  * на 1024 (как нам известно что в одном мегабайте 1024 КБ)= 81600 килобайт 
81600 килобайт  - это сесионое разовое значение для миллионного входа 
теперь переводим  в байты для такого ко-ва людей легче считать будет в байтах
81600 килобайт  * 1024 = 83558400 байт за обращение
наконец мы пришли к делению получению 1 страницы для сайта которую тебе нужно придерживаться
83558400 байт мы делим на 1 000 000  человек = это у нас получается страница должна быть 83,5584 байт
вот такие расчеты для тебя мой друг
вот смотри какой канал тебе нужен оптика к примеру 100 мегабит стоит 7 - 10 000 рублей в месяц 
смотри что мы пришли что даже 1 гигабит будет скорость маленькая если ляжет такая нагрузка 
надо ставить 10 гигабитный канал  тогда для 1 милиона сайт можно делать, следовательно ниже не как
миллион людей :)  это я разово сказал, на сайте среднее количиство в день было 500 человек в день на 2008 год это было очень хорошо сайт был на первом месте по топ запросу однословному, потом забил на сайт. 
для 1,5 миллиона людей на сутки смело можешь писать страницы велечиной до 10 мегабайт при условии что твоя скорость интернета 10 Гб
попутных ветров