Комитет поручил архитектору Николаю Шохину разработать планировку музея, но одновременно попросил иностранных архитекторов изложить своё видение. Так, эскизы музея представили создатель павильонов Всемирной выставки 1867 года Э. Трел и архитектор Художественно-промышленного музея в Вене Генрих фон Ферстель. В жюри проектировочных проектов вошли художники и архитекторы Иосиф Каминский, Пётр Зыков, Василий Карнеев, Пётр Кампиони, Владимир Соколов, Август Вебер, Александр Обер, Сергей Дмитриев, Александр Попов. В декабре 1874-го комитет утвердил подготовленный Шохиным план здания. По традиции того времени, оформлением фасадов занимался другой архитектор. Жюри объявило открытый конкурс, в котором победил Иероним Китнер с проектом под названием «Не богато ли?». Но позднее почётный председатель комиссии великий князь Константин Николаевич решил, что эскизам Китнера не хватает национального колорита и утвердил фасад архитектора Ипполита Монигетти в русско-византийском стиле с оригинальными орнаментами, пилястрами и балконами. Проектные чертежи главного входа и лестницы разработал Александр Каминский.