Осенью 1854 года в составе 4-го корпуса был направлен в Крым на помощь князю Меншикову. В 1854 году был награждён за боевые заслуги орденом Св. Анны 3-й степени с бантом. Под Севастополем участвовал во всех делах гарнизона, начиная (сразу по прибытии) с битвы под Инкерманом 24 октября 1854 года, за отличие в которой получил в тот же день чин капитана, а затем был награждён орденом Св. Владимира 4-й степени. Состоял вначале при генерале Хрулёве, действуя большей частью на Малаховом кургане. Когда же Хрулёв был ранен, Черняев поступил в прямое подчинение адмирала Нахимова, бесстрашно исполняя самые опасные поручения его. «За отличие, храбрость и примерное мужество при героической защите Севастополя и за отбитие штурма 27 августа 1855 г.» был награждён золотым оружием с надписью «За храбрость» и произведён в подполковники.