В 1782 году Николай Александрович поступил в конную гвардию, где снискал уважение сослуживцев своим огромным ростом и физической силой. 1 января 1783 года произведён из вахмистров в корнеты, а 1 января 1786 года — из подпоручиков в поручики. Нёс службу добросовестно и усердно, однако истинный взлёт его карьеры начался только после сближения в июне 1789 года младшего брата Платона с императрицей. Николай Александрович был произведён в подполковники и назначен в Южную армию, действовавшую против турок. 25 сентября того же года приехал курьером в Санкт-Петербург с известием о Рымникской победе, за что тут же был пожалован в полковники, а вскоре после этого — в генерал-майоры. После окончания русско-польской войны 1792 года находился в Варшаве при главнокомандующем русскими войсками в Польше и Литве генерал-аншефе бароне О. А. Игельстрёме. Получил титул, когда его отец А. Н. Зубов, благодаря влиянию брата Платона на императрицу, был 7 февраля 1793 года возведён с нисходящим потомством в графское Священной Римской империи достоинство.