С 18 августа 1995 года — первый заместитель Министра внутренних дел Российской Федерации, с 26 февраля 1996 года первый заместитель Министра внутренних дел Российской Федерации — начальник Главного штаба МВД России. Карьерный рост П. В. Голубца связан с его старым товарищем по училищу и военной службе Министром внутренних дел Российской Федерации генералом армии А. С. Куликовым. Участник Первой чеченской войны. С июля 1996 года являлся начальником Координационного центра МВД России в Чеченской республике, во время штурма Грозного чеченскими сепаратистами в августе был самым старшим по званию и по должности российским военачальником в Грозном, но не смог организовать отпор. Окруженные подразделения Российской армии, внутренних войск и МВД России разрозненно оборонялись в местах их дислокации, несли большие потери. Поражение в Грозном явилось причиной подписания Хасавюртовских соглашений и вывода российских войск из Чечни.