В царствование Анны Иоанновны Яковлев достиг звания секретаря военной коллегии. Около 1737 года стал кабинет-секретарём. Сберёг казне в турецкую войну более 1 300 000 рублей, находясь тогда «в крайней и наиближайшей конфиденции у графа Остермана». По наветам Волынского «за непорядочные поступки» 1 сентября 1739 года переведён на прежнее место в военную коллегию, но всё же настоять на ссылке Яковлева в Выборг Волынскому не удалось. Причину неприязни Волынского к Яковлеву объясняли тем, что якобы Яковлев, давно знавший Волынского и много претерпевший от него, поднёс ему нечто вроде присяги, в которой в том числе было сказано, что если Волынский её нарушит, то подвергнется смертной казни. "Как! — вскричал Волынский. — Государыня меня жалует званием министра, а ты топором и плахой!"