Затем Стоянов перевёл Углицкий полк из Молдавии в Польшу, где сражался с конфедератами и повстанцами Костюшко. Блестяще проявил себя при штурме варшавского предместья Праги. А. В. Суворов в рапорте об этом сражении характеризовал Стоянова следующим образом: «Смелый и храбрый офицер, всегда впереди полка. С необыкновенной храбростью принимал неприятеля в штыки».