Успешно отразив крупное контрнаступление немецких и венгерских войск в западной Венгрии, войска 3-го Украинского фронта практически без оперативной паузы начали Венскую операцию. В ходе наступления 129-й стрелковый полк майора М. Я. Потёмкина действовал в авангарде основных сил 104-го стрелкового корпуса. Выполняя поставленную боевую задачу, полк 20 марта 1945 года первым форсировал реку Раба и, не дав противнику закрепиться в обороне на заранее подготовленных рубежах, развил стремительное наступление на Сомбатхей и 31 марта 1945 года вышел на венгерско-австрийскую границу в районе венгерского посёлка Пинкаминдсент. В течение 1 апреля 1945 года полк штурмом овладел такими крупными узлами немецкой обороны на территории Австрии как Луизинг, Хагенсдорф, Дойч-Биллинг и Хайлигенбрун. Михаил Яковлевич во время штурма немецких укреплений всегда появлялся там, где атака захлёбывалась, и успешно организовывал её заново. При взятии посёлка Хайлигенбрун майор М. Я. Потёмкин геройски погиб. За образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство указом Президиума Верховного Совета СССР от 28 апреля 1945 года майору Потёмкину Михаилу Яковлевичу было присвоено звание Героя Советского Союза посмертно. Первоначально М. Я. Потёмкин был похоронен в посёлке Санкт-Михель. Позднее его останки были перезахоронены на гарнизонном кладбище в городе Нойнкирхен в земле Нижняя Австрия Австрийской Республики.