12岁时举家迁往亚美尼亚苏维埃社会主义共和国首都埃里温，16岁时中学毕业；他其后就读埃里温国立大学，并在20岁时取得博士学位。梅尔格良在1951年提出用多项式来一致逼近的梅尔格良定理，此定理完全解决了多项式逼近的；翌年，梅尔格良获颁史太林奖，又被选为俄罗斯科学院通讯院士，当时他年仅24岁。梅尔格良在1951年成为一名教授，在1954至1958年间任教于莫斯科国立大学；当时，梅尔格良的讲课吸引了很多人注意，但女学生似乎对他俊俏年轻的外表更感兴趣。其后，梅尔格良继续在苏联的学府执教，又推动成立埃里温科学研究