队驾驶歼击机。后升任空军飞行大队政治处干事、政委。1980年升任空军航空兵29师副政委，1983年任政委。1986年9月进入国防大学学习，1988年7月毕业回南京军区空军担任政治部副主任，9月被授予空军大校军衔。1990年6月，胡彦林调任海军航空兵部政治部主任，改为海军大校，7月晋升海军少将。1991年9月进入中共中央党校学习。1993年12月任海军政治部主任，2000年6月任海军副政委。2003年，海军361潜艇失事后，原海军政委杨怀庆被就地免职，胡彦林接任其职务，成为中国人民解放军第九任