Царь Филипп II считал Пармениона своим достойнейшим полководцем. Он настолько высоко ценил Пармениона, что доверял ему командование македонскими войсками в своё отсутствие. Парменион участвовал в завоевательных походах Филиппа II против соседних с Македонией государств Балканского полуострова: Пеонии — на севере (359 г.); Иллирии — на северо-западе (356 г.); Фракии — на востоке (342—340 гг.). Участвовал в военных конфликтах Третьей Священной войны между греческими полисами (356—346 гг.), переросшей впоследствии в борьбу за господство Македонии над Северной и Средней Грецией (Фессалией, Беотией, о. Эвбеей). В 338 г. участвовал в крупнейшем сражении Филиппа против объединённых сил греческих городов-государств — битве при Херонее. В 337 г. Филипп инициировал создание союза греческих городов государств (так называемый Коринфский союз) и начал подготовку объединённого войска эллинов и македонян с целью вторжения в Персию. Авангард из 10 тыс. воинов под командованием Аталла и Пармениона был переброшен через Геллеспонт, чтобы начать захват ионийских городов на эгейском побережье Малой Азии. Этот поход остался незавершённым в связи с убийством Филиппа.