Произхожда от град Мегалополис в Аркадия. Роден през 253 пр.н.е., син на изтъкнат гражданин, Филопемен остава рано сирак. Той се насочва към военна кариера и подражава на известния тивански пълководец Епаминонд. Участва в Клеоменовата война (229/228-222 пр.н.е.) като отбранява Мегалополис срещу спартанците и командва кавалерия на страната на Ахейската лига. Добива известност благодарение на своя военен талант, нравственост и скромен начин на живот.