Роден е в Лариса, където осем години получава философски уроци при Каликлес, ученик на прочутия философ-скептик Карнеад. През 134/133 пр.н.е. Филон отива в Атина, където седем години учи при стоиците. Четиринадесет години, от 124/123 до 110/109 пр.н.е., той е ученик на Клитомах. Когато той умира, Филон е избран за негов последник през 110/109 пр.н.е. При него учат много римляни, между тях Гай Аврелий Кота (консул 75 пр.н.е.). За да избегне тиранската власт в Атина и Митридатовите войни, Филон бяга през края на 88 пр.н.е. в Рим. Последните си години той прекарва в Рим. Там той е учител по философия и реторика. Негови ученици са Цицерон, Квинт Лутаций Катул (консул 102 пр.н.е.) и неговия син (консул 78 пр.н.е.).