Paye wurde 1998 in einem Flüchtlingslager in Guinea geboren, nachdem seine Mutter 1990 vor dem Bürgerkrieg in Liberia geflohen war. Im Mai 1999 emigrierte sie mit Paye und dessen älterem Bruder in die Vereinigten Staaten nach Providence, Rhode Island, wohin bereits zwei Familienangehörige ausgewandert waren. Er besuchte die "Bishop Hendricken High School" in Warwick und spielte dort Football als Runningback und als Defensive Lineman, darüber hinaus war er als Leichtathlet aktiv. Im Jahr 2016 wurde er als "Gatorade Rhode Football Player of the Year" im Bundesstaat Rhode Island ausgezeichnet. Paye wurde zum Under Armour All-American Game eingeladen. Ebenfalls 2016 gewann er mit der 4-mal-100-Meter-Staffel sowie im Weitsprung die Staatsmeisterschaften von Rhode Island.