Freneaus nære venn ved Princeton var James Madison, et vennskap som senere førte til at Madison bidro til at han ble redaktør for . Han tok eksamen i 1771, og hadde skrevet den poetiske og sammen med Hugh Henry Brackenridge skrev han prosasatiren .