大汶口文化和龙山文化两个文化时期，并出土过玉斧、觚、鼎等器物。春秋时期，大羊境内有聚落阳州邱。秦代，有阳州宿，属济北郡。汉、魏、晋时今大羊镇辖区属于东平国、东平郡下辖的富城县，隋、唐时属济北郡、济州。宋、金、元时期分别属京东西路郓州、山东西路东平府、中书省东平路，明清时期属东平州。明代，戴、杨两姓定居于此建立戴杨庄，后称为“大羊”。清代，今大羊镇辖境在当时分属北乡义路正保、义和保、义德保和东乡慈仁保等四个保。
民国时期.1912年中华民国建立后废除保甲制，今大羊镇属于东平县三区。