谯县（治今安徽省亳州市）人。丁斐博览群书，个性沈毅。与曹操同乡，为曹操所喜爱。永汉元年（189年）十二月，曹操在陈留招兵，丁斐前来投奔。丁斐特别贪财，常不择手段敛财，多次触犯法律，毛玠也多次告发丁斐，但都得到曹操赦宥。建安元年（196年），丁斐任典军校尉，总管内外大事。他向曹操提的建议，曹操大多都会听从。建安十六年（211年），马超与韩遂等反曹，七月，曹操亲自西征，与马超在潼关交战。正准备渡河时，马超率军杀到，曹操上了小船，马超大军用箭射曹操，丁斐趁机放出牛马来诱敌抢夺，分散敌军注意力，敌军果然顾着抢夺