Ephraim Jr. var den eldste sønnen til Ephraim Sr. (1691–1754) og Elizabeth Jackson Williams (d.1718). Han ble født i Newton, Massachusetts og ble oppdratt av sine besteforeldre etter at hans mor døde i barselseng da hun fødte sin andre sønn, Thomas, i 1718. Hans familie hadde innflytelse i det vestlige Massachusetts; så innflytelsesrike var de at de ofte ble referert til som "River Gods" (henvisning til Connecticut River, en stor elv i området).