Neil Simon kom fra en jødisk slekt. Faren, Irving Simon, var i tøybransjen, og moren Mamie (Levy) Simon, var for det meste hjemmeværende. Han hadde en åtte års eldre bror som ble forfdatter for fjernsyn og komedielærer, Danny Simon. Han vokste opp i Washington Heights på Manhattan i depresjonstiden.