Yangs foreldre immigrerte til USA fra Taiwan, Deres sønn Andrew ble født i Schenectady i delstaten New York, hvor han også vokste opp. Han studerte ved Brown University og siden ved Columbia Law School.