Hun tok eksamen fra Fort Hamilton High School i nabolaget i 1962. Hun tok sin bachelorgrad i økonomi fra Brown University i 1967, og en ph.d.-grad i økonomi fra Yale University i 1971. Hennes doktorarbeid hadde tittelen . Veileder var James Tobin, som senere mottok Nobelprisen i økonomi. Hennes tidligere professor Joseph Stiglitz, også han nobelprisvinner, har kalt Yellen en av sine mest strålende og minneverdige studenter. To dusin økonomer tok sine doktorgrader fra Yale i 1971, blant dem Gary Smith, med Yellen som eneste kvinne blant dem.