Yaghi har doktorgrad fra University of Illinois at Urbana–Champaign og gjorde postdoktorarbeid ved Harvard University. Han arbeidet ved Arizona State University (1992–1998), University of Michigan (1999–2006) og University of California, Los Angeles (2007–2011) før han begynte ved University of California, Berkeley.