初，主要由美国农业家和活动家戴维·鲁宾（David Lubin）推动。1905年5 - 6月，在意大利罗马举行了一次国际会议，导致了国际农业研究所的成立。粮农组织1945年10月16日成立于加拿大魁北克市。1951年，其总部由美国首都华盛顿迁往意大利罗马。粮农组织由成员国组成的大会管理，每两年召开一次会议，对本组织开展的工作进行审议并批准下两年度的工作计划和预算。大会选举49个成员国，组成理事会作为临时管理机构理事会，成员任期为三年，到期轮换。大会还选举总干事，领导本机构。粮农组织由8个部组成，即：