В январе 1949 года Ачесон стал государственным секретарем США. Был одним из инициаторов создания НАТО. После победы коммунистов в гражданской войне в Китае стал мишенью травли со стороны политиков (в основном от Республиканской партии). Сенатор-республиканец от штата Висконсин Джозеф Маккарти и его сторонники утверждали, что возглавляемый Ачесоном Государственный департамент полон коммунистов и шпионов. Ачесон тяжело переживал это и как минимум один раз пытался подать в отставку с поста государственного секретаря, но в итоге проработал до января 1953 года, когда на этом посту его сменил Джон Даллес. На период работы Ачесона государственным секретарём пришлась также Корейская война.