Den første novellen han publiserte i Eretz Yisrael het «Agunot» og utkom i 1908. Etter dette endret han etternavnet sitt fra Czaczkes til Agnon, avledet av novellens tittel. Agnon utga en rekke bøker hos forlaget Schocken, et forlag som ble etablert av hans venn Shlomo Zalman Schocken primært med det formål å publisere Agnons tekster. Bøkene hans er blitt oversatt til mange språk; i norsk oversettelse finnes (1966) og novellesamlingen . Sentrale temaer for hans forfatterskap er det jødiske folket og dets religion, dikterkunsten, menneskets psykologi, og brytningen mellom tradisjon og modernitet. Blant hans mest kjente verk finner vi romaner som , og , samt noveller som og .