他的诗"Hatred and vengeance, my eternal portions" （有时称为“Sapphics”）是在他自杀未遂后写的。复原以后，他和退休牧师莫利·恩明和玛丽·恩明夫妇一起住在亨丁顿，又和他们一起迁往奥尔尼，那里有一位约翰·牛顿牧师，曾是一名奴隶贩子，但是现在悔改，毕生致力于传播福音。不久，莫利·恩明从马上摔下而死，但是古柏仍然住在恩明家，非常依赖于玛丽·恩明。在奥尔尼，牛顿邀请古柏创作圣诗，牛顿是编译。由此产生了1779年合作出版的《奥尔尼诗集》（Olney Hymns