作《乐田园诗》，抒发自己的愤怒。后唐明宗李嗣源听说了耶律倍的遭遇，便秘密派使节渡过大海，拿着书信请耶律倍去后唐所在的中原地区。耶律倍欣然同意，乘机假装在海上捕鱼。耶律倍回到封国后，天显五年十一月，后唐使节再次到东丹国请耶律倍，耶律倍就对左右侍从说：“我把天下让给主上（指二弟辽太宗），如今反而遭受怀疑；不如投奔他国，以成就像吴太伯一样的贤名。”临走时，耶律倍在海边树立一块木牌，上面刻了一首诗：“小山压大山，大山全无力。羞见故乡人，从此投外国。”这是辽代见于记载的最早的五言诗，以物喻人，“大山”比喻耶律倍自己，