诏让刘遐担任彭城内史，与徐州刺史蔡豹、太山太守徐龛一同讨伐周坚，结果周坚战败逃走，朝廷又任命刘遐担任临淮太守。徐龛嫉妒刘遐功劳在自己之上而作乱，被平定后，刘遐被任为北中郎将、兖州刺史。王含发动叛乱后，刘遐与苏峻一同前往京都建康驰援朝廷。刘遐又随丹阳尹温峤追击王含至于淮南，王含被镇压后，刘遐被封为泉陵公，升迁为散骑常侍、监淮北军事、北中郎将、徐州刺史、假节，镇守淮阴。咸和元年（326年）刘遐去世后，朝廷追赠其为安北将军。后人辑录其作品《刘遐集》五卷。