二月乙卯（541年1月24日），崔长谦与副使阳休之一起出使南梁。将要出发时，崔长谦对人说：“我的灾难在三吴，忌讳在酉年，如今恐怕躲不掉了。”崔长谦返回的路上，行进到宿豫县，还没进入东魏国境就去世了，当时人们都为他感叹和惋惜，因为崔长谦死于公事，朝廷赠予骠骑将军、南青州刺史。