966年8月12日凌晨，他因煤气中毒意外，去世于巴黎蒙帕纳斯（Montparnasse酒店）工作室里。而这批事先来到台湾的画作（计42件），则一直存放在某个仓库角落里。直到1968年，由教育部移拨给史博馆典藏。
作品.台北国立历史博物馆曾分别于1978、1984、1990年共举办三次他的回顾展，2001年常玉百岁冥诞时，历史博物馆又展出常玉百岁纪念大展，2004年6月吉美国立亚洲艺术博物馆举办常玉回顾展，展出60余件作品。足见其作为海外华人艺术家在中国画坛的重要性。主要收藏机构有：