在1976年4月8日卒于香港跑马地养和医院，终年76岁。谭雅士离世后，其家属在同月12日下午2时30分于中环圣约翰座堂为他举行安息礼拜，当日他的不少生前好友均有出席，时任港督麦理浩爵士与首席按察司贝理士爵士也分别致送花圈致悼。谭雅士的灵柩由简悦强爵士、利铭泽、李耀祥和李福和等八名好友扶灵，随后移奉往歌连臣角火葬场火化。谭雅士身后遗下遗产多达约2,280万港元，当中包括汇丰银行、中华煤气、香港电灯和香港电话公司等多只「蓝筹股」股票，约值1,300万港元。该笔鉅额遗产的其中一半由其遗孀继承，余下一半则由他的