音韵学与目录学的成就尤为卓越。开皇初年，颜之推、萧该、长孙纳言等八人和陆法言讨论音韵学，皆认为各地区声调分歧很大，南北用韵不同。以前诸家韵书，定韵缺乏标准，都有错误。陆法言记录了诸人议论的要旨，于601年写成《切韵》五卷。这部书统一书面的声韵，反映了当时汉语的语音，是中国最早的音韵书。这一语音系统完整的保存在后世的《广韵》及《集韵》等书中。目录学方面，隋代有名的有佛教的《大隋众经目录》，道家的《道经目录》，费长房所撰的《历代三宝记》与释彦琮所撰的《隋仁寿年内典录》。隋廷收集南、北两朝所有书籍共37万卷，并编