于河内郡山阳县（今河南省焦作市），与阮籍、山涛、刘伶、向秀、阮咸、王戎等人交游，并创作了大量表达通脱放达思想的作品，受到当时人的瞩目，被称作“竹林七贤”。后又与吕安、向秀为邻，以锻铁为生，不肯出仕为官。亦有说法称嵇康锻铁并非为谋生。当时担任大将军的司马昭要聘用嵇康成为他大将军幕府的属官，他逃到河东郡去躲避征辟。司隶校尉锺会准备了盛大的排场前去拜访他，遭到他的冷遇。好友山涛举荐他代替自己的职务，他写下《与山巨源绝交书》，列出自己有“七不堪”“二不可”，表明自己不愿为官的态度。关于不愿出仕的理由，嵇康本