嵇康曾为朋友吕安辩冤，顶撞了司马昭，最终司马昭以嵇康与吕安案有牵连的罪名将其逮捕。钟会为了迎合司马昭，诬告嵇康曾经谋反，并说嵇康“言论放荡，非毁典谟，帝王所不容，宜因衅除之，以淳风俗”，还进一步危言耸听地告诉司马昭：“嵇康，卧龙也，不可起。公无忧天下，顾以康为虑耳。”（《晋书·嵇康传》）在钟会的挑唆下，司马昭终于下定了杀死嵇康的决心。处死嵇康的命令一经传出，全国舆论大哗，京师太学生三千余人联名上书，吁请赦免，但未能奏效。据记载，嵇康临刑前神态十分坦然自若，到刑场后索琴弹完一曲《广陵散》，慷慨就义，《广陵散》亦成为绝响。
嵇康之死的意义殊大，这是集权制度与士人、仕与隐、名教与自然等诸多矛盾发展激化的结果。从本质上讲，嵇康与司马氏的矛盾不是臣下与皇帝的矛盾，而是文化理想与现实集权政治之间的矛盾，嵇康犯的是“思想罪”。嵇康之死表明，上述矛盾如果得不到较好的解决，士人离心、民众离心将是不可避免的，某个政权的倾覆也将指日可待。在《与山臣源绝交书》里，嵇康历数了许由、接舆、老、庄、东方朔乃至近世的管宁和当世的阮籍，指出他们皆以冠冕为腐臭，对秦汉以来的君主集权理论进行了深刻的怀疑和否定，强烈要求把儒、道的有关政治理想输入现实的集权政治制度。后代的封建统治者也在一定程度上认识到了这一点，科举制度的建立就是其有效的补救方法之一。在野士人通过科举而把自己从书本上得来的文化理想提升到现实运作的层面上来，在相当程度上增加了社会的活力，这便是盛唐出现的根本原因之一。至于后来科举成为笼络人心、禁锢人心、扼杀人心的工具，那就已臻末流，另当别论了。