这首诗传诵一时，并奠定了钱起在诗坛的不朽声名。
诗题“湘灵鼓瑟”，摘自《楚辞·远游》“使湘灵鼓瑟兮，令海若舞冯夷”诗句，其中包含着一个美丽的传说——舜帝死后葬在苍梧山，其妃子因哀伤而投湘水自尽，变成了湘水女神；她常常在江边鼓瑟，用瑟音表达自己的哀思。
根据试帖诗紧扣题目，不得游离的要求，诗人在开头两句就概括题旨，点出曾听说湘水女神擅长鼓瑟的传说，并暗用《九歌·湘夫人》“帝子降兮北渚”的语意，描写女神翩然而降湘水之滨，她愁容满面、轻抚云和瑟，弹奏起如泣如诉哀伤乐曲。动人的瑟声首先引来了水神冯夷，他激动地在湘灵面前伴乐狂舞，然而一个“空”字，说明冯夷并不理解湘灵的哀怨；倒是人间那些被贬谪过湘水的“楚客”，领略了湘灵深藏在乐声里的哀怨心曲，禁不住悲从衷来，不忍卒闻。
接下来，诗人着意渲染瑟声的感染力。“苦调凄金石，清音入杳冥。苍梧来怨慕，白芷动芳馨。”瑟声哀婉悲苦，它能使坚硬的金石为之凄楚；瑟声清亢响亮，它可以响遏行云，传到那穷高极远的苍穹中去。瑟声传到苍梧之野，感动了寄身山间的舜帝之灵，他让山上的白芷吐出芬芳，与瑟声交相应和，弥漫在广袤的空间，使天地为之悲苦，草木为之动情。
中间这四句，诗人张开想象的翅膀，任思绪在湘水两岸、苍梧之野、洞庭湖上往复盘旋，写出了一个神奇虚幻的世界。
“流水传湘浦，悲风过洞庭”，这两句写湘灵弹奏的乐曲同舜帝策动的芳香在湘水之源交织汇合，形成一股强劲的悲风，顺着流水，刮过八百里洞庭湖。
至此，乐曲进入了最高潮，感情达到了白热化。凭藉着诗人丰富的想象，湘灵的哀怨之情得到了酣畅淋漓的抒发和表现。然而全诗最精采的还不在于此，令全篇为之生辉的是结尾两句：“曲终人不见，江上数峰青。”《旧唐书·钱徵传》称这十个字得自“鬼谣”，其实无非说这两句诗是钱起的神来之笔。此联的妙处有：
一是突然转折，出人意料。在尽情地描写乐曲的表现力之后，使乐曲在高潮中戛然而止，这是一重意外；诗境从虚幻世界猛然拉回到现实世界，这是又一重意外。二是呼应开头，首尾圆合。全诗从湘水女神出现开始，以湘水女神消失告终，形成一个有机的整体。
结尾两句如横空出世，堪称“绝唱”，但同时又是构成全篇整体的关键一环；所以虽然“不”字重出，也在所不惜。作者敢于突破试帖诗不用重字的规范，确属难能可贵。三是以景结情，余音袅袅。诗的前面大部分篇幅都是运用想象的画面着力抒写湘水女神的哀怨之情，结尾一笔跳开，描写曲终人散之后，画面上只有一川江水，几峰青山。这极其省净明丽的画面，给读者留下了思索回味的广阔空间：或许湘灵的哀怨之情已融入了湘江绵绵不断的流水，或许湘灵美丽的倩影已化成了江上偶露峥嵘的数峰青山，或许湘灵和大自然熔为一体，年年岁岁给后人讲述她那凄艳动人的故事，或许湘灵的瑟声伴着湘江流水歌吟，永远给人们留下神奇美妙的遐想。这一切的一切，都尽在不言之中了。宋代词论家有“以景结情最好”之说，恐怕是从这类诗作中得到的启迪。
此诗的前半写刘蕡冤谪而死。诗先不写自己的看法，而是从引述旁人的议论落笔。行路之人都在议论刘蕡遭贬柳州确是冤屈，都说他在贤良对策中的言论全是为着国家的中兴。言“中兴”而遭“冤谪”，可见蒙冤之深，难怪路人也在为之不平了。诗人借路人之口谈论冤谪，当然比直说更加有力。这不但表现了人们对刘蕡的同情和敬重，也从侧面反映了他们对宦官诬陷刘蕡的痛恨，对朝廷软弱昏庸的谴责。
下面两句接着引贾谊与公孙弘两个历史人物，写诗人对刘蕡之死的痛惜。两句是说：空自听说昔年贾谊被召回朝廷，刘蕡却被远谪柳州，客死异乡，不可能像公孙弘那样再次被举，受到重用了。此联用典妥帖，何焯特别称第四句“最为精切”（《李义山诗集辑评》）。“空闻”、“不待”二语，顿挫有力，透出诗人深感怅惋痛惜之情。
诗人视刘蕡为“师友”，而他竟死于冤屈，不能不使诗人伤心痛哭。五、六两句，即扣住题面，写诗人痛哭情状。刘蕡最后似死在浔阳（今江西九江）。诗人是在长安作此诗的。遥隔大江，只有频频回首南望，望空洒泪；天高难问，沉冤难诉，死不复生，惟有捶胸痛哭。长恸之后，痛定思痛，诗人回想起一年前与刘蕡在黄陵（山名，在今湖南湘阴）相别的最后一面。那时，正当刘蕡冤谪柳州，天空阴暗，春雪凄寒。结尾两句不但烘托着二人相别时的悲凄心情，且与诗人写此诗时悲痛欲绝的心境亦融为一体，留下不尽的哀思。纪昀说：“逆挽作收，结法甚好。”（《李义山诗集辑评》）
这首诗，整篇都浸透着诗人的泪水，贯穿着一个“哭”字：始则是呜咽悲泣，随后是放声痛哭，继而是仰天悲号，最后则又变为抽噎饮泣。读完全诗，仿佛诗人的哭声还萦绕在耳际。写法上，诗人把叙述、议论、抒情三者结合在一起。前面四句全是叙述、议论，但叙述中含着很强的抒情色彩。后面四句抒情，而结联于抒情中又含着叙述成分。如果全是叙述和议论，容易干枯乏味；如纯用抒情，又与引诗所写的具体内容不太相合，难于写出刘蕡的沉冤。此诗将这三者结合起来，使公义私情，都得到了充分的表现，从而增强了诗的感染力。