首句“病来自是于春懒”。病了，自然是于春事就懒得管了。这“病”，也许是生理的，穷愁潦倒嘛，病也不新鲜。但古来病字多作忧患贫穷的同义词。人一穷困了，当然于春事也就勤快不了。自己于春事为懒，然而别院此时的笙歌，正响成一片。两两对照，何等鲜明。这不仅想起昔日的繁华、热闹都衰歇了，更伤心的是，既然主战派落到了如此地步，那个笙歌一片的别院，作为政治对立物，当然就是主和派了。自己这里既然是酒杯尘封，那么昔日的清客此时也都过到那边去了吧。当“下官歌舞转凄惶，剩得几支笛”都不得不作为货币而付作酬劳的时候，就不用谈什么歌舞了。歌妓云散，酒杯尘封，则无人上门也就可想而知了。这时唯一和以前一样的就只有杨花，对他是依旧是热情地沾衣扑面，没有因他这么穷病而嫌弃得远远地离开他。而且当作者正感到辛酸时，倒感到一如平时的杨花，反而因愤世俗之浇薄，似更故意的亲热了。这亲热，正表现在它“笑人情浅”。这一“笑”字，冷峻极。人们往往以水性杨花比喻薄情，他这里却认为杨花反而比人之情是更为深厚的。对轻薄的杨花，居然有不能承受之重的感慨，则这个世道也就可想而知了。
这软如轻絮的杨花，在他手里却成了沉重的鞭挞。寄慨之深，不止翻案文章写得好而已。
此诗的前二句就为全诗奠定了感情基调：愁怨忧思。娄图南常年飘零在外，羁旅天涯，今又客居他乡，难免不生愁绪。这一“思”一“愁”，既抒发了情感，又点明了娄的部分病因。三、四句“梦绕羽人丘”，进一步剖析娄病的主要原因。原来，娄整日魂牵梦绕的是如何入道，虽然被称为“居士”，也“将入道”，但终究还没有入道，个中滋味，常人很难了解，只有诗人深谙其中奥秘。诗的前四句，诗人不仅摹写其状，更主要的是通过娄病这一情形的描摹观照娄的内心，为下文劝勉娄图南做了铺垫。
诗的五、六句为诗人劝勉之句。娄图南甘于清贫，乐于求道，并为入道孜孜以求，文才“传咏都中”之名已丧失殆尽。要想找回“遗名”，诗人给他指出一条正确的途径：“得自求”。两句中一“怜”一“得”，表明了诗人鲜明的态度。诗人在《娄图南秀才游淮南将入道序》中指出：“（娄）为处士，吾以为非时也……以图寿为道，又非吾之所谓道也。”并针对娄图南“以呼嘘为食，咀嚼为神，无事为闲，不死为生”之道，发出激问：“……其于道何如也？”
“壁空残月曙，门掩候虫秋”两句，勾画了一幅独守残月空壁、候虫入室长鸣的清幽愁伤的楚地秋夜图：天上悬挂着弯弯残月，透着星许亮光。月光下，寺院幽寂，寺门虚掩，石壁空空，秋虫“唧唧”。这里有残月的微光，秋虫的长鸣，声光俱见，情景交融。此情此景，不禁使人愁肠百结、思绪绵绵。这两句历来被后来的诗人学者所推崇。
诗的最后四句既是劝慰之句，又是抒怀之言。作为朋友，应礼尚往来。娄图南“委以双金”，诗人却很难酬以杂佩。这当然是诗人的谦逊之辞。对娄一心只想羽人飞天，诗人郑重指出：“碧霄无枉路”，意即无碧天云霄的来去之路，求道的结果也只会是“徒此助离忧”，奉劝娄不要继续迷恋于入道，应清醒过来，奉行“君子之道”。
全诗以“愁思”开头，以“离忧”结尾。从表面上看，诗人是写娄图南的忧愁情怀。其实只要联系柳宗元贬永十年的非凡遭遇，就不难发现，诗人也是在抒写自己的“愁思”、“离忧”。