这是首典型的登临诗，与历来登临诗一样，分为二层，即登临所见、由登临而产生的感慨。诗无论是写景还是抒情，都波折多变，笔法灵活，用语清丽。同时，诗以五言写景，七言抒情，起首四句又杂以民歌体，活泼跳荡，用韵平仄交合，寓以变化。
开头四句，“起得峭拔”（纪昀语），直接点出登寺之所见，而省略了登寺的过程。更主要的，是暗示了并非登一次，所以才有“朝”“暮”之说。白天看吴山，但见蜿蜒起伏，所以说是“横”；晚上看吴山，只能在夜空中见出轮廓，所以说是“从”（纵）。这一表达方式，与著名的《题西林壁》中“横看成岭侧成峰，远近高低各不同”相似，可见作者观察的细致。如此写山，看似不具体，实则正如宋玉《登徒子好色赋》中对增之一分则太长，减之一分则太短，施朱则太红，傅粉则太白的“东家之子”的描写一样，可以充分调动读者的想象，表现出吴山之美。至此，写山题面已足，于是进而写阁。写阁不说其外部之壮丽和内部之清雅，而说“空洞无一物”，这就和题中的“寺”联系起来了。阁中当然不可能空无一物，但佛家宣称“四大皆空”，苏轼本人也曾在《送参寥师》中说过：“欲令诗语妙，无厌空且静。静故了群动，空故纳万境。”这实际上是对“幽人”即佛徒的赞美。
以下分别续足前面的意思，“春来”四句承接首四句，写由吴山之美惹动思归之心，因而觉得“秋悲春更悲”。“雕栏”四句承接次四句，写由朱阁之美联想雕栏易朽，致慨于光阴易逝，人生无常。这就由乐生悲，感情也显得低沉。但末二句又复振起，说人虽然与亭台池阁最终都将化为异物，但吴山长存，则诗人的精神亦长存，见出乐观和旷达，而这种乐观和旷达又暗与“幽人”数句相承，反映了佛家无生无灭的思想。这种思想可以和作者的《前赤壁赋》相对照。在那篇著名的赋里，作者借“客”之口写道：“方其（曹操）破荆州，下江陵，顺流而东也。舳舻千里，旌旗蔽空，酾酒临江，横槊赋诗，固一世之雄也，而今安在哉！”又由曹操写到普遍的人生：“哀吾生之须臾，羡长江之无穷，挟飞仙以遨游，抱明月而长终。知不可乎骤得，托遗响于悲风。”人们追求永恒不得，是一种永恒的、无法解脱的悲哀，对此，苏轼说：“逝者如斯，而未尝往也；盈虚者如彼，而卒莫消长也。盖将自其变者而观之，则天地曾不能以一瞬；自其不变者而观之，则物与我皆无尽也。”以不变的眼光看待物与我，就能超越具体的悲和喜，与大自然一样，达到永恒。《法惠寺横翠阁》的结尾所表达的，也就是这个意思。
全诗共八章，取喻多奇。首章“騂騂角弓，翩其反矣”，是用角弓不可松弛暗喻兄弟之间不可疏远。“兄弟昏姻”是同类连及，并无确指，着重点是同宗兄弟。“兄弟昏姻，无胥远矣”，为全诗主题句，以下各章，多方申述，皆以此为本。
第二章叙说疏远王室父兄的危害。“无之远矣，民胥然矣；无之教矣，民胥效矣”，四句皆以语气词煞尾，父兄口气，语重心长。作为君王而与自家兄弟疏远，结果必然是上行下效，民风丕变，教化不存。
第三章用兄弟之间善与不善的两种不同结果增强说服的效果。和善的兄弟相互平安相处，泰然自得，不和的兄弟相互残害，不能自保。如果说这一章还是因说理的需要而作的正反两方面的假设，那么第四章则是通过现实中已成为风气的责人不责己的小人做法直言王行不善的社会恶果。“民之无良，相怨一方；受爵不让，至于己斯亡”，不善良的兄弟间只知相互怨怒，不顾礼仪道德，为争爵禄地位各不相让，涉及一己小利便忘了大德。
第五、六两章以奇特的比喻、切直的口吻从正反两方面劝诱周王。只有自身行为合乎礼仪，才能引导小民相亲为善。“老马反为驹，不顾其后”，取譬新奇，以物喻人，指责小人不知优老而颠倒常情的乖戾荒唐，一个“反”字凸现出强烈的感情色彩。“如食宜饇，如酌孔取”，正面教导养老之道。第六章更是新意新语竞出。“毋教猱升木，如涂涂附”；用猿猴不用教也会上树，泥巴涂在泥上自然粘牢比喻小人本性无德，善于攀附，如果上行不正，其行必有过之。后两句“君子有徽猷，小人与属”，又是正面劝戒，如果周王有美德，小民也会改变恶习，相亲为善的。此意与后世所谓“君子之德风，小人之德草”，正相一致。
诗的最后两章以雪花见日而消融，反喻小人之骄横而无所节制和不可理喻。“莫肯下遗，式居娄骄”和“如蛮如髦”说的是小人，却暗指周王无道。有鉴于此，诗人不禁长叹“我是用忧”，此“忧”非为自身忧，也非为小人忧，而是为国家为天下而深怀忧患。
全诗因是父兄口吻，所以“少微婉，多切直”（陈子展《诗经直解》引孙鑛语），少了一些通常意义上的诗味。又正因为是父兄口吻，全诗以气贯通，或取譬，或直言，都在光怪陆离中显示出一种酣畅，一种奔涌的激情。因此孙鑛给出“风骨自高奇”的评价。