该诗首联叙述下天竺寺与中天竺寺的历史关系；颔联与颈联描述禅师修行之处的风景；尾联阐述禅师的平常道行，随缘真心。全诗浑然天成，禅韵缭绕。
首联写禅寺缘起。一寺分为两寺，而两山相近，进了此山，也就等于进了彼山。
颔联接着细写两寺、两山方位关系，写东西南北相连相近，从流动的云、水写起，正是最好不过，而妙语如珠，一气读来，也恰如行云流水。
颈联仍写两寺关系，而“前台”“后台”“钟声”，已带出第七句“行道处”。前已写尽南北东西，接着又写前后上下，圆转玲珑，无所不到，读来应接不暇。句式与首联固是不同，与颔联也是同中有异，并不犯复，而写花则从后视前，写声则从上到下，丝毫不乱。这六句诗，对仗工整，连续使用叠字，诗味回环。东西南北前后上下，顿拓无限空间，生出十方无界的超然感觉。尤其是颔联与颈联，包含了方位只是相对成立的观点。东涧水流，从更东边来看，就是西涧水。南北山云，前后台花，上下界钟，皆是此意。
尾联归结到禅师身上，佛经中本有天女散花的典故，“天香桂子”，正合身份。尾联要收束全篇，不宜再用对句，而末尾“纷纷”又用叠字，则眼前仍是一片缤纷景象，诗虽至此而尽，余韵却悠然不绝。
这首诗通过对两座天竺寺的历史关系、地理位置、自然环境的描写，以及诗人想象的“天香桂子落纷纷”，表达了诗人对韬光禅师仰慕、钦佩之情。全诗之创格在于章法奇特。诗的前三联，单句为句中对，合句为流水对，即前六句在相同的位置用同字，一句之中前后相对，两句之间上下相对，如珠走玉盘，铿然和鸣，笔势飘逸，流动自然，显示了圆熟的技巧。该诗音节紧凑而活泼，意致连绵而流丽，构思巧妙，语若连珠，有山歌风调，是七律之创格。
起首两句主写倚阑，而写今夕倚阑，却从“昨夜曾倚”见出，同样一句词，内涵容量便增加一倍不止。——既然连夜皆倚阑而望，当还有多少个如“昨夜”者！“ 天如水” ，比喻夜空如水般明澈与清凉，可是其意不在于写天，而在于以明净的天空引出皓洁的明月。歇拍两句写女主人公的对月怀人。男子去后一直不回来，也没说准什么时候回来，她结想成痴，就相信了传统的或当时流行的说法—— 月倚人团倚，每遇月倚，就倚阑苦望。词中写女主人公倚阑看月，从希望到绝望，有其独到之处。“初将”是说“本将”，这一语汇，便已含有“后却不然”的意味。下面却跳过这层意思，径写“长望”，其中自有一而再、再而三以至多次的希望和失望的交替在不言之中。“初”字起，“长”字承转，两个要紧的字眼，括尽一时期以来望月情事，从中烘托出女主人公的痴情和怨意。
过片两句，从等待无望而终于悟知痴想成虚。“罗衣著破”，是时长日久；“前香在”，则以罗衣前香之犹存比喻往日欢情的温馨难忘，委婉表达对旧情的缱绻眷恋。“旧意谁教改”？问语怨意颇深。人情易变，不如前香之尚在；易散之香比人情还要持久，词中女主人公感到深深的痛苦。结拍二句，点出全词的“离恨”主旨，以“一春”写离恨的时间久长，以“懒调弦”、“两行闲泪”形容离恨的悲苦之深，将愁极无聊之感抒写到极致。春日本为芳思缠绵之时，然而日日为离恨所苦，自然无心调弦弹筝，然而又百无聊赖，于是不得不对着筝弦黯然神伤。这种内心的苦恨，被作者表现得维妙维肖。陈延焯谓“北宋晏小山工于言情”，确然不错。此词运笔有迥环往复之妙，读之使人心魂摇荡，低徊不已。
李贺当时住在长安崇义里，曾写了首《崇义里滞雨》，表达了壮志成空，愁恨不已之心情，加上穷困孤独，自己的心境也像是阴暗的里巷和淅沥不断的秋雨一样。这很能反映他担任奉礼郎时的处境和心境，与《始为奉礼忆昌谷山居》所要抒发和表达的情感相近。只不过后者更强调家山的美好和对故乡的怀念。诗人将昔日在家山品茶饮酒的悠闲自在景与眼前退衙回来闭门独坐的孤独以及“鹤病悔游秦”的病痛相互比照，旨在强调身在仕途无法实现理想抱负的喟叹。失落加上乡愁，更增添几分愁苦，也更加深了诗人对故乡的怀念。
诗题中提到的“昌谷山居”即是诗人的故乡所在地。昌谷，位于今洛阳西南宜阳县境内。今日的宜阳，显得偏僻和贫穷，但在隋唐时期，此地则是江淮粮赋陆路和漕运的重要中转站。其中李贺居家的三乡驿（今名三乡乡），是当时从洛阳通往长安大道上的一座重要驿站。为唐代诸帝东巡必经之地，在此建有连昌宫、兰昌宫等行宫，武则天、唐玄宗都曾在此驻跸，其中的连昌宫更因元稹的《连昌宫词》而闻名千古。
此诗的前半首，扣住“始为奉礼”行笔，总写居官羁旅无聊之情状。“扫断”、“雅回”两句，叙述官职卑微，门庭冷落；“长枪”、“小树”两句，写江米煮熟，食馔简单，除枣花外，室无珍玩。这四句，全无半点寒酸气却道尽窘迫。即是小官，又全无半点迎逢心思，自是门可罗雀；回到家里自己动手关门，没有仆人书童；特意说出煮的是江米，或许是在暗示除此之外别无其它；至于小树枣花，那不过是平凡窄小的院落里一棵普通的树罢了。如此这般，一个异地为官生活勉强郁郁不得志的年轻人形象跃然纸上。“向壁”、“当帘”两句，写闲对如意、角巾，言外寄托“归欤”之意。
诗的后半首，转而写题上“忆昌谷山居”之意。忆家，故作家书，以付黄犬；忆亲人，因妻病而追悔至京求仕。“土甑封茶叶，山杯锁竹根”，可见主人不在；“不知船上月，谁棹满溪云”，月夜又有谁在船上摇荡着满溪的云影？用反诘句收结，意想飞驰，巧妙表现出“忆”的风韵，“末二尤得忆家神理”（《协律钩玄》卷一引董伯音语）。
李贺很少用律体写诗，《始为奉礼忆昌谷山居》却用五言长律写成，诗韵用上平声十一真、十二文、十三元通押，很有特色。