这首诗作纵向展开，从过去写到现在。开头两句说过去，接着四句主要讲述到永嘉担任地方官以后的情况。中间六句具体写读书的情形。结尾四句直接说到诗人自己的政治态度与生活情趣。这首诗从大处落笔，委婉见意，通篇又具有感情深沉凝重、语调平易亲切的特点。
游京华”与“归山川”、“未尝废丘壑”与“心迹双寂寞”，隔句映衬，在文义上递进一层。这一表示递进关系的连词，更明白提示前后两个时期之间存在着的变化。诗人自述到永嘉以后，“心”不预世事，“迹”绝交以息游。
“虚馆”二句更具体描画出“心迹双寂寞”的景象。事实上，身为一郡之长，是不可能如此清闲的。《宋书》本传说：“郡有名山水，灵运素所爱好，出守既不得志，遂肆意游遨，遍历诸县，动逾旬朔，民间听讼，不复关怀。”可见“绝诤讼”并非真的没有“民间听讼”，而是由于心远地自偏，“不复关怀”，有意不闻不问罢了。以上几句，对于“斋中读书”的诗题来说，看似闲笔，实际上这是从大处落笔，委婉见意，显示的是读书时总的心态意绪与环境气氛。以下写“斋中读书”的正笔，正是从这一大背景上推出的。
从“卧疾丰暇豫”起，即转入“斋中读书”的描叙。“卧疾”就只能在“斋中”，有了许多空闲时间，为了排遣无聊，除了写诗作字以外，便轮到了“读书”。“怀抱观古今”等四句，具体写读书的情形。诗人读书的目的在于了解历史以增进对现实的认识，方法上有读有评。诗中论到的人物有消极避世的隐士长沮、桀溺和热衷仕进的文人扬雄。谢灵运对沮、溺则取批评的态度，认为隐居耕田是一“苦”事而予以非笑。扬雄在易代之际的言行，历来受人非议，如李善说他“露才以耽宠，诡情以怀禄”。谢灵运也不满于扬雄的屈节事人、钻营爵禄，故在非笑沮、溺的同时，对扬雄也采取了哂笑的否定态度。
结尾四句是在读书论书基础上的进一步发挥，由“既笑”二句引出，直接说到诗人自己的政治态度与生活情趣。“执戟亦以疲”，说明自己对于仕进已心灰意冷；“耕稼岂云乐”，又表示自己不愿过躬耕隐居的清苦生活。诗人让自己站到了三岔路口，是仕，是隐，无一理想，无可适从。故不由得叹道：“万事难并欢。”在仕隐矛盾的煎熬下，诗人为自己设计了一条慰藉心灵的人生道路：“达生幸可托。”以“达生”处世，就会避免贪多务得，不受物欲的困扰，摆脱世务的牵累，在精神上求得自我解脱，近乎陶渊明《归去来兮辞》结尾所表示的生活态度：“乐乎天命复奚疑。”
谢灵运为官时不理政事也是“达生”思想的表现，而“达生”思想的进一步实践，尚有待于绝意仕进，归隐田园，更远地离开尘世俗务。谢灵运出身大官僚地主家庭，广有田产，归隐而仍可免于沮溺的耦耕之苦，这大概是他的“达生”思想的最完美的实现了。不久，他果然踏上了归隐的道路。
全诗以“斋中读书”作为结构的中心，向前推衍，说到过去；往后演绎，谈及未来。读书是在斋中，说前道后的情事则及于斋外的广阔世界——京城的丘壑，永嘉的山川，执戟殿中，耕稼田间。仕隐矛盾的抽象主题，由于结合读书论书的具体内容提出，显得不玄不泛；又由于视野开阔，有回顾，有前瞻，联系长期以来的生活体验坦率剖白，通篇又具有了感情深沉凝重、语调平易亲切的特点。
作为一首宣扬老庄“达生”思想的记事说理诗，而能不落抽象说理的魔障，写得迥异于“平典似《道德论》”的“孙绰、许询、桓、庾诸公诗”（钟嵘《诗品序》），足见诗人艺术上的功力。至于诗中宣扬的所谓“达生”的消极避世、自得其乐的人生态度与生活理想，对于今天的读者来说，肯定是不足取的，但对于了解谢灵运全人及其创作演进的轨迹，则又有着不可忽视的重要意义。
以极平淡的语言，从极平常的生活场景里，表现了诗人不同寻常的感受，透露出诗人极为闲适的心情。
“小宴追凉散，平桥步月回。”描写诗人尽情地领略着这凉爽的秋气。踏着美丽的月色，才觉得今晚的小宴结束得正是时候，似乎是“追凉”而散似的。一个“追”字，道出了诗人宴散步月平桥，沉浸在这新秋之夜的惬意心情。
“笙歌归院落，灯火下楼台。”写的是宴会结束的景象，表现出诗人的意犹未尽。可见此次宴会是十分成功的，宾主都共同度过了一个愉快而难忘的夜晚。
“残暑蝉催尽，新秋雁戴来”。暑尽秋来，蝉随着秋凉的到来，生命的时日将尽，抱树而鸣之声更切；新秋伊始，北雁结队南翔。诗人抓住这种时令和物候的变化特征，把夏去秋来的自然界变化表现得十分富于诗意，称残暑是急切的蝉鸣之声催促而去尽，新秋季节是群雁方引来。五言律诗以第三字为诗眼。这两句以“蝉”、“雁”二字为诗眼，不仅使这两个诗句本身意象生动，警策动人，而且照亮了全诗，深化了诗的主题和意境，加强了全诗的艺术感染力，因此魏庆之在《诗人玉屑》里将这两字作为“唐人句法”中“眼用实字”的范例。
“将何还睡兴？临卧举残杯”。诗人在宴罢闲步时，伴随着明月而来的新秋凉意，诗人兴奋不已，似乎是他首先感受到了这种时令和物候的变化，这新秋的凉风，不仅吹散了诗人身上的“残暑”余热，也掀起了诗人心田秋水般的微澜，不知是喜还是悲，睡意全无。但夜已深沉，万籁俱寂，人们早已进入了梦乡，是该睡觉的时候了。于是诗人，为了今夜酣畅的一觉，又举起酒杯，独酌起来。
这首诗以赴宴归来的情态为描写对象，表现了诗人用山水风月歌颂诗琴酒乐，传达出诗人晚年生活方式和精神状态，表现了诗人的闲适与自足。
