诗的首句就是对故园的思念。游宦异乡多年，时值清秋，正是黄叶飘零的时候，诗人猜想家中庭院台阶上一定是黄叶堆积了，这便点名了思乡的时节——秋。所谓落叶归根，诗人却漂泊于异乡。思想的情绪从诗歌开端即起。笼罩于全诗，同时也照应着诗题中“思归”二字。次句补写一笔，讲明为何会有这种思归的情绪。遭遇贬谪打击之后的诗人，仕途前景似乎灰暗无光，漂泊在外，失意时自然会想起远方的家园。因思念而梦魂牵绕，然而情深梦浅，此时听闻城头角声响起，就此便不能复睡。“角”是军中乐器，本就容易引起金戈铁马的联想，况且此时还是秋天。李贺《雁门太守行》“角声满天秋色里”，写的就是这种肃杀之感，更何况此时听到角声是在梦醒后的残夜之中。几重感情叠沓而至，清夜梦醒之后的清冷，秋气渐重的清劲。角声回荡的清涩重重而来造成了清愁情绪。
随后是自述内心的空寂和思乡情切。生活中的孤寂难受原本就缺少知音，他的《归山作》写道：“心事数茎白发，生涯一片青山。空林有雪相伴，古道无人独还。”认定孤寂生活难有知音，只有独自把情感寄托在青山白云之间。此时正是深夜，青山尚在夜色笼罩之下，思想肠断只有自己一人承担，这是一层哀愁；多年游宦他乡，家乡的亲人自然对他期盼多时，想到家乡自然温暖倍增，而梦醒之时只有自己一人独自冷清，冷暖之间又是一层哀愁。这种他人不见的凄楚则又加深故园之思，在《忆故园》诗中曾表明心迹：“故园此去千馀里，春梦犹能夜夜归。”夜夜思归，乡情至深至切。
思归难眠，起身排遣愁绪，残月尚在，余晖犹存。“起行残月影徘徊”，把自己完全放在了一个形单影只的凄冷环境中。李白饮酒尚能“举杯邀明月，对影成三人”，顾况面对的却是残月淡光，不足以遣怀。而残月能映照自己的同时也能映照家乡，这样孤寂之情则更进一层。思乡情怀不能自已，在月影徘徊之时看到的只有自己的暗影，自己唯有独自面对这份凄楚之情。从被角声惊起到对月徘徊，失意中思念的家乡也一点点从梦境中清晰了起来。思乡是引子，伤怀则成了全诗的主要情绪。张九龄有《秋夕望月》诗写到：“清迥江城月，流光万里同。所思如梦里，相望在庭中。 皎洁青苔露，萧条黄叶风。含情不得语，频使桂华空。”可以作为此诗的一个补充。
此诗在梦与现实交织中表现思归的情绪，情到浓处，伤心不能自已。
诗作前部分叙写古人事迹，以之为衬托表明自己坚决辞职隐居的意志与行为。诗作后部分写自己返家行程中的景象及感想。诗中抒发了去官还家、获得解脱的愉悦心情。诗中写景不多，却极为清丽动人。
一至十句自述隐居丘园之志。
先对几位古人加以评价：西汉的彭宣、薛广德、贡禹虽有高名，但只能说是优于贪婪奔竞之徒，还说不上是懂得养生缮性。彭宣和薛广德，班固《汉书》对他们评价颇高，称其“近于知耻”（《汉书·叙传》）；谢灵运却说他们“裁知耻”而已，并不十分推崇。贡禹曾为河南县令，因受上司责备，便辞官而去。后又出仕，元帝时为光禄大夫，以年迈求退，为皇帝所挽留，进为御史大夫。诗人认为他并未能遗弃荣华富贵。评论古人只是陪衬，目的是表明自己的志向不仅是不贪竞而已，而且要做到“达生”。《庄子》有《达生》篇，说“达生之情者，不务生之所无以为；达命之情者，不务知之所无奈何”，认为人之性分有定，不可勉强致力于性分之外的事。
篇中又说欲存生养性，莫如弃世而无所牵累。诗人正以此种思想作为隐退的精神支柱。其具体的打算，则是“庐园当栖岩，卑位代躬耕”。《山居赋》云：“古巢居穴处曰岩栖，传说古代隐士也有过此种原始生活者。但诗人毕竟做不到这样，故有所变通，以田园当作岩栖。他也不能真的耕稼自给，故欲学习古代一些达士的做法，安于卑位，以薄俸为生生之资。他说自己拙于仕宦，讷于言辞，故欲选择这样的生活道路，不过以往行迹尚未能与此种生活理想相一致。这可说是诗人对往昔生活的一个总结。
十一至二十句写去职。
先举周任、司马相如、尚子、邴生以自比。诗人说自己在种种方面都类似于上举那些淡泊明志的古人。自晋安帝义熙元年（405年）至景平元年（423年），实得十八年，说“二十载”是约略言之。二十年来做违心的事，心情是悒郁的；而今终于摆脱了送往迎来等等俗务，其快意可知。
二十一句至三十二句写初去郡途中的所见所感。
“理棹”以下四句写其水陆行程。为早日还家，乃疾速行舟。遄、鹜二字表现出心情之急迫。“理棹”二句已兼写水陆，“溯溪”二句又写水涉山行，但不觉累赘，因读者可由此充分想象其行进的画面，感受到行程的漫长辛苦。“野旷”二句是写景名句，景中其实有情。清旷无际的风景正与诗人心境相应。久被絷牵，一朝脱去，自感到无限的开朗、轻快，故触目皆成佳趣。
“憩石”二句写山林小憩情景，暗用《楚辞》典故：《九歌·山鬼》：“山中人兮芳杜若，饮石泉兮荫松柏。”又《离骚》：“朝饮木兰之坠露兮，夕餐秋菊之落英。”熟悉典故的读者可于言外获得一种清幽芳洁之感。“理棹”四句写疾速前行，途程漫漫，“野旷”四句写赏玩风物，途中小憩，形成情绪和内在节奏的对比；而其心情之急迫与愉悦，都得到了表现。由愉悦的心情、悠然的意绪，进而引发出一番情理相融的议论：高尚之志战胜了富贵之欲，胸襟旷然，则臞者可肥；以止水为鉴，则流荡不返者将归于宁静清明。（二句用《韩非子·喻老》和《庄子·德充符》典故）心灵获得了自由宁静，则即使处于纷乱奔竞之世，也等于是归真返璞，回到了伏羲、唐尧时代，可以无拘无束、怡然自得了。传说尧时百姓无事，有老者击壤而歌曰：“日出而作，日入而息。凿井而饮，耕田而食。帝力何有于我哉！”诗人用此典故，似有“人生如此自可乐，岂必局束为人靰”（韩愈《山石》）之慨，且使人隐约感到他与当权者关系之不和谐。
谢灵运去郡之志是坚定的。当时其堂弟谢晦等人都写信劝他不要离职，他执意不从。不过他并非一贯恬退之人。《宋书》本传说他“自谓才能宜参权要，既不见知，常怀愤愤”。其出为永嘉太守，正是与当权者矛盾的结果。他之去郡，乃是一种不合作态度的表现。明乎此，对于此诗的理解便可更深入一层了。