第一自然段为第一部分，介绍汉代二疏年老辞位的典故，处处为后文的对照设伏。疏氏权侄的事迹无疑是很多的，但作者只突出了两点：一是年老及时告退；二是其行动得到了人们的充分理解和肯定，不仅送行场面热烈，连路旁的观众也共盲其贤，汉史既传其事，后世工画者又图其迹，所以至今照人耳目。
第二、三、四自然段为第二部分，从与二疏对比的角度写杨君告老归乡。先肯定其同，再展示其异。杨君和二疏一样，也是年满七十，即主动求归，这是二者相同之处。作者首先肯定其同，不仅是为了提高杨君的地位，突出他归乡的意义，而且也是为了批驳“古今人不相及”这个当时颇为流行的错误观点。作者是一个儒家道统论者，并以道统的继承者自居，到处鼓吹先圣先王之道。他认为七十而致仕，归老乡里，这也是儒家道统的一种表现。杨君与二在这方面的一致，正好说明儒家道统可以继承，是对“古今人不相及”这个观点的最好驳斥。杨君告老归乡的行为既然可以和二疏媲美，那么他就应该得到人们同样的理解和赞扬，可实际情况却完全两样。杨君去时，既没有看到热烈的送行场面，也没有听到发自内心的赞扬，史既不传其事，图其迹的画当然就更谈不上了。丞相虽有爱惜之心，告之于朝，为其邑少尹，不绝其禄，又为歌诗以动之，京师的诗友，也相属而和，这些似乎可以减少一点冷落。但是，他们诗歌的主旨都落在那个“劝”字上。无非是动其继续为官，不归其乡罢了。可见他们都为“以官为家”的时尚所束缚，并没有真正了解杨君的志趣，没有真正理解杨君此行的意义，他们并不是杨君真正的知音。正因为如此，所以作者在篇末才发出出了那么深沉的感叹。
最后一段第三部分，直接摹写杨君的归乡情趣，点明杨君告老归乡的意义。这段文字不长，但内容丰富。作者先用“中世士大夫以官为家，罢则无所于归”的不良现象作反衬，意在突出杨君告老归乡的意义。这儿的“中世”应该理解为中世以来，而且主要是影射当时的官场。有人说，不去其乡，这在唐代属“本等之常事”。就科举制度而言，年老致仕归乡，应该是本等常事，但中国的官场历来都是原则归原则，行动归行动。像杨巨源这样按例归乡的官员很可能还是凤毛麟角。唯其稀少，才觉得珍贵，唯其稀少，才值得大力提倡。作者之所以如此热心地宣扬杨君的事迹，其用意大概就在此吧。接着作者又补写一句杨君初出仕的情景，说他是刚成年就离开了家乡，这可能是为了突出他对故乡的深厚感情。最后，作品以深沉的感慨作结“古之所谓‘乡先生没而可祭于社’者，其在斯人欤！其在斯人欤！”这是对杨君的高度赞扬，也是对世风日下的无穷感叹。
文中把杨辞职归乡的情景跟历史上有名的二疏具体进行比较，从而突出了杨巨源思想品德之美。写作注意前后照应，富于变化，并且反复咏叹，言婉情深，作者的思想感情灼然可见。
这首诗扣住吴江的地理形势和有关的历史事件，巧妙地融写景、叙事、抒情为一体，寓意深刻，感慨良多。
此诗上半部分描写吴江自然景色，首联所说“松陵”，为吴江旧称。吴江县城东南旧有一条长堤，界于松江与太湖之间，蜿蜒八十余里。诗人走在黄昏的吴江道路上，远远望去，这堤好像要抱住整座县城一样。一个“抱”字，把长堤拟人化了，不仅形象生动，而且写出了它对吴江县城护拥偎倚的情态。首联是对吴江的远眺，颔联两句，则由远而近，进一步作具体刻画。第三句所说的“塔”，原在吴江东门外的宁境华严讲寺内，共七层，高十三丈，形方，故名方塔。方塔在湖中各处均可看见，而其自身位置又是固定不变的，这就仿佛湖势在围绕着方塔移动。第四句所说的“桥”，一名垂虹桥，俗呼长桥，东西百余丈，多至七十二孔，中间有垂虹亭；前临太湖，横绝松陵，湖光海气，荡漾一色，旧称“三吴绝景”。由于桥身很长，所以有一种似乎淡淡的月痕是由它牵引而生的感觉。两句抓住当时吴江最具特色的景物，做了典型的概括描写。诗中有塔有湖，有桥有月，动静相宜，交相辉映，组成了一幅空明清旷的图画。同时，颔联这两句除了写景之外，实际上另有某种深刻的寓意蕴藏在内，与颈联相呼应。
颈联“市静人逃赋，江宽客避兵”，这两句为全诗关键，它描写了吴江在赋税重压、战乱摧残之下的萧条景象。市集沉寂，是由于百姓忍受不了重敛苛征，被迫逃亡；江面空阔，是由于行客为了躲避兵火战事，隐身遁迹。这“市”和“江”的萧条景象，一方面和前面“湖”和“月”同样开阔，另一方面却又使得原来的秀丽景色整个地为之黯然，蒙上了一层凄清惨淡的色调，从而产生了对照鲜明的艺术效果。再结合颔联“塔盘”、“桥引”两句。所谓“湖势动”，即可以视为写自然之景，也可以看作是对颈联的“逃赋”和“避兵”的人间风波的一种形象的暗示。所谓“月痕生”，则在写景之中隐寓清兵南下之意。月属阴象，因而在古代诗词中往往用来比喻外族。如清初著名女词人徐灿的《踏莎行》即云：“碧云犹叠旧山河，月痕休到深深处！”这里的“碧云”典据梁朝江淹《休上人怨别》诗：“日暮碧云合。”意思说当时的南明小朝廷虽然已经日薄西山，但毕竟还在坚持；“月痕”则指清兵，希望它不要消灭南明。吴伟业和徐灿是同时代人，并且还是儿女亲家。他作《过吴江有感》时，明朝政权已经彻底覆亡，所以一开头写的就是“落日”而不是“日暮”；因此颔联中的“月痕生”，也同样应是暗指清兵到来，而颈联的“避兵”，由此也不显得突兀而出了。如此，全诗的结构脉络便可一目了然。首联总起，概括吴江形势，点明时代背景；接着一分为二，颔联、颈联由暗而明，既是写景，又分别暗示了清兵南下、人民离散。最后，诗又合二而一，归结为故国沦丧，交游零落，身世凄凉，唯有感叹而已的悲凉情怀。
尾联“廿年交旧散，把酒叹浮名”，这里的“廿年”不一定是确指，它可以包括清兵南下至写作此诗这二十余年的时间。“散”字承上文“逃”、“避”二字而来，“人逃”“客避”，故友自然也都离散了。这句虽然说得较虚，不过，此中仍有故事可稽。明朝既亡，许多爱国文士相率结为诗社，遁迹林泉，砥砺气节，暗图匡复。顺治七年（1650）开始出现的吴江“惊隐诗社”，在当时尤为著名。吴江的吴炎、潘柽章，昆山的顾炎武、归庄等人，都是它的主要成员。康熙二年（1663），庄廷鑨“明史案”兴，清王朝借机大搞株连，屠戮遗民志士，“惊隐诗社”亦被迫停止，吴炎、潘柽章也惨遭杀害，顾炎武曾做诗文吊之。而吴伟业同他们都有交往，因此，“廿年交旧散”云云，大概正是“有感”于这一事件。至于“把酒叹浮名”，则是吴伟业本人的身世之感。他在明朝少年高第，前程似锦，而明亡以后，由于“浮名”太盛，被迫出仕清廷，晚年才得以回乡家居。“浮名”之累人如此，反不及故友们或死或遁；名节不堕，令诗人深为叹息，借酒浇愁。
纵观全诗，前半首写“过吴江”，是叙事；后半首写“有感”，是抒情。然而，抒情之中，兼有叙事。首联“落日”，诗人离吴江还较远；颔联“月痕生”，渐渐接近吴江；颈联“市静”，表明已经上岸；尾联“把酒”，则是住下之后发现“交旧散”，才对“酒”兴“叹”的。全诗按照时间先后依次描述，层次分明。因此，后半首既是写“有感”，又是续写“过吴江”。同样，前半首的“落日”，“月痕生”，暗示了明朝的覆亡、清兵的入侵，所以，它既是写“过吴江”，又是预写“有感”。可见，在本诗中，叙事与抒情，“过吴江”与“有感”，已经达到了相互渗透、不可截然分割的地步。
“万里辞家事鼓鼙”是说李判官将要辞别家人与亲朋好友，不远万里到润州去从事军务。诗人想要强调的，一是行人路途的遥远；一是行人履行公务的特殊性，是要去执行军务。这便暗含了诗人为他送行的原因和忧虑。因为古代交通工具极不发达，即使最快捷的交通工具也无非是北人骑马南人乘船而己。所以古代的分别往往不是意味着“西出阳关无故人”，便是意味着“人生不相见，动辄参与商”了。更何况李判官这次是到山重水阻的润州去“事鼓鼙”。诗人一再说明行人所去之地的遥远，这里又进一步暗寓着诗人为行人命运未卜而深深忧虑。
“金陵驿路楚云西”就是从地理座标系上为我们标出李判官所去之地的方位。诗里说金陵的驿路直通楚地之西。这里的金陵即润州，因为按照唐代行政区域的划分，润州也属于金陵的辖区。
“江春不肯留行客”一方面点出了这次送别的时间是春天，另一方面诗人又移情于物，抱怨那逝者如斯的江水和一年一度的春花为什么不愿意挽留远行客。
“草色青青送马蹄”，化用了“青青河畔草，绵绵思远道”的意境，同时也是诗人与行者难舍难分的送行场面的真实写照。两位友人并驾驱马，踏着河畔青草缓缓前行。
全文句句、字字都倾注了诗人对友人远行的忧虑与担心，以春天春草“不肯留”“送马蹄”的无情反衬出离别者内心的有情。