此诗开头六句，是从题前着墨，借追念平生，写出自己的生活、情性，再转到当前。他这年三十七岁，说“闲居三十载”，是就大体举成数而言。过去精神寄托所在是诗书和园林，官场应酬这些尘事、虚伪欺诈这些俗情是远隔而无沾染的。四句盛写过去生活的值得追恋，也正是蓄势；接着便迸发出“如何舍此去，遥遥至西荆”的自诘，强烈表现出自悔、自责。这里用十字成一句作反诘，足见出表现的力度；说“遥遥至西荆（荆州在京都之西）”，自然不仅是指地理上的“遥遥”，而且也包括与荆人在情性、心理上的相隔“遥遥”。
“叩枻”以下八句是第二节。前六句正面写“夜行”，也写内心所感。诗人挥手告别岸边的友人，举棹西行。这时，新秋月上，凉风乍起，夜景虚明一片，天宇空阔无垠，平静的江波上闪映着月影，望过去分外皎洁。这是无限美好的境界，但是，作者如此着力描写这秋江夜景，不是因为“情乐则景乐”（吴乔《围炉诗话》），而正是为了反跌出自己役事在身、中宵孤行之苦。一切美景，对此时的诗人说来，都成虚设；反足以引发其深思，既追抚已往，也思考未来。这样，“怀役”两句，便成了绾结上下的关捩语句。
结尾六句，抒写夜行所感。在上节所写境和情的强烈矛盾下，诗人不自禁地像在自语，也像在对大江、秋月倾诉：“商歌非吾事，依依在耦耕”——像宁戚那样唱着哀伤的歌来感动齐桓公以干禄求仕的世不乏人，而自己却恋恋于像长沮、桀溺那样的并肩而耕。“商歌”、“耦耕”，代表着两条截然不同的生活道路，作者在此已作了明确的抉择。“耦耕”是“归隐”的代称，所以下文就是对未来生活的具体考虑：首先是“投冠”（不是一般的“挂冠”），掷弃仕进之心，不为高官厚俸牵肠挂肚；其次是返归故里，在衡门茅舍之下、在田园和大自然的怀抱中，养其浩然真气。诗人深沉地想：要是这样，大概可以达到“止于至善”的境界了吧。一个“庶”字，也表现出诗人对崇高的人生境界的不息追求。
诗中作者用白描手法写江上夜行的所见、所遇，无一不真切、生动，发人兴会。其抒述感慨，都是发自肺腑的真情实语。方东树说：“读陶公诗，专取其真。事真、景真、情真、理真，不烦绳削而自合”（《昭昧詹言》）；又说：“读陶公诗，须知其直书即目，直书胸臆，逼真而道腴”（《昭昧詹言》），此篇就是一个典型例子。
在这篇赠序里，作者叙述个人早年虚心求教和勤苦学习的经历，生动而具体地描述了自己借书求师之难，饥寒奔走之苦，并与太学生优越的条件加以对比，有力地说明学业能否有所成就，主要在于主观努力，不在天资的高下和条件的优劣，以勉励青年人珍惜良好的读书环境，专心治学。全文结构严谨，详略有致，用对比说理，在叙事中穿插细节描绘，读来生动感人。
全文分三大段。
第一段写自己青少年时代求学的情形，着意突出其“勤且艰”的好学精神。内中又分四个层次。第一层从借书之难写自己学习条件的艰苦。因家贫无书，只好借书、抄书，尽管天大寒，砚结冰，手指冻僵，也不敢稍有懈怠。第二层从求师之难，写虚心好学的必要。百里求师，恭谨小心。虽遇叱咄，终有所获。第三层从生活条件之难，写自己安于清贫，不慕富贵，因学有所得，故只觉其乐而不觉其苦，强调只要精神充实，生活条件的艰苦是微不足道的。第四层是这一段的总结。由于自己不怕各种艰难，勤苦学习，所以终于学有所成。虽然作者谦虚地说自己“未有所成”，但一代大儒的事实，是不待自言而人都明白的。最后“况才之过于余者乎”的反诘句承前启后，内容十分丰富。首先作者用反诘的语气强调了天分稍高的人若能像自己这样勤奋，必能取得越自己的卓绝成就。同时言外之意是说自己并不是天才，所以能取得现在的成绩，都是勤奋苦学的结果。推而言之，人若不是天资过分低下，学无所成，就只怪自己刻苦努力不够了。从下文知道，马生是一个勤奋好学的青年，他只要坚持下去，其前途也是不可限量的。所以这一句话虽寥寥数字，但含义深厚，作用大，既照应了上文，又关联了下文，扣紧了赠序的主题，把自己对马生的劝诫、勉励和期望，诚恳而又不失含蓄地从容道出，表现出“雍容浑穆”的大家风度。
第二段紧承第一段，写当代太学生学习条件的优越，与作者青年时代求学的艰难形成鲜明的对照，从反面强调了勤苦学习的必要性。“日有廪稍之供”云云是与上文生活条件之苦对比，“有司业、博士为之师”云云是与上文求师之难对比，“凡所宜有之书，皆集于此”云云，与上文借书之难对比。通过对比，人们很清楚地看出当今太学生在读书、求师、生活等几个方面，都比作者当年的求学条件优越得多，但却业有未精，德有未成。最后用一个选择句式又加一个反诘句式，强调指出：关键就在于这些太学生既不勤奋又不刻苦。这又是对上段第四层的照应。
以上两段从正反两个方面强调了勤苦学习的重要性，虽未明言是对马生的劝励，而劝励之意自明。然而文章毕竟是为马生而作的，所以至第三段便明确地写到马生，点明写序的目的，这就是“道为学之难”，“勉乡人以学者”。因为劝励的内容在上两段中已经写足，所以这里便只讲些推奖褒美的话，但是殷切款诚之意，马生是不难心领神会的。
宋濂为人宽厚诚谨，谦恭下人。此文也是一如其人，写得情辞婉转，平易亲切。其实按他的声望、地位，他完全可以摆出长者的架子，正面说理大发议论，把这个青年教训一通的。然而他却不这样做。他绝口不说你们青年应当怎样怎样，而只是说“我”曾经怎样怎样，自己放在与对方平等的地位上，用自己亲身的经历和切身的体会去和人谈心。不仅从道理上，而且从形象上、情感上去启发影响读者，使人感到在文章深处有一种崇高的人格感召力量，在阅读过程中，读者会在不知不觉中缩短了与作者思想上的距离，赞同他的意见，并乐于照着他的意见去做。写文章要能达到这一步，决非只是一个文章技巧问题，这是需要有深厚的思想修养作基础的。
其次，作者在说理上，也不是凭空论道，而是善于让思想、道理从事实的叙述中自然地流露出来。而在事实的叙述中，又善于将概括的述说与典型的细节描绘有机地结合起来，这就使文章具体实在，仅在行文上简练生动，而且还具有很强的说服力和感染力。例如在说到读书之难时，作者在概括地叙述了自己因家贫无书，不得不借书、抄书，计日以还的情形后说:“天大寒，砚冰坚，手指不可屈伸，弗之怠。”通过这样一个典型的细节描写，就使人对作者当初读书的勤奋及学习条件的艰苦，有了一个生动形象的具体感受。理在事中，而事颇感人。这也是此文使人乐于赞同并接受作者意见的又一个内在的原因。
而且，文章浑然天成，内在结构却十分严密而紧凑。本来文章所赠送的对象是一篇之主体。然而文章却偏把主体抛在一边，先从自己谈起，从容道来，由己及人，至最后才谈及赠送的对象。看似漫不经心，实则匠心独运。在文章的深层结构中，主宾之间有一种紧密的内在联系，时时针对着主，处处照应到主，而却避免了一般赠序文章直露生硬的缺点，使文章委婉含蓄，意味深长。在写作中又成功地运用了对比映衬的手法，使左右有对比，前后有照应，文章于宽闲中显示严整，“鱼鱼雅雅，自中节度”。这一点给人的印象也是十分深刻的。
本文在写法方面，下述三者都值得学习：
一、紧扣中心，从不同角度加以阐述。本文的中心是个“学”字。作者记自己幼时如何“嗜学”，成年以后如何“慕道”，说太学诸生应专心学习，嘉许马生“善学”，及“道为学之难”以送马生等，由己及人，自始至终，无一不从“学”字着笔。写自己过去生活的清苦，今日太学条件的优越，仍然围绕着“学”字来写，只是角度不同。作者自述学习勤奋，勇于克服困难，是为现身说法，阐明主观努力的重要性，使马生从作者的经历中懂得学习必须“勤且艰”的道理。列举太学的生活、师资、设备等方面的情况，是为了说明客观条件的优越有利于主观能动性的发挥，让马生认识到应该珍惜已有的条件，像作者那样专心求学，做到业精德成。这样将与学习有关的道理，通过具体事例与实际情况的叙述，从不同角度加以说明，使马生和读者都能从作者娓娓动听的叙述中受到启发，悟出怎样为学的道理。
二、概叙与细叙相结合。本文以记叙为主，记叙有概叙与细叙之分。作者通过概叙，对自己幼年以至成年刻苦学习的过程与全貌，做了粗线条的叙述；通过细叙，对典型材料、具体环境加以生动、细致的展开。两者结合，使叙述有点有面，既能使读者对作者艰苦学习的情况有整体的认识，又能对其中重点“细节”获得深刻的印象。如细叙“天大寒，砚冰坚，手指不能屈伸，弗之怠”这一“细节”，将作者长期“手自笔录，计日以还”的辛勤具体地反映出来。又如“负箧曳屣，行深山巨谷中，穷冬烈风，大雪深数尺，足肤皲裂而不知。至舍，四支僵劲不能动，……久而乃和”这段细叙，将“尝趋百里外”从师途中的环境与艰辛反映得很为生动。再如“先达……未尝稍降辞色。余立侍左右，援疑质理，俯身倾耳以听；或遇其叱咄，色愈恭，礼愈至，不敢出一言以复；俟其欣悦，则又请焉”这段细叙，将“从乡之先达执经叩问”时的尊师的神态和顽强学习的心理，真实地表现出来。此外，如同写衣着，对同舍生细加叙述，与肖像描写几乎没有区别，对自己则只用“缊袍敝衣”四字加以概叙，而对自己当时的心理状态却又用了细叙的手法。两者相辅相成，既表现了作者家境的贫寒，生活的俭朴，也反映出他的志趣的高尚。
三、对比方法的运用，是本文写法最明显的特点。主要将太学诸生学习条件的优越与作者自己过去学习时的艰苦进行对比；将自己从师时生活的俭朴与同舍生的奢华进行对比。注评时已分别说明，这里不重述。
