这首诗分为四层。前六句为第一层，写出了鸿雁的境遇及其春来冬去的候鸟特征。接下来四句为第二层，写转蓬辞根寄寓自己和征夫的身世飘零之叹息。再接着六句为第三层，写自己有感于大业未竟，任重道远而老之将至。最后四句为第四层，写龙、虎、狐的不离故地，不忘窟穴，来反比征夫们的流离辗转，有家不能归。这首诗开头连用两组比兴，最后又以比兴作结，首尾相互照应，全诗和谐统一，浑然一体。
首六句采用比兴手法。一开头，诗人略一勾勒，便写出了鸿雁的境遇及其春来冬去的候鸟特征。“塞北”、“无人乡”强调其孤寂寥落，“万里余”则突出路途之遥。鸿雁万里远征，与同类结伴而行，相濡以沫，处于寂寞凄凉的环境中；它们只能服从节令的安排，严冬则南飞而翅稻，阳春则北翔而重回，其辛劳困苦不言而喻。
“田中有转蓬”四句为第二层次，诗人没有像通常诗歌那样在比兴后立刻引入正题，而是再用一比兴手法，写蓬草随风飘荡，无所归止，也永远无法回归故土。“相当”意为与故根相遇。“鸿雁”与“转蓬”这两个艺术形象极不相同，鸿雁有信，依节侯岁岁而回；转蓬无节，随轻风飘荡不止。但是，它们本质上是一样的，都不得不转徙千万里之外。诗歌写鸿雁举翅“万里”之外，其空间距离感鲜明突出；转蓬“万岁”不能归于故土，其时间漫长感异常强烈。而两者实是互文见义，路途遥、时间长，都是诗人所特别强调的。
在完成了连续的铺垫以后，诗歌第三层切入正题，仅以寥寥六句写征夫之状，却括尽他们艰险苦难生活的内容：一为出征之遥，远赴万里，镇守四方；二为出征之苦，马不解鞍，甲不离身；三为年岁飞逝，老之将至；四为故乡之思，返还无期，徒作渴念。这几方面有紧密关系，而思乡不得归是其关键。唯其愿望不能实现，其思乡之情也就日益加深。
这一层将征夫的深愁苦恨，都在其对现实状况的叙述中宣泄出来。由于前两层中，诗人已经用比兴手法渲染了情结气氛，故这一层所表现的乡关之思显得极为真切和强烈，虽然没有一个愁、苦之类的主观色彩的词语，但本色之语，却更能收到动人心魄的效果。
“神龙藏深泉”四句为诗歌最后一层，诗人于描写正题后又将笔墨宕开，连用神龙、猛兽、狐狸等数个比喻。神龙藏于深泉，猛兽步于高冈，各有定所，各遂其愿，令有家归不得的征夫羡慕不已。“狐死归首丘”引用典故说明动物至死尚且不忘故土，远离家乡的征夫们更不能忘。“故乡安可忘”这极平直的一句话，在全诗的层层衬映，铺垫之下，也具有了震撼人心的力量。
这首诗比兴手法的反复使用，给诗歌带来了从容舒卷、开阖自如的艺术美感。诗歌写思乡情结，虽充满悲凉凄切情调，但结处以神龙、猛兽等作比，悲凉中不会显得过于柔绵，反而回荡着刚健爽朗之气，这正是曹操诗的特点之一，也是建安文学慷慨悲凉之特色的体现。全诗丝毫不见华丽词句，唯见其朴实之语。
