此诗可分为两层。前四句一连使用了三个典故。“借箸”，用张良的故事。不仅用来代“筹划”一词，而且含有将元载比作张良的意思，从而表明诗人对他的推重。“衣冠就东市”，是用晁错的故事。意在说明元载的主张和遭遇与晁错颇为相似，暗示元载留心边事，有经营的策略。杜牧用晁错来作比较，表现出对晁错的推重和惋惜。“忽遗弓剑”采用黄帝乘龙升仙的传说，借指宪宗之死，并暗指宪宗喜好神仙，求长生之术。这里，诗人对宪宗被宦官所杀采取了委婉的说法，流露出对他猝然逝世的叹惋。以上全用叙述，不着议论，但诗人对河湟迟迟不能收复的感慨却溢于言表。
后四句用强烈的对照描写，表达了诗人鲜明的爱憎。河湟百姓尽管身着异族服装，“牧羊驱马”，处境十分艰难屈辱，但他们的心并没有被征服，白发丹心，永为汉臣。至于统治者，诗人不用直接描写的手法，而是抓住那些富贵闲人陶醉于原先从河湟传入京城的轻歌曼舞这样一个细节，便将他们的醉生梦死之态揭露得淋漓尽致。
这首诗的写法有两个特点。一是用典故影射时事。元载、宪宗、张良、晁错、苏武等皆已作古，而其故事各具内涵。二是转折和对比。前四句在意思上即为两组转折，突出壮志难酬的历史遗憾；后四句是将白发丹心的汉臣与沉迷歌舞的“闲人”对比，这里的“闲人”又与前四句中有安边之志的元载、宪宗形成对比。全诗寄寓了很深的讽刺含义。
这首诗的前四句叙元载、宪宗事，采用分承的方法，第三句承首句，第四句承次句。这样写不仅加强了慨叹的语气，而且显得跌宕有致。第三联正面写河湟百姓的浩然正气。“虽”和“尽”两个虚字用得极好，一抑一扬，笔势拗峭劲健。最后一联却又不直抒胸臆，而是将满腔抑郁不平之气故意以旷达幽默的语气表达出来，不仅加强了讽刺的力量，而且使全诗显得抑扬顿挫，余味无穷。这首诗，写得劲健而不枯直，阔大而显深沉，正如明代杨慎《升庵诗话》所说：“律诗至晚唐，李义山而下，惟杜牧之为最。宋人评其诗豪而艳，宕而丽，于律诗中特寓拗峭，以矫时弊。”这首《河湟》鲜明地体现出这种艺术特色。
首二句极写楚都之荒凉。想当年楚地何等博大，楚都何等繁华，楚之君臣何等威赫，而今却“丘坟满目衣冠尽，城阙连云草树荒。”衬映这古城阙的却只是这连片的坟墓、无边的荒草和野树。这一苍茫的历史感慨不少诗人描写过，李白“吴宫花草埋出径，晋代衣冠成古丘”（《登金陵风凰台》）便是典型一例：但在韩愈却有独到喟叹，也直谏获罪，几临杀头，死亡之念时刻袭上心头，拂逆不去。刚出京，便瞩远来的侄孙准备收拾自己的骨殖：“知汝远来应有意，好收吾骨瘴江边”（《左迁至蓝关示侄孙湘），商山道上，不堪惊吓与劳顿的幼女又死了。因而，首句取丘坟这一阴森凄冷的意象，是在吊古的情怀中裹掖着现实的困惑，自伤的意味。丘坟满目，是眼前近景，城阙连云，是辽阔远景，是茫茫宇宙空间，衣冠尽，却是心中情，是感喟，是浓缩的历史的情绪化表现。宋苏轼“大江东去，浪淘尽千古风流人物”（《念奴娇·乔壁怀古》）造意与此相似，只是取象不同。韩愈在即目所见的空间中看出严峻的时间性，看出人生的短暂与飘忽。历史千载，唯留丘坟。那当年的君臣士大夫都带着他们的功业和追求，走向默默无闻的寂寞，进入无边的荒凉，为这荒草野树所遮掩。这是多么令人脊冷心寒的。而诗人想到自己为了信仰抗颜犯谏，受尽磨难，走向遥遥贬途，将来又什么都不能留下，找不到未来的寄托。字里行间表达了苦涩的悲凉茫然的心绪，感受到那空荡荡没有着落的傍徨情态。城阙连云，从艺术手法看，是小景物作了大景物的坐标，使眼前景更趋逼真贴切，但从感情脉络看，目极天地，正是困惑苦闷的心绪寻求解脱与寄托的寻觅求索。
这时，仿佛万籁静寂中一声鸡啼，郁闷窒息中一股凉风，诗人惊喜地发现了一座祠庙： “犹有国人怀旧德，一间茅屋祭昭王。”他急急上前问询，方知“旧庙屋极宏盛，今惟草屋一区，然问左侧人，尚云每岁十月，民相率聚祭其前”。虽一草苴茅屋，诗人却如获得了极大的慰安而心花怒放了。楚昭王当年曾击退吴国入侵，收复失土，这一功德千百年后仍为人所缅怀，享受祭祀。而自己“欲为圣朝除弊事”之举正是为天下人民免除愚昧和苦难，显然，诗人从茅屋祀昭王中悟出了事业的真谛、生命的价值与归宿。初起的彷徨悲凉为之一变，恢复了自信，增强了九死不悔的决心。
整首诗写出荒凉的感觉而又意味深长。其中“城阙连云”是想象之境，想象昔年楚国盛世，而今却只剩下“草树荒”；末尾“一问茅屋”四字，更极尽盛衰之慨。然而屋宇虽小，后人追缅情怀并未衰绝。末句颇有风致。抚今追昔，再亲临其地凭吊，恐怕更别有一番况味了。