公元前129年，匈奴再一次挥军血洗上谷。整个上谷尸横遍野，凄风嘨刹。自汉高祖以来，匈奴对汉朝的滋扰不下数百次。除了汉高祖在公元前2000年率领三十万大军御驾亲征，在白登山被匈奴的四十万大军围困，险些被俘。后经陈平献计以黄金与美人图贿赂大单于的阏氏。才得以脱险。之后汉朝一直都是采取以公主和亲的屈辱政策来维持汉匈边界的短暂和平。
　　这令汉武帝自小就立下了要消灭匈奴的宏愿。自文帝起，经过一系列的农耕商贸与政制的改革后，到武帝时期，经济实力有了很大的增长。汉武帝觉得是到了回击匈奴的时候了。于是下令兵分四路对匈奴实行各个击破。一路是公孙敖领兵从代郡出发。一路是李广领兵从雁门出发。一路是公孙贺领兵从云中出发。最后一路就是卫青从上谷出兵。四路人马各领兵一万。
　　战后的结果是：公孙敖的一路损失七千人马大败而回。李广因为当时在匈奴人里名声显赫，而被匈奴以三万主力围歼。全军覆没。李广险些被俘。公孙贺侧摸不着敌踪。吃白果而回。只有出身骑奴的卫青，带领一万人马，纵横四百里，深入敌后的龙城，一举端了匈奴的老窝。大胜而回。汉武帝大喜。虽说四路人马，只有卫青一路凯旋而归。但对于汉匈开战以来从未胜过的形势来说，这足以令汉武帝大喜过望。他立即封了卫青为关内候。这一战，令那些朝中看不起身份低微的卫青的大臣们也对卫青刮目相看了。
　　第二年的秋天，匈奴又大举南下，先后攻破了辽西与渔阳。卫青再一次领兵出征，打了个漂亮的胜仗。再过了一年，前127年，匈奴又再挥军攻打辽西与渔阳。汉武帝这次却把注意力放到了历来兵家必争的要地，黄河的河套地区。这里水草肥美，驻扎着匈奴的白羊王和楼烦王。汉武帝再一次派卫青领兵四万从云中出发。卫青迂回到匈奴的后方，攻下高阙，再飞兵南下，形成对两王的半个包围圈。一举拿下了匈奴盘踞多年的要塞。活捉敌兵数千人。夺获禽畜一百多万头。只可惜让白羊和楼烦两王成了漏网之鱼。汉武帝再一次加封卫青为长平侯，食邑3800户。
　　卫青的形象，在霍去病的心目中成为了英雄的楷模。他立志将来也要像舅舅那样为捍卫大汉国土而驰骋沙场。在舅舅与匈奴浴血战场的这几年，霍去病在宫中是更加勤奋地练习剑击与拳术了。