元狩四年（前119年）春，汉武帝命卫青与时年二十一岁的霍去病各率骑兵五万，“步兵转折踵军数十万”，分别出定襄和代郡，深入漠北，寻歼匈奴主力。

霍去病率五万骑兵，以将军李敢等为大校，出代郡、右北平郡，北进两千多里，越过离侯山，渡过弓闾河，与匈奴左贤王部接战，大破匈奴军，俘虏匈奴屯头王、韩王等三人及将军、相国、当户、都尉等八十三人。

霍去病乘胜追杀至狼居胥山（今蒙古国境内），在狼居胥山举行了祭天封礼，在姑衍山（今蒙古国肯特山以北）举行了祭地禅礼，兵锋一直逼至北海（一称瀚海，今俄罗斯贝加尔湖）。此役，汉军斩首七万四百四十三级，自身也损伤十分之三（此取《史记》，汉书记为十分之二）。经此一战，匈奴被汉军在漠南荡涤，匈奴单于逃到漠北，“匈奴远遁，而漠南无王庭”，匈奴势力大为衰退。

此战后，匈奴失去对东北地区的控制。霍去病将东北的乌桓徙居于上谷、渔阳、右北平、辽西、辽东五郡塞外，为汉侦察匈奴动静。汉朝要求其部落大人每年朝见，并置护乌桓校尉，使乌桓不得与匈奴交通。

汉军回师后，武帝为表彰霍去病的功劳，再增封其食邑五千八百户。霍去病属下的将卒也获得了大量的赏赐，随他出征的右北平太守路博德、北地都尉邢山、复陆支及伊即靬（伊即轩）都分别获封侯爵，李敢业一举获封关内侯。同时，武帝设置大司马位，以大将军卫青、骠骑将军霍去病为大司马（霍去病称大司马骠骑将军）。同时定下法令，使骠骑将军的官阶和俸禄同大将军相等。从此以后卫青的权势逐渐减退，而霍去病日趋显贵。卫青的老友和门客多半离开了他，而去奉事霍去病，这些人常常因此而得到官爵。