常言道，伴君如伴虎，一不小心，即可能招致杀身之祸。卫青北伐匈奴，立下赫赫战功，他善于为人处事、明哲保身，令人无可挑剔，古人诗云“卫青不败由天幸”实在是委屈了卫青。
卫青出身卑贱，其母在平阳公主家做女仆，因丈夫姓卫，她就被称为卫媪。卫青是卫媪与平阳公主家小吏郑季私通所生，后卫媪将卫青送至郑家，郑家竟以奴仆相待。卫青长大后，不愿再受郑家的奴役，便回到母亲身边。平阳公主看到卫青已长成了一个相貌堂堂的彪形大汉，非常喜欢，就让他做了自己的骑奴。每当公主出行，卫青即骑马相随，虽然没有一官半职，但与在郑家时的情景相比已是天壤之别。卫青聪明好学，渐渐学到了一些文化知识，懂得了一些上层阶级礼节。他怨恨郑家对他没有一点亲情，决定冒姓为卫，完全与郑家断绝关系。
公元前139年春，卫青的姐姐卫子夫被汉武帝选入宫中，卫青也被召到建章宫当差，这成为卫青一生中的转折点。
卫子夫入宫不久，就有了身孕，引起了陈皇后的嫉妒。陈皇后就是汉武帝姑姑的女儿，当年曾让他许下“金屋藏娇”誓言的陈阿娇，与汉武帝成亲后，被立为皇后，但一直未能给汉武帝生一个儿子。她担心卫子夫一旦生下的是个男孩，那就会被立为太子，而卫子夫也就会因此青云直上，成为皇后，这对她的地位无疑是一个很大的威胁。但是，当时卫子夫正得汉武帝的宠幸，陈皇后对她不敢加害，就找母亲大长公主诉屈。大长公主是汉武帝的姑姑，为了给女儿出气，就嫁祸于卫青。她找了一个借口，把卫青抓了起来，并准备处死。卫青当骑奴时结识的好友公孙敖听到了消息，马上召集了几名壮士，赶往抢救，把卫青救了回来。公孙敖还派人给汉武帝送信，告知此事。汉武帝得知后，大为愤怒，索性召见卫青，任命他为建章宫监、侍中。不久，汉武帝封卫子夫为夫人，提升卫青为太中大夫。
公元前129年，匈奴又一次兴兵南下，前锋直指上谷（今河北省怀来县）。汉武帝任命卫青为车骑将军，迎击匈奴，从此，卫青开始了他的戎马生涯。
卫青首次出征，即直捣龙城（匈奴祭扫天地祖先的地方），斩首700人，取得胜利。另外三路，两路失败，一路无功而还。汉武帝由此愈加器重卫青，封他为关内侯。
卫氏一门显赫后，京城中有歌谣说：“生男无喜，生女无怨，独不见卫子夫霸天下”。其实不然，在两汉时期，左右朝政的外戚大多是靠裙带关系居高位的，而卫青、霍去病却是出生入死，浴血奋战，为国家做出了重大贡献。正因为如此，即使后来卫皇后失宠，二人在朝廷的地位也丝毫未受影响。
第二次出征，是在卫青之姐受封为皇后之后，卫青再次以车骑将军的身份，率领３万骑兵，从雁门关出击，斩首数千人。第３次在翌年元朔二年出击云中，压制了河套地方，斩首数千，捕获了牛羊百余万头，击退匈奴的白羊王，而楼烦王也败走，汉朝在河套设立朔方、云中等郡，卫青被封为长平侯（3800户）。公元前124年，卫青率领6个将军和10余万骑兵，从河套深入塞外攻击。第４次出征，目标是匈奴右贤王。公元前123年，卫青为大将军，同样率领6个将军，10余万骑的军队，两次出击匈奴，均大胜而归。
家奴出身的卫青成了贵极人臣的大将军，朝中官员无不巴结奉承。这时，平阳公主寡居在家，要在列侯中选择丈夫，许多人都说大将军卫青合适。平阳公主笑着说：“他是我从前的下人，过去的随从，怎么能做我的丈夫呢？”左右说：“大将军已今非昔比了，他现在是大将军。姐姐是皇后，三个儿子也都封了，富贵震天下，哪还有比他更配得上您的呢？”汉武帝知道后，失笑道：“当初我娶了他的姐姐，现在他又娶我的姐姐，这倒是很有意思。”于是当即允婚，时迁事移，当年的仆人做了主人的丈夫。这样一来，卫青与汉武帝亲上加亲，更受宠信。但卫青为人谦让仁和，敬重贤才，从不以势压人。
霍去病成长起来以后，汉武帝对霍去病恩宠日盛，他的声望超过了舅舅卫青，过去奔走于大将军门下的许多故旧，都转到了霍去病门下。卫青门前顿显冷落，可他不以为然，认为这也是人之常情，心甘情愿地过着恬淡平静的生活。
公元前106年，大司马大将军卫青去世，汉武帝命人在自己的茂陵东边特地为卫青修建了一座像庐山（匈奴境内的一座山）的坟墓，以象征卫青一生的赫赫战功。
