Vệ Thanh xuất thân nghèo hèn. Cha ông Là người hầu hạ trong nhà Bình Dương Hầu Tào Thọ. Khi lớn lên, Vệ Thanh đi chăn ngựa cho Bình Dương Hầu. Sau đó, chị của Vệ Thanh là Vệ Tử Phu được tuyển làm cung phi, được Hán Vũ Đế sủng ái, nên Vệ Thanh dần dần được hiển quý.
Vào năm Lý Quảng bị quân Hung Nô bắt và trốn được về, trong bốn đội quân Hán thì ba đội bị thất bại, chỉ có Vệ Thanh đánh thắng được phong làm Quan Nội Hầu. Sau đó lại liên tiếp đánh thắng Hung Nô, lập nhiều chiến công.
Lịch sử Trung Quốc năm 124 trước Công nguyên, Vệ Thanh dẫn ba vạn kỵ binh, đuổi quân Hung Nô ra ngoài Trường Thành. Hữu Hiển Vương của Hung Nô tưởng rằng quân Hán còn rất xa, không phòng bị gì, cứ uống rượu say tuý luý trong lều.
Vệ Thanh lợi dụng đêm tối, hành quân gấp sáu bảy trăm dặm, bao vây chặt cánh quân của Hữu Hiền Vương. Quân Hán từ bốn mặt đánh vào, làm cho quân Hung Nô hoảng loạn tan vỡ. Hữu Hiển Vương hốt hoảng, chỉ kịp dẫn mấy trăm thủ hạ thân tín chạy trốn.
Trận đó, quân Vệ Thanh bắt được một vạn năm ngàn tù binh, trong đó có hơn mười tiểu vương Hung Nô.
Tả, Hữu Hiền Vương của Hung Nô chỉ thấp hơn Thiền Vu một bậc. Lần chiến tranh này, toàn quân của Hữu Hiền Vương bị tiêu diệt là một tổn thất lớn đối với thiền vu Hung Nô.
Hán Vũ Đế được tin, liền phái sứ giả đem ấn đại tướng quân đến phong cho Vệ Thanh tại quân doanh và phong cho cả ba con trai còn vị thành niên của ông tước hầu.
Vệ Thanh từ chối nói: “Thần mấy lần đánh thắng là do công lao của tướng sĩ. Ba đứa con thần còn là trẻ nít, chưa làm được việc gì, Nếu hoàng thượng phong cho chúng tước hầu thì làm sao khuyến khích được tướng sĩ lập công”.
Hán Vũ Đế được Vệ Thanh gợi ý, liền phong cho bảy tướng dưới quyền Vệ Thanh tước hầu.
Năm sau, Hung Nô lại tiến công, Hán Vũ Đế phái Vệ Thanh cùng sáu tướng khác đem quân đi đánh.
Vệ Thanh có người cháu gọi bằng cậu, tên là Hoắc Khứ Bệnh, năm đó mới 18 tuổi, vô cùng dũng cảm, lại giỏi cưỡi ngựa, bắn cung, lần này cũng theo Vệ Thanh đi đánh Hung Nô.
Quân Hung Nô nghe tin đại quân Hán tiến công liền rút chạy. Vệ Thanh chia quân làm bốn đường truy đuổi, quyết đánh bại chủ lực Hung Nô. Riêng Vệ Thanh thì trấn giữ đại doanh để chờ tin tức.
Đến tối, bốn cánh quân đều trở về, không tìm thấy chủ lực Hung Nô, có cánh quân giết được trăm “địch, có cánh quân chỉ về tay không.
Hoắc Khứ Bệnh lúc đó chỉ là một hiệu úy trẻ tuổi, lần đầu đi đánh trận. Ông dẫn đầu tám trăm tráng sĩ, tổ chức thành một đội quân nhỏ, đi lùng tìm quân Hung Nô. Họ tiến mãi lên phía Bắc, dọc đường không thấy bóng dáng lính Hung Nô nào, mãi tới mấy trăm dặm mới thấy xa xa có trại quân Hung Nô.
Họ lặng lẽ đi vòng ra phía sau, nhằm vào chiếc lều lớn nhất, xung phong mãnh liệt. Hoắc Khứ Bệnh nhanh nhẹn, chém chết ngay một quí tộc Hung Nô. thủ hạ của ông cũng bắt sống được hai quí tộc. Quân Hung Nô mất người đứng đầu, tan chạy ra các ngả. Tám trăm tráng sĩ đuổi theo giết được hơn hai ngàn quân Hung Nô rồi mới trở về đại doanh.
Vệ Thanh đang nóng lòng chờ đợi thì thấy Hoắc Khứ Bệnh xách một chiếc đầu tiến vào, các binh sĩ phía sau còn giải theo hai tù binh. Qua thẩm vấn, được biết trong hai tù binh, một là chú của Thiền vu, một là tướng quốc, còn kẻ bị Hoắc Khứ Bệnh giết là một tước vương vào hàng ông của Thiền vu.
Lần đầu tham gia chiến đấu mà chàng thanh niên 18 tuổi Hoắc Khứ Bệnh đã lập công lớn. Sau khi chiến tranh kết thúc, ông được phong là Quán Quân Hầu.,
Năm 121 trước Công nguyên, Hán Vũ Đế lại phong Hoắc Khứ Bệnh làm phiêu kỵ tướng quân, dẫn một vạn kỵ binh, xuất phát từ Lũng Tây, tiến công Hung Nô.
Binh mã của Hoắc Khứ Bệnh giao chiến với quân Hung Nô trong sáu ngày liền. Quân Hung Nô cầm cự không nổi, thua chạy về phía sau. Hoắc Khứ Bệnh dẫn quân vượt qua núi Yên Chi (nay ở phía tây huyện Vinh Xương, Cam Túc), truy kích hơn một ngàn dặm. Ở đó còn có những thuộc quốc của Hung Nô như Hồn Nha (nay ờ trong tỉnh Cam Túc), Hưu đồ (nay ở bắc huyện Vũ Uy, Cam Túc). Quân Hán bắt sống được vương tử và tướng quốc của Hồn Nha vương, chiếm được người vàng (thực chất là tượng đồng) dùng để tế trời của vua Hưu Đồ.
Để khen thưởng cho Hoắc Khứ Bệnh, Hán Vũ Đế muốn xây cho ông một dinh thự. Hoắc Khứ Bệnh khảng khái từ chối, nói: “Quân Hung Nô còn chưa bị tiêu diệt, lo tới nhà cửa làm gì!”. (Nguyên văn: “Hung Nô vị diệt, hà dĩ gia vi!”).
Để diệt trừ tận gốc sự xâm phạm của Hung Nô, năm 119 trước Công nguyên, sau khi chuẩn bị đầy đủ. Hán Vũ Đế lại phái Vệ Thanh, Hoắc Khứ Bệnh, mỗi người mang năm vạn quân tinh nhuệ, chia hai đường hợp kích Hung Nô.
Vệ Thanh từ quận Định Tương vượt qua biên giới, đi qua sa mạc Gô-Bi, hành quân hơn một ngàn dặm. Thiền vu Y Chat Nha thân dẫn tinh binh đối địch. Hai bên triển khai kịch chiến. Lúc này vừa tối, trên sa mạc bỗng nổi trận cuồng phong, trời đất mịt mù, đá bay cát chạy. Vệ Thanh chống chọi với gió cát, ra lệnh cho kỵ binh chia làm hai cánh đánh ép lại. Thiền vu Y Chat Nha không chống cự nổi, dẫn mấy trăm kỵ binh phá vây chạy lên phía Bắc. Vệ Thanh đuổi tới thành Triệu Tín, núi Điền Nhan (nay ở phía nam cao nguyên Mông Cổ) thì thành đã bỏ trống, còn lại rất nhiều lương thảo.
Vệ Thanh cho người ngựa ăn uống no nê, rồi đốt hết số còn lại, sau đó đem quân về.
Ở cánh quân kia, Hoắc Khứ Bệnh cũng vượt qua sa mạc, tiến lên hơn hai ngàn dặm, đánh tan quân mã của Tả Hiền vương, đuổi tới núi Lang Cư Tư (nay thuộc khu tự trị Nội Mông, có thuyết nói là nay thuộc nước Cộng hòa nhân dân Mông cổ) và dựng một bia đá tại đây để làm kỷ niệm.
Đây là trận truy kích có quy mô lớn nhất, tiến quân sâu nhất của quân Hán. Sau đó, Hung Nô lui tới miền Bắc sa mạc, miền Nam sa mạc không còn triều đình Hung Nô nữa.