薛万均本是敦煌人,后来移居京兆府咸阳县。父亲薛世雄,大业末年任涿郡太守,万均与其弟万彻因此客居幽州,以其才力勇武为罗艺所厚善。与罗艺一同归朝,高祖授予万均爵为上柱国、封为永安郡公。

窦建德曾率众十万人入寇范阳,罗艺出兵迎击。万均说:“众寡悬殊,不能硬拼,应当用计谋取胜。”随即教罗艺用羸弱兵卒阻水布阵以诱敌,万均自率精骑一百名藏匿城左。建德军队渡河时,趁其半渡出击,大败其众。第二年,建德率二十万骑兵前来进攻,贼兵已经攀上城墙,万均与万彻率领敢死勇士百人钻出地道,掩袭其背,贼众惊溃而去。秦王平定刘黑闼时,任命万均为右二护军,北门长上。

柴绍出讨梁师都时,命万均为副帅,万彻也随同出征。离朔方数十里地时,突厥兵马大至,王师退却,万均兄弟纵横击杀,斩其骁将,虏阵大乱,乘势大破其众,俘获及杀伤甚多。突厥败走后,王师进军围困师都。诸将都认为城险难以攻下,万均说:“城中有死气,鼓音不能成声,这是破亡的征兆。”不久贼众果然斩师都之首归降。后任左屯卫将军。

不久担任沃沮道行军副总管,随同李靖征讨吐谷浑。大军抵达青海,万均、万彻各率百名骑兵行走在前,结果与虏寇相遇,万均单枪匹马冲锋陷阵,无人敢来阻挡。还阵后对诸将说“:贼寇容易对付。”再次驰马进击,斩首数千级,勇气为三军之冠。追击虏寇抵达积石山时,大风吹折军旗,万均说:“虏寇就要来了!”

便整兵布阵,做好准备。不久虏寇果到,万均直往向前斩其将领,其众便溃败而逃,追击至图伦碛才还军,而与李靖会师于青海。下达玺书慰劳,并迁任本卫大将军。后来又作为侯君集的副帅进击高昌,麴智盛坚守其城不下,万均指挥其军进击,智盛恐惧,才出城投降。因功进封为潞国公。

其后有人控诉万均与高昌女子乱伦,太宗想追究其事。魏征说:“君主应以礼节对待大臣,如所诉合于实情,仍属轻罪,如不符实情,那么所失就大了。”下诏不予追究。后来太宗临幸芙蓉园,万均坐清宫不谨慎之罪下狱,因忧愤而死。

太宗感到惊慌伤悼,为他举哀,下诏陪葬于昭陵。后来曾经赏赐群臣以貘皮,到万彻时误呼为万均,顿时伤感地说:“万均是我的勋旧之臣,忽然口呼其名,难道是死者有知,期望赏赐此物吗?”因而命人取貘皮焚烧,在场的人都很伤感叹息。