皇甫嵩字義真，安定朝那人，度遼將軍規之兄子也。父節，雁門太守。嵩少有文武志介，好《詩》、《書》，習弓馬。初舉孝廉、茂才。太尉陳蕃、大將軍竇武連辟，并不到。靈帝公車征為議郎，遷北地太守。
初，鉅鹿張角自稱“大賢良師”，奉事黃、老道，畜養弟子，跪拜首過，符水咒說以療病，病者頗愈，百姓信向之。角因遣弟子八人使于四方，以善道教化天下，轉相誑惑。十余年間，眾徒數十萬，連結郡國，自青、徐、幽、冀、荊、楊、兗、豫八州之人，莫不畢應。遂置三十六萬。方猶將軍號也。大方萬余人，小方六七千，各立渠帥。訛言“蒼天已死，黃天當立，歲在甲子，天下大吉”。以白土書京城寺門及州郡官府，皆作“甲子”字。中平元年，大方馬元義等先收荊、楊數萬人，期會發于鄴。元義素往來京師，以中常侍封谞、徐奉等為內應，約以三月五日內外俱起。未及作亂，而張角弟子濟南唐周上書告之，于是車裂元義于洛陽。靈帝以周章下三公、司隸，使鉤盾令周斌將三府掾屬，案驗宮省直衛及百姓有事角道者，誅殺千余人，推考冀州，逐捕角等。角等知事已露，晨夜馳敕諸方，一時俱起。皆著黃巾為標幟，時人謂之“黃巾”，亦名“蛾賊”。殺人以祠天。角稱“天公將軍”，角弟寶稱“地公將軍”，寶弟梁稱“人公將軍”。所在燔燒官府，劫略聚邑，州郡失據，長吏多逃亡。旬日之間，天下響應，京師震動。
詔敕州郡修理攻守，簡練器械，自函谷、大谷、廣城、伊闕、辳轅、旋門、孟津、小平津諸關，并置都尉。召群臣會議。嵩以為宜解黨禁，益出中藏錢、西園廄馬，以班軍士。帝從之。于是發天下精兵，博選將帥，以嵩為左中郎將，持節，與右中郎將朱俊，共發五校、三河騎士及募精勇，合四萬余人，嵩、俊各統一軍，共討潁川黃巾。
俊前與賊波才戰，戰敗，嵩因進保長社。波才引大眾圍城，嵩兵少，軍中皆恐，乃召軍吏謂曰：“兵有奇變，不在眾寡。今賊依草結營，易為風火。若因夜縱燒，必大驚亂。吾出兵擊之，四面俱合，田單之功可成也。”其夕遂大風，嵩乃約敕軍士皆束苣乘城，使銳士間出圍外，縱火大呼，城上舉燎應之，嵩因鼓而奔其陣，賊驚亂奔走。會帝遣騎都尉曹操將兵適至，嵩、操與朱俊合兵更戰，大破之，斬首數萬級。封嵩都鄉侯。嵩、俊乘勝進討汝南、陳國黃巾，追波才于陽翟，擊彭脫于西華，并破之。余賊降散，三郡悉平。
又進擊東郡黃巾卜己于倉亭，生擒卜己，斬首七千余級。時，北中郎將盧植及東中郎將董卓討張角，并無功而還，乃詔嵩進兵討之。嵩與角弟梁戰于廣宗。梁眾精勇，嵩不能克。明日，乃閉營休士，以觀其變。知賊意稍懈，乃潛夜勒兵，雞鳴馳赴其陣，戰至晡時，大破之，斬梁，獲首三萬級，赴河死者五萬許人，焚燒車重三萬余兩，悉虜其婦子，系獲甚眾。角先已病死，乃剖棺戮尸，傳首京師。
嵩復與鉅鹿太守馮翊郭典攻角弟寶于下曲陽，又斬之。首獲十余萬人，筑京觀于城南。即拜嵩為左車騎將軍，領冀州牧，封槐里侯，食槐里、美陽兩縣，合八千戶。
以黃巾既平，故改年為中平。嵩奏請冀州一年田租，以贍饑民，帝從之。百姓歌曰：“天下大亂兮市為墟，母不保子兮妻失夫，賴得皇甫兮復安居。”嵩溫恤士卒，甚得眾情，每軍行頓止，須營幔修立，然后就舍帳。軍士皆食，己乃嘗飯。吏有因事受賂者，嵩更以錢物賜之，吏懷慚，或至自殺。
嵩既破黃巾，威震天下，而朝政日亂，海內虛困。故信都令漢陽閻忠干說嵩曰：“難得而易失者，時也；時至不旋踵者，幾也。故圣人順時而動，智者因幾以發。今將軍曹難得之運，蹈易駭之機，而踐運不撫，臨機不發，將何以保大名乎？”嵩曰：“何謂也？”忠曰：“天道無親，百姓與能。今將軍受鉞于暮春，收功于末冬。兵動若神，謀不再計，摧強易于折枯，消堅甚于湯雪，旬月之間，神兵電埽，封尸刻石，南向以報，威德震本朝，風聲馳海外，雖湯、武之舉，未有高將軍者也。今身建不賞之功，體兼高人之德，而北面庸主，何以求安乎？”嵩曰：“夙夜在公，心不忘忠，何故不安？”忠曰：
不然。昔韓信不忍一餐之遇，而棄三分之業，利劍已揣其喉，方發悔毒之嘆者，機失而謀乖地。今主上勢弱于劉、項，將軍權重于淮陰，指捴足以振風云，叱咤可以興雷電。赫然奮發，因危抵頹，崇恩以綏先附，振武以臨后服，征冀方之士，動七州之眾，羽檄先馳于前，大軍響振于后，蹈流漳河，飲馬孟津，誅閹官之罪，除群兇之積，雖僮兒可使奮拳以致力，女子可使褰裳以用命，況厲熊羆之卒，因迅風之勢哉！功業已就，天下已順，然后請呼上帝，示以天命，混齊六合，南面稱制，移寶器于將興，推亡漢于已墜，實神機之至會，風發之良時也。夫既朽不雕，衰世難佐。若欲輔難佐之朝，雕朽敗之木，是猶逆坂走丸，迎風縱棹，豈云易哉？且今豎宦群居，同惡如市，上命不行，權歸近習，昏主之下，難以久居，不賞之功，讒人側目，如不早圖，后悔無及。
嵩懼曰：“非常之謀，不施于有常之勢。創圖大功，豈庸才所致。黃巾細孽，敵非奏、項，新結易散，難以濟業。且人未忘主，天不祐逆。若虛造不冀之功，以速朝夕之禍，孰與委忠本朝，守其臣節。雖云多讒，不過放廢，猶有令名，死且不朽。反常之論，所不敢聞。”忠知計不用，因亡去。
會邊章、韓遂作亂隴右，明年春，詔嵩回鎮長安，以衛園陵。章等遂復入寇三輔，使嵩因討之。
初，嵩討張角，路由鄴，見中常侍趙忠舍宅逾制，乃奏沒入之。又中常侍張讓私求錢五千萬，嵩不與，二人由此為憾，奏嵩連戰無功，所費者多。其秋征還，收左車騎將軍印綬，削戶六千，更封都鄉侯，二千戶。
五年，涼州賊王國圍陳倉，復拜嵩為左將軍，督前將軍董卓，各率二萬人拒之。卓欲速進赴陳倉，嵩不聽。卓曰：“智者不后時，勇者不留決。速救則城全，不救則城滅，全、滅之勢，在于此也。”嵩曰：“不然，百戰百勝，不如不戰而屈人之兵。是以先為不可勝，以待敵之可勝。不可勝在我，可勝在彼。彼守不足，我攻有余。有余者動于九天之上，不足者陷于九地之下。今陳倉雖小，城守固備，非九地之陷也。王國雖強，而攻我之所不救，非九天之勢也。夫勢非九天，攻者受害；陷非九地，守者不拔。國今已陷受害之地，而陳倉保不拔之城，我可不煩兵動眾，而取全勝之功，將何救焉！”遂不聽。王國圍陳倉，自冬迄春，八十余日，城堅守固，竟不能拔。賊眾疲敝，果自解去。嵩進兵擊之。卓曰：“不可。兵法，窮寇勿追，歸眾勿迫。今我追國，是迫歸眾，追窮寇也。困獸猶斗，蜂蠆有毒，況大眾乎！”嵩曰：“不然。前吾不擊，避其銳民。今而擊之，待其衰也。所擊疲師，非歸眾也。國眾且走，莫有斗志。以整擊亂，非窮寇也。”遂獨進擊之，使卓為后拒。連戰大破之，斬首萬余級，國走而死。卓大慚恨，由是忌嵩。
明年，卓拜為并州牧，詔使以兵委嵩，卓不從。嵩從子酈時在軍中，說嵩曰：“本朝失政，天下倒懸，能安危定傾者，唯大人與董卓耳。今怨隙已結，勢不俱存。卓被詔委兵，而上書自請，此逆命也。又以京師昏亂，躊躇不進，此懷奸也。且其兇戾無親，將士不附。大人今為元帥，杖國威以討之，上顯忠義，下除兇害，此桓、文之事也。”嵩曰：“專命雖罪，專誅亦有責也。不如顯奏其事，使朝廷裁之。”于是上書以聞。帝讓卓，卓又增怨于嵩。及后秉政，初平元年，乃征嵩為城門校尉，因欲殺之。嵩將行，長史梁衍說曰：“漢室微弱，閹豎亂朝，董卓雖誅之，而不能盡忠于國，遂復寇掠京邑，廢立從意。今征將軍，大則危禍，小則困辱。今卓在洛陽，天子來西，以將軍之眾，精兵三萬，迎接至尊，奉令討逆，發命海內，征兵群帥，袁氏逼其東，將軍迫其西，此成禽也。”嵩不從，遂就征。有司承旨，奏嵩下吏，將遂誅之。