漢靈帝光和末年（184年），黃巾之亂爆發(fā)。這年四月全面負責(zé)圍剿潁川黃巾的皇甫嵩、朱儁部隊，出師不利，連吃敗仗，被圍在長社（今河南長葛東北）。就在這時，曹操被封為騎都尉，奉命支援皇甫嵩、朱儁。曹操帶兵和皇甫嵩、朱儁協(xié)同作戰(zhàn)，內(nèi)外夾擊，大敗潁川黃巾，這是曹操帶兵取得的首次勝利。此后，曹操又多次參與了鎮(zhèn)壓黃巾軍殘部的戰(zhàn)斗，最終因功得賞，被提拔為濟南國的國相。濟南國有十多個縣，各縣的長吏，大多阿諛趨附于朝廷貴戚，貪贓枉法，聲名狼藉。曹操于是上奏朝廷，免去其中八個縣的長吏；禁絕已往風(fēng)行多年的立祠奉祀，杜絕假借題目進行奢侈淫樂；將祭祀房屋全部拆毀，淫祀的風(fēng)氣，從此被杜絕了。貪官污吏，都紛紛逃竄到附近的郡縣。濟南國界內(nèi)，歪風(fēng)邪氣一時肅清。過了很久，曹操被征還為東郡太守。曹操不肯上任，稱病辭職，歸還鄉(xiāng)里。

靈帝中平五年（188年）六月，冀州刺史王芬、南陽人許攸、沛國人周旌等人，聯(lián)合豪杰士人，密謀廢掉漢靈帝，立合肥侯為帝。他們把這次密謀告訴了曹操，想拉曹操入伙，但曹操認為那樣不妥當(dāng)，便拒絕參與。后來王芬等人因事情敗露被迫自殺。

金城郡（今甘肅西部，青海東部）的邊章、韓遂殺了刺史郡守而發(fā)動叛亂，擁兵眾十余萬人，使天下人為之震驚。朝廷于是征召曹操為典軍校尉意圖討逆。這時漢靈帝駕崩，太子劉辯即位，是為少帝。何太后臨朝聽政。大將軍何進和袁紹二人密謀除去宦官集團，太后認

為這樣做不夠周全，沒有接受何進的計謀。何進于是召董卓進京，打算用董卓的力量脅迫太后。但是董卓還沒有到達洛陽，何進就被宦官謀害了。董卓到了洛陽后，勢力一家獨大，便廢了少帝，改立他為弘農(nóng)王，而另立了陳留王劉協(xié)為皇帝，即漢獻帝。董卓挾持漢獻帝胡作非為，京城洛陽一片大亂。董卓上表舉薦曹操為驍騎校尉，想要曹操為他出謀劃策。曹操見情勢不對，便改名換姓，偷偷潛出了京師，想先回自己的老家再做打算。董卓發(fā)現(xiàn)曹操逃走了，立即發(fā)布行文追捕曹操。曹操出了關(guān)，經(jīng)過中牟縣，被那里的亭長懷疑。亭長逮捕了曹操，帶他去見

縣令。縣中有人認出他就是曹操，但也假作不認識，向縣令說情，縣令就把他給放了。董卓不久后殺了何太后和弘農(nóng)王。曹操到了陳留，散盡了自己積聚的財產(chǎn)，積極招募義兵，謀劃出兵除去董卓。漢靈帝中平六年（189年）冬十二月，曹操在己吾（今河南寧陵縣）起兵，討伐董卓。

漢獻帝初平元年（190年）正月，后將軍袁術(shù)、冀州牧韓馥、豫州刺史孔伷、兗州刺史劉岱、河內(nèi)太守王匡、勃海太守袁紹、陳留太守張邈、東郡太守橋瑁、山陽太守袁遺、濟北相鮑信，共同起兵討伐董卓。每個人各有兵眾數(shù)萬人，他們共同推舉勃海太守袁紹為盟主，曹操也被推舉為奮武將軍。

二月，董卓得知眾太守起兵討伐他，便脅迫漢獻帝，遷都長安。董卓自己留駐洛陽，一把火燒毀了洛陽宮室。（此時，袁紹駐兵河內(nèi)；張邈、劉岱、橋瑁、袁遺駐兵酸棗；袁術(shù)駐兵南陽；孔伷駐兵潁川；韓馥駐兵在鄴城。董卓的兵力強大，袁紹等都不敢先領(lǐng)兵進攻。）曹操說：“我們興義兵是為了誅除暴亂，兵眾都已經(jīng)聚集在一起了，各位還有什么可以遲疑的？以前如果董卓知道山東方面起兵，他可以倚恃王室以自重，據(jù)守二周的險要地方，向東可以平定天下。即使他是以無道而主政，也還是很難對付的。現(xiàn)在情況就不同了，他焚燒了洛陽的宮室，劫持了天子，遷城長安，四海之內(nèi)的人民都為之震驚，不知如何是好，沒有可以依附的力量。這正是上天滅亡董卓的時候，只需要一次戰(zhàn)斗就可以平定天下，這樣的機會不能失去！”于是曹操便向西進兵，想要據(jù)守成皋。張邈派將衛(wèi)茲，分兵隨曹操西進。曹兵到達滎陽汴水，遭遇董卓的部將徐榮，交戰(zhàn)不利。曹操的兵士傷亡慘重，曹操本人也被亂箭射中，他所騎的馬也受了傷。曹操的從弟曹洪，把自己所騎的馬給曹操騎，曹操才得以乘著夜色逃脫。徐榮見曹操帶領(lǐng)的兵士雖少，但能盡力作戰(zhàn)，而且酸棗一帶有大量駐軍不易攻下，所以就帶兵回去了。

曹操到達酸棗，看見盟軍有十幾萬將士，卻每天飲酒作樂，并不希圖進取，曹操對他們很不滿意，替他們出謀劃策說：“各位，按照我的計劃，現(xiàn)在我們應(yīng)該由勃海太守袁紹，率領(lǐng)河內(nèi)的兵力，到達孟津；酸棗有太守張邈、刺史劉岱、太守橋瑁、太守袁遺等的軍隊，可以守住成皋，占據(jù)敖倉，拿下轘轅、太谷，完全控制住各處險要之地。由袁術(shù)將軍率領(lǐng)南陽之兵，攻下丹水、析州，進入武關(guān)（三地皆在河南省內(nèi)鄉(xiāng)縣），這樣就可以威脅三輔（指長安、馮翊、扶風(fēng)，今陜西中部地區(qū)）。但各軍都應(yīng)作高壘深壁，不要貿(mào)然出戰(zhàn)。應(yīng)該多作疑兵，表明天下的形勢，造成各地豪杰聯(lián)合圍攻董卓之勢，以順應(yīng)天下之心，誅討逆賊。這樣行動，可以立刻奠定勝局。目前各軍已經(jīng)聚集在一起了，但是態(tài)度猶豫而不思前進，天下人對此很是失望！我私下里實在為各位感到羞恥！”曹操的分析很有道理，可以看出曹操對當(dāng)時局勢有很強的把握。可雖然曹操說了很多，而且分析也不無道理，但是張邈等人就是不肯采用曹操的計劃。

曹操明顯感到自己的兵力薄弱，于是和夏侯惇等到揚州去募兵。揚州刺史陳溫、丹陽太守周昕撥出了兵眾四千余人給曹操。但是大多數(shù)兵士不想遠離家鄉(xiāng)北上討逆，因而行至龍亢縣時，這些士兵乘著夜色突然發(fā)動兵變，放火焚燒了曹操的營帳。四千多人的部隊最后只剩下了五百多人。曹操繼續(xù)北上，到了铚、建平二地，又先后招募到兵士一千余人。曹操沒有再回酸棗，而是帶著三千人左右的部隊，渡過黃河，投奔駐扎在懷縣的袁紹，打算鼓動袁紹出兵討伐董卓。但是袁紹不但無意與董卓對陣交鋒，反而在初平二年（191年）和韓馥二人密謀立幽州牧劉虞為帝，曹操拒絕參與他們的計劃。袁紹曾經(jīng)得到一顆玉印，這顆玉印便是傳說中的傳國玉璽，上面有李斯刻的“受命于天，既壽永昌”八個字。他以為這是一種吉兆。有一次在曹操座中，袁紹舉起玉印比向臀肘，表示他得到玉璽的幸運。曹操見袁紹如此淺薄，便嘲笑他愚昧而且器量小，十分厭惡袁紹，內(nèi)心不服。

獻帝初平二年（191年）春，袁紹、韓馥二人立幽州牧劉虞為帝。但劉虞認為自己的德行和能力不足，始終不敢接受帝號。

夏四月，董卓由洛陽回到長安。

秋七月，袁紹脅迫韓馥，取得冀州的地盤。