“吳小鬼”的叫法是有貶義的，一方面說他是后輩，一方面則罵他“鬼”，行事鬼，打仗鬼，不按規矩出牌。搞不過他，羨慕嫉妒恨。
在民國，吳佩孚是個大人物。中國人上美國《時代周刊》封面的，他是頭一個。在他最神氣的時代，據說，還有洋女人看了報道想要嫁給他。蘇俄向東發展，在中國尋求合作者，首先想到的，也是他。
但是，即使在吳佩孚最神氣的年月，有一個外號也跟他形影相隨，這就是“吳小鬼”。不僅他身屬的直系外面的人這樣叫他，直系里面的人，背后也這樣叫。從輩分上講，吳佩孚是北洋系的第二代，是曹錕的下屬，不管是否真的賞識，畢竟是曹錕提拔了他。所以，第一代的北洋人，說他是小鬼，也是可以的。張作霖算不上北洋系中人，但后來也靠上了袁世凱，多少沾點邊兒。輩分跟曹錕相若，還是親家，他最喜歡管吳佩孚叫吳小鬼，吳佩孚也只好隨他。當然，“吳小鬼”的叫法是有貶義的，一方面說他是后輩，一方面則罵他“鬼”，行事鬼，打仗鬼，不按規矩出牌。搞不過他，羨慕嫉妒恨。
吳佩孚身材矮小，身高不超過一米六，作為一個山東人，多少有點愧對祖先，跟同為直系的馮玉祥走在一起，要矮一個頭。如果是一同檢閱部隊，總免不了有人會失聲發笑。其實，人家不盡然是笑吳佩孚個子小，而是笑這種高矮搭配的參照效果。但是，吳佩孚個矮心虛，總覺得人家是在笑他。難怪他跟馮玉祥總是搞不到一起，不僅帶兵打仗上有瑜亮情結，連身高上也覺得不自在。吳小鬼的“小鬼”，跟這個個頭兒也有點關系。
吳佩孚是北洋軍里不多的秀才，馮國璋是當了兵之后才考的秀才，而吳佩孚在當兵之前就已經是了。吳佩孚有道德潔癖，做了秀才，不知天高地厚，當地大戶人家辦事唱戲，他覺得里面有點黃（這是常態），有傷風化，前去攪和，結果在家鄉立足不住，逃了出來，窮極無聊，才當了兵。那么小的個子，當兵也只能當戈什哈（護兵馬弁），還是一個文案的戈什哈。幸好這個文案愛才，當發現自己的馬弁居然是秀才之后，就托關系把他送進了北洋系統的測繪學堂。于是吳馬弁變成了吳軍官，一步步升上去，成為北洋的后起之秀。在這個過程中，偏偏那個做了那么多年軍校總監的段祺瑞，沒有看上這個小鬼，因此留下了這個小鬼后來給段祺瑞鬧事，最后打翻了皖系的伏筆。
秀才出身，同時也是軍校畢業的吳佩孚，做了師長之后，偏偏不喜歡軍校學生。所用的軍官，都是自己在教導隊里培養的。識幾個字，但沒有受過軍事教育，經過他親手調教，這樣的人他用著才放心。吳佩孚的謀士，也是李大釗的同窗好友白堅武，多次勸諫吳佩孚要用軍官學生，但一點用都沒有。
吳佩孚最欣賞的人是成吉思汗。他認為成吉思汗戰無不勝的秘訣，在于他建立了一支怯薛（蒙語，護衛的意思）禁衛軍。這支一萬人的怯薛軍，都是頂尖的能征善戰之士，平時用于護衛自己。戰斗最關鍵的時刻，就把他們派上去，披堅執銳，總能克敵制勝。自從吳佩孚做了第三師的師長，就想把這支部隊練成自己的怯薛。直皖戰爭之后，吳佩孚做大了，第三師膨脹到3萬左右，比別人的三個師人數還多。
擴軍是當年軍頭們的最愛，但吳佩孚不一樣，他對于練兵很是上心，不像其他的軍頭，只求數量。成吉思汗怎么練的兵，其實于史無考，但吳佩孚卻認為自己得了真傳。當年蒙古有小廝蒙古兵，他也跟著學，自己的部隊里有幼年兵。十四五歲就將人家招入部隊，邊學文化課，邊進行軍事訓練。在他看來，所謂練兵，就是把兵練得能吃苦耐勞，翻山越嶺，如履平地。新兵入伍，先練“拔慢步”，又叫出小操。邁一步，從抬腿到落地分成四個步驟，非常慢，也非常累。練上三天，兩腿就會腫，抬都抬不起來。但是這樣練出來之后，腿腳的力量和耐力就練出來了。當年直系的部隊，尤其是吳佩孚直接控制的部隊，訓練時間都比別的部隊長而且殘酷。凡是練出來的，吃苦耐勞是不成問題了。吳佩孚對于練兵，督促得很緊，經常自己到各個部隊查看，發現訓練不賣力的，當場糾正。甚至自己做示范，當場演示幾招。對于軍紀風紀，吳佩孚也很在意。無論何時，只要發現部下衣冠不整，馬上糾正，處罰其長官。吳佩孚也不愛財，有了錢，一定投在軍隊上，也能跟士兵同甘苦，吃飯不講究，軍隊吃什么，他就吃什么。
北洋軍在袁世凱小站練兵時代，是嚴禁吸鴉片的。只要發現了，不管官多大，當場處決。但是，后來的北洋軍暮氣日重，抽大煙的人越來越多。好些部隊，煙槍和洋槍并舉。但是，在吳佩孚這里，絕對不許抽大煙，只有一個例外，就是他發跡之后來投奔他的恩人，曾經推舉他去軍校的前文案郭緒棟。此人煙癮頗重，不抽要死的。所以，全軍上下，只有這個人可以抽，別的人，哪怕你是師旅長，也不行。
吳佩孚的兵，紀律還可以，但某些積習，也跟別的軍隊差不多。比如體罰，下級犯規上級責罰，老兵打新兵，新兵伺候老兵。吳佩孚認為，這種積習，對于鍛煉新兵，有好處，所以不加禁止。但是，不管老兵新兵，乃至長官，在訓練上都得過關。行軍打仗，軍官也得跟士兵一樣，跋山涉水，身體力行。
其實，這一套，當年袁世凱小站練兵的時候都用過，而且挺有效。但是，民國之后，兵越招越多，軍人也越發驕橫，管不了了。所以，大家都驕奢淫逸起來，訓練就成了兒戲。軍官連馬都不樂意騎，軍裝也不樂意穿了，平時在家，一身長袍馬褂。打仗的時候，弄頂大轎，讓轎夫抬著上前線。
當年的中國，交通不便，總共就那么幾條鐵路，公路幾乎是零。打仗必須得靠兩條腿，不吃苦耐勞，不能翻山越嶺，根本打不了勝仗。那些坐轎子上前線的軍人，一旦部隊垮下來，轎夫先跑了，自己就只好做俘虜。這樣的軍隊，無論有多少軍校學生，甚至有留學生，都不及吳佩孚這種土造的部隊能打。所以，當年幾個以練兵著稱的北洋第二代將領，比如吳佩孚和馮玉祥，都比較土，手下一個留學生都不要。只要能扛著七斤半（步槍）翻山越嶺，就是好家伙。他們的部隊，文化素質都比較低，炮兵不會使用儀器，間接射擊，機槍手機槍出了故障，只會拼命地澆油，簡單的故障，都不會排除。但那個時候的戰爭，烈度不高，只要士兵能扛得住折騰，多半能夠打贏。
人是有精神世界的，士兵也一樣。吳佩孚的部隊，不僅練得比較能吃苦，相對而言，對他也比較忠誠。吳佩孚是個讀過書的人，很喜歡對部隊進行“精神講話”。他認為，進入民國之后，傳統道德由于君主的缺失，出現了危機。但是作為軍隊，不講究忠孝仁義是不行的。沒有了君主，也要講究“忠”，忠于長官，忠于上司。他自己率先垂范，盡管他的上司曹錕不怎么樣，但他卻事曹不貳。當然，也希望下屬同樣效忠于他。只是，那個時代沒有麥克風，他一口山東蓬萊話，又有點口吃，所以每次精神講話，其實至少有一多半人聽不明白。不僅如此，他還親自寫了軍歌《登蓬萊閣》，讓所有的部隊傳唱，很多當過他士兵的人，多少年后依然記得歌詞。那些從小就當兵的幼年兵，從小耳濡目染，對吳大帥的尊崇，就更是不同旁人。
當然，他的嫡系部隊能打仗，而且凝聚力比較高，在很大程度上是因為他打仗勝多敗少，而勝多敗少，也不見得是他戰略戰術如何高明，如何神機妙算。在很大程度上，是因為當年中國整體現代化程度比較低，交通不便，武器級別不高，只要那支部隊能走，善走，肯吃苦，耐得了辛勞，一般就會占便宜。能練兵、會練兵的將軍，每每就是常勝將軍。吳佩孚在第二次直奉戰爭里，自己陣營里跟他很相似的馮玉祥臨陣倒戈，抄了他的后路。這個時候他的兵再能吃苦，也撐不住了。兵敗如山倒，對他的效忠也談不上了，練好的兵，不是死掉，就便宜了別個軍頭。此后，即使有一次東山再起的機會，手下沒有了他的怯薛，也就成了空架子，撐不住多久了。