李陵失敗之處距離漢境已經很近了，僅有不到百里，卻苦于無人傳信而沒有救援。邊塞將官將李陵敗沒的消息傳達給了漢武帝。漢武帝本想讓李陵死戰，后來聽說他被生擒，很是生氣，問群臣李陵之事，大家都附和皇帝，紛紛指責李陵罪該萬死。唯有太史令司馬遷敢為李陵鳴不平，他說道：“李陵事親甚孝，與士誠信，常奮不顧身以殉國家之急，頗有國士之風。如今不幸有事，大家都為了保家護妻子而指責他，實是讓人痛心！況且李陵帶步卒不滿五千，深陷戎馬之地，抗數萬之師，使虜救死扶傷不暇，悉舉引弓之眾共攻圍之。轉斗千里，矢盡路窮，軍士仍張空拳，冒白刃，北向與敵死戰。能得人之死力，雖古名將不是過也。身雖陷敗，然其所摧敗亦足以顯于天下。李陵之所以不死，一定是欲尋機以報大漢?！辈幌脒@一番話讓漢武帝更是火上澆油，當即處司馬遷以腐刑。
一年后，漢武帝有所感悟，派公孫敖領兵出塞攻擊匈奴迎接李陵還朝。出塞后，公孫敖畏懼深入匈奴會有不測，但皇帝命令又不能不從。正躊躇間，發現了十余騎匈奴散兵。當下就捉獲了幾騎，派會胡語的人詢問道“我朝李陵如今在你們那里做什么呢？”虜答道“日夜與大單于談論兵法，并教我們練兵?！甭牶蠊珜O敖計上心來，回朝后對漢武帝說道“出塞后捕得胡虜，說李陵教單于練兵以備漢軍，是以臣不敢妄自前進?！睗h武帝聽后大怒，族了李陵全家，李陵母親、弟弟、妻子兒子全被殺。
后來漢遣使者出使匈奴，李陵問使者：“吾為漢將步卒五千人橫行匈奴，以無救而敗，然我亦終不為匈奴所用，吾有何負于漢而誅吾家？”使者道：“漢聽說李少卿教匈奴為兵?！绷甑溃骸敖绦倥呤侨舛嘉纠罹w，他被匈奴攻之而降，不是我李陵。”李陵日夜悲泣，想自己家是因為李緒而誅，便尋機將李緒刺殺。李緒之妻是單于妻之妹，單于妻大怒欲殺李陵，單于便將李陵藏到了北方，直到單于妻死乃還。
單于對用兵如神的李陵很是欽佩，將自己女兒嫁給他，并立為右校王，每逢重大事情都請其參與議會，以示寵貴。這么做也是想讓李陵操練匈奴，幫助自己對付漢朝。但李陵坐席與議會間終不提及用兵之法，亦不教單于練兵之術，單于也無如之何。
后來蘇武出使匈奴，因其部下欲殺漢朝逃亡之人，蘇武自己也受牽連被匈奴囚禁。以死威脅，蘇武不降，單于就將其置于大窖中，絕其飲食。天雨雪，蘇武就以雪摻雜旃毛為食物，數日不死。匈奴以為神，就將其置于北海無人處，使其牧羊，并與他約定只有公羊下乳才能回來。蘇武到北海后，挖野鼠，采草根為食。杖漢節牧羊，節操不改。李陵聽聞后，屢次前去訪問，并帶去食物飲品等。
由于漢與匈奴多年戰爭使得匈奴漸衰，單于又老死，其子立為新單于。而漢武帝也死，漢昭帝立，數年后大漢便與匈奴和親。漢昭帝對李陵與蘇武之事甚為感動，便派使者去匈奴接李陵與蘇武回來。單于置酒賜漢使者，漢使對李陵說道“此番陛下請少卿來歸故鄉，毋憂富貴?！崩盍昊氐溃骸盎貧w甚易，只怕會再次受辱，奈何！”漢使說道：“新天子對你很是贊賞，這么多年了，你不想家嗎？”李陵說道：“家？我全家人都死了，大漢哪還有我的家？”又指著旁座的胡婦胡子說道“我已在此娶妻生子，丈夫不能再辱！”知道李陵沒有歸意后，漢使詢問蘇武的下落。單于說道“在北海牧羊，不知還活著嗎？”
漢使找到蘇武后，大是驚嘆。年近六旬的蘇武已是須發皆白，塞北苦寒且無食，他們很難想象一個人在如此惡劣的環境中能生存十多年。得知蘇武準備跟使者回去后，夜晚，李陵置酒相賀。說道：“如今足下還歸，揚名于匈奴，功顯于漢室，遠勝于李陵千倍。雖古竹帛所載，丹青所畫，何以過子卿！我之所以失身匈奴，留此殘命，本是想效仿曹柯之盟，異日劫持單于以報大漢。此乃陵宿昔所不忘者也?？扇缃裎胰冶蛔迓荆乙讶f念俱灰，決定老死于荒漠！然陵此生終不背叛大漢，絕不為匈奴所用，望子卿歸后能向陛下表明我的心志。異域之人，一別長絕！”
李陵與蘇武出帳。時月色溶溶，銀光下射，沙白如雪。胡天一望，星夜寥闊，景致蕭索。李陵起舞，歌道：“徑萬里兮度沙幕，為君將兮奮匈奴。路窮絕兮矢刃摧，士眾滅兮名已聵。老母已死，雖欲報恩將安歸！”李陵泣下數行，與蘇武決別。
蘇武于公元前81年回到長安，后來他與皇帝都思念李陵，漢昭帝便派使者再次出使匈奴，蘇武也請使者捎去一封信給李陵，仍是希望他能夠回來。李陵回信再次表明了自己的心志，他在回信中寫到
“胡地玄冰，邊土慘裂，但聞悲風蕭條之聲。涼秋九月，塞外草衰。夜不能寐，側耳遠聽，胡笳互動，牧馬悲鳴，吟嘯成群，邊聲四起。晨坐聽之，不覺淚下。嗟乎子卿，陵獨何心，能不悲哉！與子別后，益復無聊，上念老母，臨年被戮；妻子無辜，并為鯨鯢。子歸受榮，我留受辱，命也如何？陵不難刺心以自明，刎頸以見志，顧國家于我已矣，殺身無益，適足增羞，故每攘臂忍辱，轍復茍活。人之相知，貴相知心，故言之于卿。
昔先帝授陵步卒五千，出天漢之外，入強胡之域；以五千之眾，對十萬之軍；策疲乏之兵，當新羈之馬。然猶斬將搴旗，追奔逐北，滅跡掃塵，斬其梟帥，使三軍之士，視死如歸。匈奴既敗，舉國興師。更練精兵，強逾十萬。單于臨陣，親自合圍。疲兵再戰，一以當千，然猶扶乘創痛，決命爭首。死傷積野，余不滿百，而皆扶病，不任干戈，然陵振臂一呼，創病皆起，舉刃指虜，胡馬奔走。兵盡矢窮，人無尺鐵，猶復徒首奮呼，爭為先登。當此時也，天地為陵震怒，戰士為陵飲血。單于謂陵不可復得，便欲引還，而賊臣教之，遂使復戰，故陵不免耳。
昔高皇帝以三十萬眾，困于平城。當此之時，猛將如云，謀臣如雨，然猶七日不食，僅乃得免。況當陵者，豈易為力哉？而執事者云云，茍怨陵以不死。然陵不死，罪也；子卿視陵，豈偷生之士而惜死之人哉？寧有背君親，捐妻子而反為利者乎？然陵不死，有所為也，故欲如前書之言，報恩于國主耳，誠以虛死不如立節，滅名不如報德也。昔范蠡不殉會稽之恥，曹沬不死三敗之辱，卒復勾踐之仇，報魯國之羞，區區之心，竊慕此耳。何圖志未立而怨已成，計未從而骨肉受刑，此陵所以仰天椎心而泣血也。
男兒生以不成名，死則葬蠻夷中，誰復能屈身稽顙，還向北闕，使刀筆之吏弄其文墨邪？愿足下勿復望陵。嗟乎子卿，夫復何言？相去萬里，人絕路殊。生為別世之人，死為異域之鬼。長與足下生死辭矣。幸謝故人，勉事圣君。足下胤子無恙，勿以為念。努力自愛，時因北風，復惠德音。李陵頓首?！?
李陵在被匈奴俘虜后又活了二十多年，當年跟隨李陵征戰匈奴而陷沒的漢兵都紛紛來投靠，一些漢朝的降者與因犯罪而逃亡之人也來投靠。李陵部眾越來越多。在李陵死后，其子便跟隨胡俗，以母親的名字拓跋作為自己的姓氏。單于封其為烏籍都尉，使他自為一部。公元57年，匈奴發生內亂，五單于爭立，李陵之子由于支持烏藉單于也參與了，不幸的是失敗后與烏藉單于一同被呼韓邪單于擒殺。他的后裔及殘余的家族部眾北逃，并與鮮卑部落通婚結合，形成了拓跋鮮卑部。
在晉朝后期，拓跋鮮卑占據了中國的大半個北方，建立北魏政權，日益強盛，開始和南方以漢人為主的南朝相對抗。北方統治者以及宗室、重臣都以鮮卑為高貴的游牧正統，他們不愿意承認與漢人有過融合。大臣崔浩就因著史，說拓跋氏是李陵之后而激怒魏主，被魏主處死。之后北魏統治者大肆屠殺承認自己是李陵之后的人。這時很多承認是漢人之后的拓跋鮮卑不愿棄祖，暗中西遷，也有部分純漢血統的漢人追隨他們，不斷的遷徙，后來改姓氏為朱邪。他們重新組成一個小部落，成為沙陀。由于部落弱小，哪個種族強盛他們便依附于誰，曾先后臣服于柔然，突厥。自己慢慢得以發展，至數萬人眾。