裴松之是河東人，祖父和父親都擔任過重要官職，裴松之從小就閱讀了很多書籍，8歲的時候就通學了《論語》和《毛詩》。他博覽群書，為人樸素，20歲的時候被拜為殿中將軍，成為皇帝身邊的侍衛官。

裴松之因為當時社會上人們立的碑上面的文字和事實有很大出入，上表反對這種風俗，認為這是一種弄虛作假的行為，如果放任不管的話，會給社會帶來弊病。他認為“：那些想立碑的人，應該命令他們向上面請示，經過朝廷允許后，才能立。這樣才能防止碑文上出現不實之詞，表彰那些真正值得贊揚的行為，讓后代知道這上面沒有虛假的東西，讓當代的東西受到后世的崇敬。”于是以后誰要刻碑的話都得照著裴松之的意見去辦。

劉裕北伐的時候，將裴松之調到外地當地方官，劉裕稱帝后，特地下詔說“：裴松之是國家的棟梁之材，不應該老是呆在邊疆，所以現在把他召回來擔任太子洗馬一職，和殷景仁的待遇一樣。”，后來裴松之升任為零陵內史，不久被征召為國子博士。

公元426年，司徒徐羨之等人被劉裕誅殺，隨后劉裕派遣使者巡視天下，裴松之作為使者中的一員被派到汀州出使。回來之后，他向朝廷上奏道：“我聽說天道是給世界以光明，君主的德行是以全面地治理天下而作為極致的。古代的圣王賢者因為考慮到了所有的事情，所以一個人有好的想法，社會就能富足和平。即使只在江漢一帶推行了禮制，但那種良好的影響卻非常深遠，所以能夠讓后人歌頌他們偉大的功業，創造出比周朝還要好的制度。陛下的想法玄妙通達，思想蓋世無雙，身居天子之位，考慮著四面八方的事情，咨詢傳播教化的不足之處，擔憂薦舉賢才的道路還不夠通暢，公正地詢問下面老百姓的痛苦，同情他們當中的鰥夫和寡婦，陛下光輝偉大的感召，影響遠及四面八方。所以全國各地的人民都恭敬地頌揚，很遠的外國也感到喜悅，沒有不歌唱吟誦您的豐功偉業和仁愛之心的，大家都歡欣鼓舞，時刻銘記皇恩；有的扶老攜幼，在路旁述說他們的歡喜之情，實在是因為您的養育之恩傳播到了各地，所以才能讓他們忘乎所以。千年以來，只有這個時候才會有這種情況出現。我承蒙陛下的錯愛，被選中出使，不合格地和那些顯要的人物并列，缺乏才能，思想又簡陋，沒有宣揚圣旨的力量，也不能嚴肅和提倡禮教風化，舉薦人才也沒有章法，訪求和推薦人才也顯得孤陋寡聞，心里非常慚愧和惶恐，不知所措。現在上奏24條訪問成果，恭敬地寫好呈上。我看見您下的詔書，說官吏和民風的得失，都依照周朝的制度加以裁斷，每件事都寫成了奏章，回來后會分門別類地上奏。”裴松之很懂得出使的意義，大家都贊揚他。

后來，裴松之擔任過中書侍郎、司州和冀州兩州的大中正，皇帝知道他歷史知識很豐富，就派他為陳壽的《三國志》作注。裴松之搜集了許多材料，為《三國志》里的事件增加了很多不同的說法。好不容易寫完后遞交給皇帝，皇帝認為寫得非常好，贊揚道“：這個注是不朽的。”于是調任他為永嘉太守。他當太守的時候勤政愛民，官民都生活得很好。朝廷又讓他補任為通直散騎常侍，不久又出任南瑯琊太守。他年老退休后，拜為中散大夫，不久又兼任國子博士，提升為太中大夫。裴松之打算續寫何承天寫的劉宋國史，還沒有來得及動筆就去世了，享年80高齡。他寫的論文和《晉紀》，還有他兒子為司馬遷的《史記》作的注一起在世上流行。