關于墓志銘的起源說法一直以來都莫衷一是，比較具有代表性的有西漢起源說、東漢起源說、魏晉起源說、南朝起源說，還有現代學者的論斷。

首先介紹一下西漢起源說，因為在《西京雜記》中有記載，西漢的時候有個叫杜鄴的人，在臨終的時候自己寫了一篇散文，并且將其刻在石板上后把這塊石板埋在他的墓前，有人認為這是墓志銘的開始?！恫┪镏尽分姓J為西漢的王史威長始創墓志銘。

另一種說法認為墓志銘始于東漢，因為我國出土最早的墓志銘《賈武仲妻馬姜墓記》始刻于東漢延平元年，還有彭山崖墓張賓公妻穿中文、馮基石槨題字都始刻于東漢。

第三種說法認為墓志銘起源于魏晉?！短拼怪緟R編》中認為自魏開始繆襲為了告訴后代子孫便立了墓志銘，而《封氏見記》中認為繆襲改葬父母想要后人記住才立了墓志銘。日本人著的一本《關于墓志的起源》中認為魏晉時期嚴禁墓前立碑，但是上有政策下有對策，人們將小型石碑埋進墓里以取代立碑，這被認為是墓志銘的起源。

第四種說法認為墓志銘起源于南朝。在《南齊書》中有劉宋時不立碑而立墓志銘來歌功頌德的說法。

然而現代學者卻有不同的論調，他們認為秦漢時期就已經存在與墓志銘作用相同的東西了，等到魏晉時期這種墓志銘形式已經誕生了，而南北朝時期墓志銘這一說法便開始應用了。