提到樂府詩自然就會想到“漢樂府”，可見漢代以樂府詩為代表，而說起樂府詩的起源自然也是圍繞漢代展開的。

第一種說法是，當時漢高祖有一位唐山夫人，在家閑來無事，作了一首《房中祠樂》來疏解心情，這是最早的樂府詩。到了漢惠帝時期，夏侯寬將這首最早的樂府詩《房中祠樂》配上笙簫管樂，并且更名為《安世樂》。

第二種說法是，漢惠帝時設立了樂府這樣一個官職，等到了漢武帝時樂府已經成為一個大型機構，他們負責在民間四處搜集詩歌并且訂正音律，在搜集整理的同時也負責自創詩歌并配上笙簫管樂，這種由樂府加工而成的成品就叫做樂府詩。

因為這種樂府詩更多來自于民間，所以反應民間疾苦以及平常生活的居多，盡管后來漢哀帝除去了樂府這一機構，樂府詩仍然長盛不衰，南北朝時期仍有很多具有鮮明特色的作品涌現。