歷代帝王廟留存了相當多的明代建筑原構以及清代修繕的珍貴遺跡。廟內的景德崇圣殿，景德門，東西配殿，廟門，東跨院的神廚，神庫，宰牲亭等都是明嘉靖年間始建的原構遺跡。而壁畫、琉璃瓦等多是清代的。內檐彩畫可以看見雍正年間作品，外檐彩畫見到則是乾隆年間的作品。乾隆帝修繕時對主要構架沒做改動，只是把原正殿頂上的綠琉璃瓦改為皇家專用的黃琉璃瓦，提高歷代帝王廟建筑等級，由于清代換了瓦，換了彩畫。有專家形容歷代帝王廟：“骨架是明代的，衣服是清代的”。

歷代帝王廟占地21500平方米，建筑面積6000平方米。最南側有一個影壁，與山門隔街相望，東西寬32.4米，南北厚1.35米，高約5.6米。大門兩邊有八字墻，下有漢白玉石臺階。鐘樓在東側門之北，呈方形狀，每面面闊3間。

景德崇圣殿處于布局的中心位置。坐北朝南，面闊9間，進深五間，標志“九五之尊”的帝王禮制。殿前有漢白玉石月臺和石護欄，殿內原有11龕供歷代帝王牌位。月臺兩側各有碑亭一座，殿兩側的兩座碑亭內立有雍正和乾隆御制碑各一座。這里鋪設的是專門為皇家燒制的地磚，也就是俗稱的“金磚”。金磚給人光潤如玉、踩上去不滑不澀的感覺，東西跨院內還有神庫、神廚、宰牲亭等建筑。

景德門在大門正北，面闊5間，四周繞以漢白玉石護欄，中為御路，左右各有側門1間。配殿東西各7間，內頂為井口天花，系從祀歷代功臣之所。在東西配殿南側各一座燎爐，為焚化祝帛之用。