在廬山地區的長江北岸，即今安徽省合肥、六安一帶，古代曾有個“廬子國”。春秋戰國時為楚所滅。據《國語·楚語》記載，楚王曾經去過廬邑。秦漢時期的廬江縣、廬江國、廬江郡以及后來的廬州，都是因廬邑和廬子國而得名的。后來廬邑的范圍逐漸向南擴展，包括今廬山地區，因而將其境內的山命名為“廬山”。廬山也叫匡廬山，相傳殷周時有匡姓兄弟結廬隱居于此。