春秋時期，潛山系皖國封地，為皖國所轄、皖國都城，安徽省簡稱皖，即源出于此。東漢獻帝初平末年），廬江太守陸康為遠避戰亂，將廬江郡治遷至皖縣城。此后，袁、曹、孫三家交替據有此地，皖城成為兵爭的重鎮。

在后世歷史之中，皖城曾經爆發一次重大戰役。當時東吳鄱陽太守周魴偽叛，誘魏將曹休率步騎十萬，輜重滿道，至皖城意欲接引周魴，反遭周魴合眾攔截，軍敗而被斬獲萬計。為此孫權大會諸將歡宴，酒酣，對周魴說：...