清康熙十七年（1678年）河道总督靳辅驻节于此，他“凿池植树，以为行馆，名曰淮园”。

　　乾隆十五年（1750），河督高斌于池北建荷芳书院。嘉庆五年（1800年），更其名为“澹园”，随后又改为“清晏园”。

　　道光十三年（1833）河督麟庆对清晏园进行了较大规模的整修改造。咸丰十年（1860）裁撤河督，以漕运总管河务，漕督迁驻于此。漕督陈夔龙建紫藤花馆。

　　叶挺将军遇难后，边区政府将公园命名为叶挺公园。新中国成立后，称城南公园。

　　1983年，为恢复古园旧貌，市人民政府对公园进行了维修改造，形成山水小院、荷芳书院、黄石深秋（含蔷薇园）、叶园秋唧（含关帝庙）、环漪别墅、梅岭春晓六个景区。