凤阳古为淮夷之地，春秋时，在今临淮镇附近建钟离子国，并筑钟离城。周景王七年（公元前538年），楚攻占钟离城，钟离属楚。周敬王二年（公元前518年）钟离城又被吴王僚夺去。越王勾践灭吴后，钟离城属越，周显王三十五年（公元前332年）楚灭越，钟离城又属楚。秦统一中国后，钟离城属九江郡。

秦王政二十四年（前223年）灭楚，正式设立钟离县（治临淮关）。刘邦封英布为淮南王，改九江郡为淮南国，钟离县为淮南国的领地。汉武帝元狩元年（公元前122年）平定吴楚7国之乱，杀淮南王刘安，改淮南国为九江郡，钟离县仍属其管辖。王莽夺取西汉政权后，改九江郡为延平郡，将钟离县改为蚕富县。东汉建武元年（25年）改称钟离侯国，后又称钟离县，仍属九江郡。

三国时，钟离县属魏。西晋时，属淮南郡（治今寿县）。东晋建武元年（317年）分九江郡（治今寿县）设钟离郡（治临淮关）。义熙元年（405年），钟离郡改属徐州（治临淮关）。刘宋泰始七年（471年），钟离郡属南兖州。元徽元年（473年），属北徐州（治临淮关）。梁太清三年（549年）正月，入东魏，改北徐州为楚州（治临淮关），钟离郡属之。东魏武定八年（550年）五月，地入北齐，改楚州为西楚州（治临淮关），钟离郡属西楚州。北齐武平四年九月壬申，入陈朝，改西楚州为北徐州（治临淮关），钟离郡属北徐州。陈太建十一年（579年），地入北周，复改北徐州为西楚州。宣政元年（578年）六月，改西楚州为豪州（治临淮关），钟离郡先后属西楚州、豪州。隋开皇三年（583年），废钟离郡。

隋大业三年，改豪州为钟离郡。隋末，为杜伏威的属地，改钟离郡为豪州。

唐高祖武德五年（622年）杜伏威降唐后，钟离县属淮南道豪州。天宝元年（742年）改豪州为钟离郡，乾元元年（758年），又改名豪州。唐元和三年（808年）改豪河为濠河，改豪州为濠州。

北宋时，钟离县初隶淮南路，后属淮南西路濠州。南宋时由于金兵常南下在濠州一带骚扰，开禧二年（1206年）曾一度把州治迁往定远。

元朝时，钟离县隶河南行中书省安丰路濠州安抚司。元至元十五年（1278年）升为临濠府（治临淮关），二十八年复为濠州。至正十二年二月（1352年）郭子兴领导农民军占领濠州，至正十三年又被张士诚夺去。至正二十六年朱元璋打败张士诚，濠州又为朱元璋所有。次年，朱元璋改濠州为临濠府。

明洪武二年（1369年），改钟离县为中立县，同时在濠州西南凤凰山南麓建中都。洪武三年因县城北临淮河，将中立县改为临淮县，这是临淮地名之始。洪武六年临濠府改为中立府，洪武七年中立府改名凤阳府，府治迁往新城（即今府城），同时割临淮县的太平、清洛、广德、永丰4乡设凤阳县，洪武十九年将虹县（今五河、泗县一带）南8都并入凤阳县。据《明一统志》记载，凤阳因在凤凰山之阳，故名。自洪武七年至清乾隆十九年（1754年），今凤阳县境内为凤阳府治和凤阳、临淮二县地。凤阳府，明初直属中书省，永乐元年（1403年）改属南直隶。

清顺治二年（1645年）凤阳府改属江南省，康熙元年（1663年）改属安徽省。乾隆十九年（1754年）将临淮县并入凤阳县。乾隆二十年，凤阳县属安徽省皖北道（治府城）凤阳府。

辛亥革命后，取消府的建制，凤阳县直属安徽省。

民国3年（1914年）设淮泗道（治府城）。

民国21年设行政督察专员公署，简称专区，凤阳县属第四专区。

民国27年2月，府城被日军占领，汉奸倪道烺在蚌埠组织“安徽省维新政府”，凤阳县直属伪省府管辖，伪凤阳县政府设在蚌埠。

民国29年“安徽省维新政府”改为“安徽省政府”后，设8个行政督察区，凤阳县属第一行政督察区。

抗战时期，府城、临淮关等城镇虽被日军占领，但在广大的农村和山区，在共产党的领导下，先后建立了定凤怀县、凤定嘉县、盱凤嘉县抗日民主政府，领导人民进行抗日斗争。抗战胜利后，国民党军队占据府城、临淮关等城镇，并向淮南津浦路西解放区发动进攻。

民国35年8月，定凤怀县党政机关，除留少数武装工作人员坚持游击战争外，全部北撤，定凤怀、凤定嘉、盱凤嘉等县政府先后撤销。

民国36年元旦，蚌埠正式设市，从此蚌埠从凤阳分离出去，府城镇再次作为凤阳县城（民国27年2月至民国36年元旦凤阳县城为蚌埠镇，即今蚌埠市蚌山区）。

民国37年，定凤怀县政府重新成立，民国38年1月16日，凤阳解放，2月，定凤怀县政府撤销，凤阳县人民政府成立，凤阳县属江淮第四专员公署，4月改属定远专区，7月改属滁县专区。

1956年，宿县、滁县两专区合并成蚌埠专区，凤阳县属蚌埠专区。

1961年，蚌埠专区分为滁县、宿县两专区，凤阳县属滁县专区。

1992年底，滁州市（地级）成立，凤阳县改属安徽省滁州市。