商代属虎方；西周属淮夷，春秋初期属夷虎，后为吴楚交争地，战国时期属楚；秦代分属九江郡之寿春、曲阳。

两汉时期，初属淮南国，后属扬州刺史部，由九江郡之成德、曲阳、合肥分领。

三国时期，为魏淮南郡成德县，部分属西曲阳、合肥；西晋时沿魏制；东晋时由淮南郡、梁郡、庐江郡分领。

南北朝时期，初属南朝宋、齐、梁的豫州梁郡、陈留郡、安州定远郡；后属北朝齐的扬州淮南郡、合州汝阴郡、西楚州钟离郡。隋朝变化不大。

唐朝，属淮南道，由寿州之安丰、庐州之合肥、濠州之定远分领。

五代十国时期，初属吴（杨），继属南唐之寿州、庐州、濠州。

宋朝，属淮南西路，分属寿春、定远、合肥和慎县（梁县）。

元、明、清三朝，初属安丰路之寿春、定远，庐州路之合肥、梁县，后属凤阳府之寿州、定远，庐州府之合肥。

民国时期，分属寿县、定远县、合肥县。其间民国31年，共产党在县境建寿东南办事处，32年改称寿县抗日民主政府，38年初在县境建寿合县人民政府，当年6月并入寿县。

建国后，分属安徽省（1952年前为皖北行署）之寿县、定远县、肥东县、肥西县。

1964年9月12日，省人民委员会上报国务院，以淮南铁路水家湖车站为中心，建置长丰县。

1964年10月31日，国务院148次会议决定，析寿县、定远、肥东、肥西四县边境地区设县，因县境大部分地区属清朝寿州长丰乡，故定名长丰县。

1965年3月11日，省人民委员会转发国务院决定，由合肥市负责筹建，同年5月底筹建工作结束，6月1日长丰县人民委员会正式办公，治所水湖镇。隶属合肥市管辖。