砀山县以原境内有芒山、砀山而得名。这里是汉高祖刘邦斩蛇举义之地，五代梁王朱温故里，近代画坛宗师齐白石祖籍；这里有明代大将薛显墓，有留下李白足迹的宴嬉台，有远近闻名的清真寺，有碧波荡漾的黄河故道，砀山以独特的人文地理景观而闻名遐迩。

砀山县

秦始皇二十六年（前221年），置砀郡及砀县。《汉书·地理志》：“砀山出文石”。《水经注》：“获水又东迳砀县故城北，秦立砀郡，盖取山之名。”训诂学家颜师古注：“以有砀山故名砀郡，砀，文石也，其山出焉，故以县名。”《明史·地理志》：砀山县“东南有砀山，其北有芒山”。《环宇通志》：“砀山，在砀山县东南七十里，县之名取此。”汉高祖五年（前202年），建梁国，革砀郡，砀县属梁国。新莽时（9年），改砀县为节砀县。汉光武帝时复称砀县。东汉章帝建初四年（79年），迁梁国于下邑（治所在今砀城东3里毛李庄处），砀县属梁国。三国（魏）革梁国，砀县属徐州。晋武帝泰始元（265年），复梁国，砀县并入下邑县。北魏孝昌元年（525年）下邑县移治今河南夏邑；二年（526年），置砀郡、砀县。砀郡治年在原下邑城（今毛李庄处），砀县治所鲁城（其址查无考）。北齐（555年）废砀郡、砀县，置安阳县。隋开皇十八年（598年），改安阳县为砀山县，隋大业六年（610年）割彭城、瞧阳二郡之地置永城县，芒砀山以北为砀山县辖区。唐，砀山县属瞧阳郡。光化二年（899年）朱全叫以砀山、单父、虞城、曹州这域表置辉州。后唐砀山县属单州。宋，属单州。金兴定元年（1217年），砀山县改属归德府（今河南省商丘市）。兴定五年升永城县为永州，辖下邑、砀山、郏三县，芒砀山一带又属砀山县年辖。宋理宗绍定年间（1228—1233年）砀山县为洪水荡没，迁治年至保安镇。元宪宗七年（1257年），复置县，还旧地属东平路。元至元二年（1265年），降永州为永城县，芒砀山一带再属永城县。是年，砀山县并入单父县，至元三年，复置大气层山县，属济州，八年，属济宁路。明洪武八年（1375年），砀山县属徐州。清雍正八年（1730年）升徐州为府，砀山县属徐州府。

民国元年（1912年）砀山县属江苏省徐海道；民国22年属江苏行政督察铜山区；民国24年属江苏省行政督察第九区；民国37年11月，砀山县属豫皖苏三分区所辖；1949年元月，属中原行政区商丘专署所辖；1949年10月，属皖北人民行政公署宿县专署。

1953年2月1日，砀山县属江苏省徐州专署所辖；1955年2月17日改属安徽省宿县专署所辖；1956年划属蚌埠专署。

1961年，砀山县仍划归安徽省宿肥专署（现称宿县地区行署）所辖。2000年4月属宿州市。