单县古称单父，舜帝的老师单卷居住地，因而得名。周成王封少子臻于此，为单子国。东周春秋初期，属宋国，后为鲁国单父邑。战国初期，复属宋国。宋灭，改属齐国。秦置单父县，属砀郡，此为单县建县之始。汉代三次为县侯国，一次为县王国。隋朝恢复单父县。唐末置辉州。明洪武元年(1368年)撤单父县，其地直属单州。次年7月，降单州为单县，单县由此定名，一直沿用至今。

民国期间，先后属济宁道、曹濮道和国民党山东省第二专署、第十一专署。

1939年，日本侵略军建伪单县公署。

1940年3月，共产党在单县东南部张寨一带建立单县抗日政府。

1943年7月，在单县东北部建立金曹县抗日政府。

1944年6月，在单县西南部建立临河县抗日政府；9月以单县东南蔡堂、吴溜地区为依据建立砀山县(1947年曾一度改为华砀县)。

1945年12月，临河县改为单虞县。

1946年2月，撤销金曹县。

1949年2月，砀山、虞城（东虞城）两县黄河故道以北地区，划归单虞县。

1949年8月，平原省湖西专署机关进驻单县城，同时，撤销单虞县，恢复原建置，统称单县。

1952年11月，随湖西专区改属山东省。

1953年8月湖西专区撤销，单县归属菏泽专区。

1958年12月，菏泽专区撤销，改属济宁地区。

1959年7月，菏泽专区恢复，复属菏泽专区，现属菏泽市。