五河县境夏、商属徐州地，周属青州，春秋为鲁国地，战国为鲁、宋、吴三国国境，后属楚国。

秦为蕲、徐两县地，属泗水郡。

西汉置虹县，为虹县地（境内沱湖西岸有旧虹县遗址），属沛郡。东汉为夏丘县，属下邳国。三国时属魏。

东晋在故虹县地置贡城戍。南朝前期属宋、齐、梁等国。北魏复名虹县，又名降城。北周时废。隋为夏丘县，属下邳郡。

唐初为夏丘县属泗州。武德四年（621年）分置虹县于古虹城，属仁州，六年废夏丘县。贞观八年（634年）移虹治于夏丘故城，废仁州改属泗州。元和四年（809年）改属宿州，大和三年（829年）复属泗州。大和七年（833年）仍属宿州。

北宋为虹县属淮南东路宿州，南宋咸淳七年（1271年）始置五河县

，属淮北东路淮安军。

元初属淮安路之临濠府，至元十七年（1280年）改属淮南路泗州。

明洪武四年（1371年）二月属临濠府，六年九月改属中立府，七年八月改属凤阳府。

清初属凤阳府。雍正二年（1724年）升泗州为直隶州，五河改属泗州。

民国元年（1912年）直属安徽省，民国3年（1914年）5月隶属于安徽省淮泗道。

民国16年（1927年）4月废道直属安徽省。

民国21年（1932年）10月属安徽省第六行政督察区，民国29年（1940年）8月改第六区为第四行政督察区，五河属之。抗日战争时期（1940—1946年）属淮北苏皖边区抗日民主根据地泗五灵凤县。

1949年1月15日五河县城解放，30日改泗五灵凤县为五河县，属皖北行署江淮第二行政公署。是年4月改属皖北行署宿县专区。

1952年4月属安徽省宿县专区。

1956年元月改属蚌埠专区。

1961年4月又改属宿县专区。

1971年3月改为宿县地区。

1979年2月仍改为宿县专区。

1983年7月1日改属蚌埠市。