沙河县始建于隋代，开皇十六年（公元596年）析龙冈县南境设沙河县，以大沙河穿过而得名，故城在县东一公里处，二县皆属邢州。

唐武德元年（公元618年）沙河设为温州，属邢州总管府，武德四年仍改沙河县，属邢州，天宝元年邢州复钜鹿郡，至德二年复邢州。

五代，沙河县于后晋开运元年（公元944年）徙治今沙河城镇（原沙河县城），仍属邢州。

北宋，沙河县初属河北西路邢州，宣和元年（1119年）隶属信德府（邢州升府）；

金天会七年（1129年）复属河北西路邢州（信德府复邢州）。

元中统三年（1262年）邢州升为顺德府，后改为顺德路，均辖沙河县。

明洪武元年，顺德路改为顺德府，沙河县为顺德府九县之一。

清代，沙河县隶属直隶省顺德府。

1912年，北洋政府撤销顺德府，沙河改隶大名道（冀南道），

1928年，南京政府撤销大名道，沙河改隶河北省。

抗日战争时，日本占领区复设顺德道，辖沙河县。

1939年，中国共产党创立太行区抗日根据地，沙河县为冀西专区所辖。

1941年9月，中共设置晋冀鲁豫边区，设太行区，沙河属太行六专区。

1945年9月，抗日战争胜利，撤销顺德道，沙河县隶属太行一专区。

1948年9月，华北人民政府成立，沙河县归属华北行政区（晋冀鲁豫边区撤销）。

1949年，沙河县改属太行区一专区。同年8月1日成立河北省，沙河县划归河北省邢台专区。

1958年，撤销沙河，并入邢台县。

1961年，析邢台县复置沙河县。

1968年，沙河县人民政府由城关沙河城镇迁驻褡链镇。

1987年，经国务院批准撤县设市，沙河市为河北省省辖市。