20万年前，境内已有人类活动；5000年前，人类在合水的生产活动已具规模，隋末设县，已有1300余年的建制史。

秦朝时设义渠县。

西汉设略畔道和除道县（一说为直道）；新莽时期改略畔道为延年道；东汉末年二县县府南迁陕西，地域为羌胡所占，直至南北朝。

西魏时期设蔚州。

隋开皇十六年（596年）设合水县（治在今庆城）；仁寿二年（602年）设华池县；义宁元年（617年）设乐蟠县。

唐武德六年（624年）增设蟠交县；天宝元年（742年），改蟠交县为合水县。

宋熙宁四年（1071年），废乐蟠，地域归合水。

金、元、明、清皆归庆阳府辖。

民国属泾原道。

1949年9月21日，合水县县治由老城镇迁至西华池镇；

1958年12月20日，裁合水县，分属宁县、庆阳县辖。

1961年12月15日，复置合水县，县城设西华池。