秦始皇二十六年（前221）建汉阳县，今水城县境，属汉阳县所辖。

汉沿秦制，新莽建国元年（9），改汉阳县为新通县，东汉复称汉阳县。

隋大业三年（607），属昆明国。

唐669年，属汤望州。

宋开宝七年（974），属罗氏鬼国卢鹿部。

元属顺元路，领48处长官司，其中漕泥、市北洞两处长官司驻地在今县境内。

明属水西宣慰司辖地，水西分中水、下水、底水三部，底水即今县境内。

清康熙三年（1664），吴三桂进伐水西宣慰使安坤；五年（1666），以安坤统地设大定府，水城属大定府。雍正十一年（1733），建水城厅，划大定府之永顺、常平二里归水城厅辖。乾隆四十一年（1776），再划平远州（今织金县）之崇信、时丰、岁稔三里入水城厅。

民国二年（1913），改为水城县，隶属贵西道；十二年（1923）隶属贵州省；二十四（1935）年，隶属第四行政督察区（毕节）。

1949年，以后隶属毕节地区。

1965年，县境内另设水城矿区。

1966年，划大河、汪家寨等十公社置水城特区，属西南煤炭建设指挥部，与县并存。

1970年，水城矿区与水城县合并为水城特区，隶六盘水地区。

1978年，隶属六盘水市，为三特区之一。

1987年，复置至今。

2003年5月20日，水城县人民政府驻地由六盘水市钟山区黄土坡街道办事处迁至水城县滥坝镇。

2011年，水城县辖1个镇、32个乡（其中29个民族乡）。

2013年2月22日，撤销木果彝族苗族乡，设置木果镇，镇政府驻双河村；同意撤销比德苗族彝族乡，设置比德镇，镇政府驻比德村；同意撤销保华彝族苗族乡，设置保华镇，镇政府驻加河村。

2013年5月21日，贵州省政府批复同意将钟山区老鹰山镇整建制划归水城县管辖，调整后，水城县辖5个镇、28个乡（其中25个民族乡）。

2015年6月4日，经省人民政府批准，行政区划调整为4个街道、13个镇、13个民族乡。