绥阳县夏朝属梁州。殷商属楚。春秋时期归入牂牁郡，战国时期属夜郎郡。

秦朝划入巴蜀。汉朝、三国、晋朝时期，均属牂牁郡鄨县。南朝，鄨县更名，归属榖邑县。

隋大业七年（公元611年），置绥阳县，属明阳郡。

唐武德四年（公元621年），阳明郡改为夷州，辖绥阳县。唐玄宗开元二十一年（公元733年），夷、播二州由江南道改属黔中道。乾元元年（公元758年），义泉郡复称夷州。州治绥阳县。

宋朝，绥阳县属播州乐源郡。

元朝，属播州安抚司地。至元十四年（公元1277年），播州安抚使领地，隶于湖广行省。

明洪武七年（公元1382年），播州改隶贵州。明万历二十九年（1601年）复置绥阳县。

清康熙二十六年（公元1687年），遵义军民府改名遵义分，雍正六年（1728），绥阳随遵义军民府由四川改隶贵州布政使司。

民国二年（1913年），绥阳县属黔中道。

民国七年（1918年），属贵州省。

民国二十四年（1935年），属遵义第五行政区。

1949年，属遵义专区。

1970年属遵义地区，1997年起属遵义市。