关岭县因关索岭得名。相传三国蜀丞相诸葛亮南征，部将关索曾驻此地，广得民心，上人感之，遂称此岭为关索岭。

明置关索岭守御千户所。

清顺治十八年（1661）改置永宁州。

民国三年（1914）设关岭县。

1958年并入镇宁县，1961年复置。

1981年改关岭布依族苗族自治县。

1997年，关岭布依族苗族自治县辖7个镇、7个乡。

2002年7月3日，贵州省政府批准，撤销断桥乡，设立断桥镇。镇政府驻断桥村，所辖行政区域为原断桥乡行政区域。

2003年末，辖8个镇、6个乡，241个村委会、14个居委会。

2007年末，辖8个镇、6个乡，241个行政村、5个社区。

2002年7月3日，贵州省人民政府批准，撤销关岭县断桥乡设立断桥镇。镇人民政府驻断桥村，所辖行政区域为原断桥乡行政区域。

2003年，关岭布依族苗族自治县辖9个镇、4个乡，241个村委会、14个居委会。

2013年5月24日，经贵州省人民政府批准，撤销关索镇、顶云乡，设立关索街道、顶云街道；撤销新铺乡、沙营乡。设立新铺镇、沙营镇。