春秋时属吴国，战国初属越，楚灭越后属楚，秦统一后属九江郡，西汉为南城县域，东汉分属临汝、南城县地。

三国吴太平二年（公元257），分豫章郡之临汝、南城立临川郡。同年，析临汝地立县，是为建县之始。因县治在宜、黄二水汇合侧，故名宜黄，属临川郡。

西晋元康元年（公元291），析荆、扬十郡置江州，辖临川郡，宜黄隶之。

南朝陈武帝永定元年（公元557），析江州立高州，宜黄仍属临川郡为侯国。

隋初，改高州为江州。开皇九年（公元589），废临川郡设临川县，废巴山郡设崇仁县。宜黄并入崇仁县。宜黄自建县起至此332年。

唐武德五年（公元622），又析崇仁地置宜黄，隶抚州。3年后，即武德八年，复并入崇仁。从武德八年至宋乾德五年（公元625～967）宜黄未置县。其时州郡建置时有变化，但宜黄地属崇仁，隶抚州不变。

北宋开宝元年（公元968），南唐后主李煜割崇仁县之崇贤、仙桂、待贤三乡置宜黄场，场署设仙桂乡长春里，仍属崇仁。县民胥仕隆等以“去崇仁甚远，民苦之”为由，请于南唐后主升场为县。开宝三年（公元970），后主准其请，遂升场为县，隶抚州，设县治于黄填镇（今凤冈镇）。八年（公元975），南唐土地尽入于宋，改抚州为军州，抚州军归宋。自此宜黄设县及县名均未变动。

南宋绍兴十九年（1149），改抚州为抚州府，宜黄属之。

元至元十三年（1276），抚州军改抚州路，宜黄隶之。

明洪武元年（1368），抚州路改抚州府，宜黄属之。九年，废行中书省设承宣布政使司，下分道、府，宜黄属江西承宣布政使司湖东道抚州府。

民国元年（1912），废府，各县直辖于省。3年，江西省分4道，宜黄属豫章道。15年废道，各县直辖于省。21年，江西省83县划为13个行政区，宜黄属第八行政区。24年后，江西省五次变动行政区，而宜黄至解放前夕均属第七行政区。

第二次国内革命战争时期，宜黄一度建立县苏维埃政权。

民国18年（1929），宜黄县革命委员会筹备委员会成立。20年4月正式成立县革命委员会。同年11月于吴村（现宁都县辖地）成立县苏维埃政府，之后迁东陂（21年3月）、黄陂（21年7月）、罗家湾（22年11月）、白竹（23年1月）、金竹（23年5月，现乐安县辖地）。23年6月，中共乐安中心县委决定将乐安、宜黄、崇仁三县苏维埃政府合并，成立乐宜崇三县联合政府。23年冬至24年，苏区先后被国民党军占领。

1949年5月10日，宜黄县城解放。解放后，宜黄隶属抚州地区（分区、区、专区）

2000年7月10日抚州地区改为市，宜黄隶属抚州市。