春秋战国时，境地属楚国。

秦始皇二十六年（前221），始置郴县，属长沙郡。

西汉高祖五年（前202），分长沙郡南部诸县置桂阳郡，郴县隶荆州桂阳郡，其县城为郡治。自此后，郴县县城均为郡、州、军、路、府、区治。

新始建国（王莽）元年（9），改桂阳郡为南平郡，郡治迁南平亭（今耒阳）。郴县易名宣凤县。

东汉光武帝建武十一年（35），南平郡复名桂阳郡，宣凤县复名郴县，隶荆州桂阳郡，郡治还迁郴县县城。

三国（220—280），郴县建置同东汉，隶吴国荆州桂阳郡。

晋（265—420）仍为郴县，隶湘州桂阳郡。南朝梁武帝天监六年（507），改桂阳郡为郴州（郴州之名始于此）。不久，复称桂阳郡，郴县隶衡州桂阳郡。

隋文帝开皇九年（589），改桂阳郡为郴州。炀帝大业三年（607），郴州复称桂阳郡。大业十二年（616），桂阳郡又改郴州。大业十三年（617），郴州复称桂阳郡。郴县隶潭州桂阳郡。

唐高祖武德五年（622），桂阳郡改为郴州。武德七年（624），复称桂阳郡。开元二十二年（734），桂阳郡改郴州。玄宗天宝元年（742），郴州改桂阳郡。肃宗乾元元年（758），桂阳郡再改郴州，州治迁往平阳亭。宪宗元和十五年（820），州治复迁回郴县县城。唐代，郴州、桂阳郡先后隶潭州、江南道、江南西道、潭州。

五代后晋高祖天福元年（936），因避庙讳，郴州易名敦州，郴县改名敦化县。后汉隐帝乾祐三年（950），敦州复为郴州，敦化县复为郴县。郴县隶潭州郴州。

宋，北宋太祖乾德元年（963），郴州改为郴州军，郴县隶荆湖南路郴州军。

元世祖至元十三年（1276），郴州军改为郴州，郴县改名郴阳县。十四年（1277），郴州改为郴州路，郴阳县隶湖广行中书省湖南道郴州路。

明太祖洪武元年（1368），郴州路改为郴州府，洪武九年（1376），郴州府改为郴州直隶州，隶湖广行省；撤销郴阳县，县域入郴州直隶州，为州直辖地。

清代，郴县建置同明，隶湖南省衡永郴桂道。

民国二年（1913）九月，废郴州直隶州，划州直辖地复置郴县，隶衡永郴桂道，翌年属衡阳道。

民国十一年，湖南省废道制，郴县直属省。

民国二十六年十二月，郴县隶湖南省第八行政督察区。

民国二十九年四月，第八行政督察区改为第三行政督察区，郴县隶之。

1949年10月7日，郴县解放，由衡阳专区代管。是年11月，郴县隶郴县专区。

1950年11月，隶郴州专区。

1952年11月，隶湘南行政区。

1954年7月，隶郴县专区。

1960年7月隶郴州专区。

1967年3月，隶郴州地区。

1995年3月，撤销郴州地区建立郴州市，撤销郴县建立郴州市苏仙区。