贡嘎藏语意为“寨后白山，山顶白色”。吐蕃时期约茹管辖。

公元13世纪，由蔡马万户管辖。

14世纪中叶，元顺帝授权西藏帕莫竹马政权接管西藏地方事务，大司徒绛曲坚赞执政后，在此设立贡嘎宗。后为西藏噶厦政府管辖，贡嘎宗归属洛喀（山南）基巧。

1959年5月将贡嘎宗和杰德秀堆合并，正式成立贡嘎县，隶属山南地区（专区）管辖至今。

1960年县府由贡嘎学村迁至热麦村。县府现驻吉雄。

1987年撤区并乡,辖杰德秀镇和朗杰学、昌果、克西、甲日、吉雄、甲竹林、岗堆、江塘、达然多乡、吉纳乡、娘索乡、广嘎、芝龙13个乡、1个镇，168个村委会。

2000年,贡嘎县辖5镇、3乡。

2016年2月，山南撤地设市，此县属于山南市。