全南原名虔南，因地处虔州（今赣州）之南而得名，1957年改称全南至今。据当地出土文物考证，早在新石器时代就有先民在此繁衍生息。

前771—前221年（春秋战国时），虔南先属吴，后属楚。

前221年（秦始皇二十六年）统一全国后分36郡，虔南属南壄县地，隶九江郡。

西汉时期，九江郡曾改称淮南国、豫章郡，后复名九江郡。虔南仍属南壄县地。

25年（东汉光武帝建武元年）九江郡复名豫章郡。南壄县改称南野县，虔南属南野县地。195年（献帝兴平二年），析豫章郡置庐陵郡，南野隶之。虔南属南野县地。

三国时属吴。236年（嘉禾五年），分庐陵郡置庐陵南部都尉，并析南野地置南安县。虔南属南安县地。

280年（西晋武帝太康元年），改南安县为南康县，虔南隶之。太康三年废庐陵南部都尉置南康郡，虔南属南康郡南康县地。

南北朝时，南康郡曾改称南康国，后又复为南康郡，虔南均属南康县地。

589年（隋文帝开皇九年），改南康郡为虔州。虔南属虔州南康县地。

627年（唐太宗贞观元年），废郡改州，虔南属江南道虔州南康县地。

682年（唐高宗永淳元年），析南康县东南部地置南安县，虔南属南安县地。

733年（唐玄宗开元二十一年），全国析10道为15道，分江南道为江南东道和江南西道，虔南属江南西道的虔州南安县地。

742年（天宝元年），改南安县为信丰县，并在县南部置虔南镇（今龙南县及全南南片）。虔南属信丰县地。

五代十国时，918年（后梁贞明四年），改信丰南部的虔南镇为虔南场。953年（南唐保大十一年），将虔南场改为龙南县。至此，虔南南片属龙南县，北片属信丰县。

1121年（北宋徽宗宣和三年），龙南县改名虔南县。1153年（南宋高宗绍兴二十三年），改虔州为赣州。虔南县复名龙南县，隶属同前。

1287年（至元二十四年），龙南县并入信丰县，虔南属信丰县。1309年（元武宗至大二年），复置龙南县，虔南北片属信丰县，南片属龙南县。

1365年（明太祖吴二年），改赣州路为赣州府。1376年（洪武九年）布政司下设府、县，虔南分属龙南、信丰县。

清初沿明时建置，虔南仍分属赣州府下辖的龙南、信丰两县。1848年（清道光二十八年），划龙南之大龙、新兴、太平和信丰县之镇南、杨溪、步口、回戈7堡为（军事）分防地。分防汛驻观音阁，隶赣县后营。次年改归横营统辖。

1903年（清光绪二十九年），划龙南县的大龙堡、新兴堡和信丰县的镇南堡、杨溪堡、步口堡、回戈堡置虔南厅，隶赣州府。虔南从此列为县一级政权建置。

1913年（民国2年），统一全国县制。虔南厅改为虔南县，隶属江西省政府。

民国3年，全国设省、道、县三级，江西省分为四道，虔南县隶属赣南道。

民国15年，废赣南道，虔南县复隶江西省政府。

1918年6月（民国7年），讨袁护法之役，护国第二军及桂军一部由广东英德、翁源进克全南。

1922年5月（民国11年），北伐军许崇智等部由广东翁源进克全南，后向龙南赣州挺进。另一支赖世璜、李明杨部退守全南月余后转往广东和平等地休整。

1926年12月（民国15年），本县人任甫庭参加赣南农工运动训练班，经人介绍加入中共党组织，为全南最早一名中共党员。

1929年1月（民国18年），毛泽东、朱德率红四军从信丰崇仙来到全南龙下，后转向闽西。同年，中共信丰南区工委钟九妹到龙下开展农民运动，秘密组建军赤卫队和农民协会。同年8月，中共南雄县委书记曾昭秀在社迳曾屋主持成立大曾屋村党小组，为县内第一个共产党组织。

民国20年，国民党出于对共产党领导的革命根据地进行“围剿”的需要，将虔南县划入安全县（包括龙南、定南、安远、寻乌、会昌、上犹、崇义、大余8县），直属于陆海空军司令部南昌行营党政委员会。

民国21年，撤销南昌行营党政委员会，将江西省划为13个行政区，虔南县隶属第十三行政区。

民国22年，第十一、十三两个行政区合并，改名赣南政务专区。次年又改称第九行政区，虔南县隶属第九行政区。

民国24年至31年，全省行政区虽几经变更，但虔南县均属第四行政区。

1949年8月20日，中国共产党领导的中国人民解放军解放虔南。9月1日成立虔南县人民政府，隶属赣州分区行政督察专员公署。11月隶属赣西南行政公署。

1951年6月隶属赣州专员公署。

1954年6月隶赣南行政区公署。

1957年，改“虔”为“全”，称全南县。

1964年5月隶属赣州专员公署。

1978年7月隶属赣州地区行政公署。

1999年6月撤地设市后，全南隶属赣州市至今。