“百色”由“博涩寨”演变而来，系壮语，意为山川塞口地形复杂的地方。一说系壮语“拍洗衣服的地方”之意。据传在鹅江与澄碧河汇合处，有一无底深潭，岸边有村庄，村女经常在此洗衣，因而得名。

秦始皇在岭南置三郡（桂林郡、南海郡、象郡），今百色属象郡。

秦末汉初，百色为南越国属地；汉武帝平定南越国后，今百色属郁林郡增食县地。

三国时，今百色属吴，仍归郁林郡增食县地。

晋初，增食县改为增翊县，今百色属晋兴郡增翊县地。

南北朝，百色属晋兴郡增翊县地。

隋朝，百色属郁林郡宣化县地。

唐朝，在今百色地置羁縻添州（属江南道黔州都督府），归乐州和武隆县。

五代十国，今百色先属楚，后属南汉，仍称添州、归乐州和武隆县地。

宋朝，除归乐州不变外，改武隆县为武龙县，置古天县（县治在今那毕乡大和村），属羹州路添州。增置龙川州、唐兴州、睢暇州。

元朝，升田州为田州路，今百色仍称武龙县，羁縻归乐州、龙川州、唐兴州、睢州、天州（宋古天县）。属田州路。

明初，撤销羁縻龙川州、归乐州、唐兴州、睢暇州以及武龙县，其地并入田州。

洪武二年（1369年）田州路升为田州土府，嘉靖七年（1528年）田州土府降为田州土州。今百色为田州土州地。

清康熙三年（1664年）田州土州改属思恩府，府治驻武缘县（今武鸣县）。

雍正七年（1729年）分田州土州地设厅制，迁思思府理苗同知驻百色谓百色厅。翌年建城。这是百色得名之始。

光绪元年（1875年）田州改土归流，升百色厅为百色直隶厅（厅治驻今百色镇）。统辖恩阳州判（今田阳地）、恩隆县（今田东县）、上林土县（今田东思林镇）、下旺土司（今平果县海城地）等地。

同年，划下田里（今四塘乡全境、那毕乡七塘一带、百色镇全境、永乐乡百练村等地）、武隆县（今百色百兰乡、龙川乡及田阳坤平乡之一部）、龙篆里（今巴马县西部）、篆里四都（今巴马县城、巴料、定马等中部地区）归百色厅治所属。这是百色有属之始。全境东西长360里，南北宽95里。

民国元年，百色直隶厅改称百色府，二年废府设百色县。原百色直隶厅、百色府所属的土州、土县均划出另置县，与百色县同属田南道（民国2年（1913年）设，道治驻百色）。

民国15年（1926年）废道。

民国18年（1926年）12月11日，成立百色县苏维埃政

府，县下属的龙篆里一都、二都、三都、四都、武隆、龙川（时属凌云县）等六个区、五十一个乡分别成立了区、乡苏维埃政府。

民国19年（1930年），广西始建民国制度，百色县属百色民团区。

民国23年（1934年）设行政监督区（民国29年改称行政督察区），百色县属之。

民国31年（1942年）至解放前夕（1949年），广西改划为7个区和15个区，百色县属第五区。区署驻百色。

1949年12月5日百色县解放，仍称百色县，归百色地区领导（行署驻百色镇）。

1983年10月经国务院批准，称百色市（县级）。

2002年6月2日，国务院批准（国函[2002]47号）同意撤销百色地区和县级百色市，设立地级百色市。市人民政府驻新设立的右江区。百色市设立右江区，以原县级百色市的行政区域为右江区的行政区域。百色市辖原百色地区的田阳县、田东县、平果县、德保县、靖西县、那坡县、凌云县、乐业县、西林县、田林县、隆林各族自治县和新设立的右江区。6月19日，自治区政府以桂政发[2002]32号转发国务院批文。

2005年，百色市撤并乡镇50个。其中：右江区5个、田阳县5个、田东县3个、平果县5个、德保县6个、靖西县5个、凌云县2个、隆林各族自治县5个、西林县3个。从6月8日起，全市正式启动实施乡镇撤并工作，并在6月底前完成。

2013年8月，经自治区批准，右江区永乐乡建制变更为镇建制，百色市一同获得撤乡建镇的还有田阳县五村乡、平果县凤梧乡、隆林各族自治县德峨乡、西林县那劳乡等4个乡。

2015年8月1日，《民政部关于同意广西壮族自治区撤销靖西县设立县级靖西市的批复》（民函〔2015〕247号）：撤销靖西县，设立县级靖西市，以原靖西县的行政区域为靖西市的行政区域，靖西市人民政府驻新靖镇新华街339号。靖西市由广西壮族自治区直辖，百色市代管。