巴马瑶族自治县旧名万冈县，民国24年（1935年）元月建置，驻地在定马乡巴马村（今巴马镇）。

巴马地域，据史料记载，秦统一前，境地属古百越地。秦始皇33年（公元前214年），秦出兵统一岭南地区，巴马境地属桂林郡。汉初，隶属南越国。元鼎六年（公元前111年），汉武帝平定南越，置九郡，巴马境地以盘阳河为界，河以北属定周县地（治所今宜州市），河以南属增食县地（治所今田阳县），同属交州郁林郡。三国因之。晋朝大兴元年（公元318年），置晋兴郡，巴马境地属晋兴郡增翊县。隋朝开皇九年（589年），隶属郁林郡宜化县。

唐懿宗咸通三年（862年）岭南道分东道和西道，在邕管境内的少数民族地方设置羁縻州、县垌。在县境地东南部始设置羁縻恩城州（治所在今那桃周旧村），其余境内大部属羁縻归乐州，同隶属邕州都督府。北宋初年，仍沿唐制，施行“以夷治夷”的土司制度。崇宁五年（1106年）巴马境地北部置羁縻文州，后置绍南寨、思阳县（州、寨、县治所在今盘阳一带），属庆远府（今宜州市）；境地南部置羁縻上隆州（治所在今燕洞），属横山寨（治所在今田东县），隶属邕州（治所在今南宁市）。元袭，文州属湖南道思州民安抚司，上隆州属田州路。明洪武十二年（1379年），东兰知州归附，省文州入，巴马境地北部属东兰州地，南部属田州府。嘉靖七年（1528年），王守仁抚定田州，降田州府为州治，因分州地置十九土巡检司，在巴马境内的南部诸地置岜马、万冈、篆甲（今甲篆）、下隆（今平林至大化乙圩一带）、砦桑（今局桑）土巡检司。清雍正七年（1729年）置哨，巴马境地北部哩喇哨（今盘阳一带）、泗苟哨（今凤凰一带），改属东兰州，同属庆远府。光绪元年（1875年），田州改土归流，设置恩隆县，巴马境地原属土田州的上隆、下隆、篆里一、二、三都（今那桃乡）划归恩隆县管辖，恩隆县治设于燕洞圩（光绪五年县治迁至平马圩）；余下的篆里四都（今巴马）、龙篆三里（今甲篆）归百色同知，同属百色直隶厅。

民国初期，巴马境地分属凤山、田东和百色县。

巴马地置边陲，大革命时期起，这里是右江革命根据地的中心之一。

1934年冬至1935年初，国民党广西省当局出于镇压革命需要，以“开化边民，施政便利”为由，设立万冈县，县治在定巴乡巴马圩；辖境系原凤山县的盘阳、凤凰乡，百色县的定马、月篆、所略、百羌乡，田东县的巴品、仁德、燕乐、洪都、羌桂、灵歧、凤桥、鹅桥、罗贤等乡；1935年6月，增辖原凤山县的福邦乡，共计16个乡，137个村（街）。

1949年12月1日，万冈县解放，境地、县治袭旧万冈县不变。

1953年4月23日，政务院正式批准，裁撤万冈县。裁撤后，月篆、所略、福邦归凤山县管辖；凤桥、鹅桥、百羌归田阳县管辖；西山、盘阳、定马、凤凰归东兰县管辖；罗贤、仁德、巴品、羌桂、灵歧、洪都、燕乐归田东县管辖。

1956年2月6日，成立巴马瑶族自治县，县治在巴马街，1956年12月，属桂西壮族自治州百色地区。

1958年1月百色地区改为百色专区，巴马亦属百色专区管辖；1965年5月巴马县改属河池专区管辖；1971年改属河池地区。2002年6月，河池地改市，巴马瑶族自治县属河池市管辖。