早在公元前云浮已遍布人类生活的踪迹。早期，云浮曾以多种地名如

：端溪县、晋化县、永闻县等，云浮部分地属其中。

《新唐书·地理志》载，唐武德四年，621年，设勤州，领铜陵、富林二县。天宝元年，742年，将全国各州一律改称为郡，勤州改称为云浮郡，这是“云浮”地名的由来。

云浮县的前身则名东安县。东安县的建制较晚，其经过情况如下： 明万历三年，1575年，聚居于罗旁山区，今罗定、云浮、郁南三县毗连之地，的瑶、壮族人民不堪明王朝统治者的剥削、压迫，举行了大规模的武装起义。四年，1576年，明王朝派两广总督、都御史凌云翼统兵10余万，进剿起义军。

经过4个月的激战，官军俘斩了4.3万多名起义反抗的瑶、壮族人民，血腥镇压了起义运动。五年，1577年，为了加强对罗旁山区的统治，明朝升泷水县为罗定州，直隶广东布政使司：析德庆州的晋康乡，高要县的杨柳、都骑、思劳、思办等四都，新兴县的芙蓉一、二图，以及泷水县的南乡、富林二所地，建置东安县，今云浮，和西宁县，今郁南，一起归罗定州管辖。

东安县的县治在麒麟山，又名石麟山，即今云城街道的烈士公园一带。首任知县肖元冈于同年闰八月主理建城造字的工程，经过半年许，在六年，1578年，二月，城垣建成县衙、军署，又名参将府、学宫、分司、社学、仓库等管理军政文教钱粮的机构也先后建立起来。

1912年，废除了道、州、府、厅等的行政区的建制，在省

之下设置若干专区，繁盛都邑设市，其余一律称县。原罗定州及其所辖的东安、西宁，今郁南县，两县同隶西江，肇庆，专区，都是县制。结束了罗定州长达几百年的管辖时间。

民国三年，1914年，改名为云浮县，隶属粤海道。

民国17年隶属广东省西区绥靖公署，民国25年隶属广东省第三行政督察专员公署。

当时政府鉴于全国存在3个东安县，广东省的东安县，直隶省〔后改名河北省〕的东安县，湖南省的东安县，易生误会，于是保留湖南省的称谓，把直隶省的改名为安次县，广东的取古代云浮郡名为县名，从此称云浮县。

1949年10月1日，中华人民共和国成立后，隶属西江专区。

1952年属粤中行政区。

1958年与新兴县合并称新云县，属高要专区。

1959年4月新云县改称新兴县，属江门专区。

1961年4月，恢复云浮县建制，属肇庆专区。

1988年1月，属肇庆市。

1992年9月3日，撤销云浮县建制，设立云浮市，县级，由省直辖，肇庆市代管，以原云浮县的行政区域为云浮市的行政区域。

1994年4月5日，国务院批准将云浮市升格为地级市，辖区范围：云城区、新兴县、郁南县。

1994年4月28日，广东省人民政府委托云浮市代管罗定市。辖区范围：云城区、新兴县、郁南县、代管罗定市。

1996年1月9日经国务院批准由云城区分设云安县，同年7月11日正式挂牌成立。辖区范围：云城区、新兴县、郁南县、云安县、代管罗定市。

2014年9月经国务院批准，云安县撤县设区，至此，云浮辖云城区、云安区、新兴县、郁南县，代管罗定市。