唐山历史悠久，爪村遗址早在4万年前就有人类劳作生息。

商代属孤竹国，战国为燕国地，汉代属幽州。

清代分属直隶省永平府和遵化直隶州。

清光绪二年（1876年），李鸿章，派轮船招商局总办唐廷枢，谐同美国矿师马立斯到开平镇勘测，勘察结果很好。唐廷枢向李鸿章报告，认为要雇用洋匠，采用西法，开采煤铁，大有作为。1877年，李鸿章指定唐廷枢主持开平煤矿的开采工作。因而当年建立开平矿务局，在桥头屯买地造房，购置机器。随着煤矿的发展，人口增多，商贾繁盛，1878年，桥头屯升格为镇（乔头镇），与开平镇平行。

清光绪二十四年（1898年），因乔头镇以镇北有“唐山”，而改名为唐山镇，此为唐山行政名称之始。

民国元年（1912年）政区建制均袭清制，1929年，直隶省改称河北省，1939年1月28日，伪冀东防共自治政府鉴于唐山具有经济、政治上的特殊地位明令唐山设市，初称“唐山市政府”，后改称“唐山市公署”，日本宣布投降后，驻北平的国民党派员接收日伪政权，设置督察专员公署，1946年4月，中共河北省委员会第132二次会议通过唐山设市，同年5月5日，唐山市政府成立。

1948年12月12日，唐山解放。

1984年12月15日，国务院批准唐山市为全国13个“较大城市”之一。