春秋为牟国、齐嬴邑、平州（汉为梁父）邑地。牟国属于鲁国的附庸国，故址在今莱城东10公里处的辛庄镇赵泉村。嬴邑属于齐国，故址在今莱城西北20公里处的羊里镇城子县村。平州邑应在莱城西部，遗址大约在嘶马河、封邱一带。秦置嬴县，（治所在今羊里镇城子县村），属济北郡。西汉增置牟县（治所在今钢城区辛庄镇赵家泉村），又于牟县以北置莱芜县，因治所设在淄水流域的莱芜谷，故名莱芜，故址在今淄川东南的口子乡城子庄。嬴、牟、莱芜三县同属泰山郡。东汉、三国、魏晋沿袭未变。隋唐以后，相继无牟、嬴、平州建置，代之以莱芜。武则天长安四年（704年），县城迁至今莱城东北南文字村。金大定十二年（1172年），县治由南文字村迁至今莱城。

中华人民共和国建国之初县委县政府驻口镇，1953年秋县委县政府由口镇迁至莱城，相继隶属泰安专署、济南市、泰安地区行政公署。

1983年8月改为县级莱芜市，由泰安市代管。

1992年11月，经国务院批准，莱芜市由县级市升为地级市，辖莱城、钢城两个区。