相传原是荒山坡，坡下有座庙，庙内主要供奉的是张公候王菩萨，故名。解放前属张公乡和高桥乡，1958年成立张公公社，1959年并入罗溪公社，1960年设江西农学院张公分场，1961年复设张公公社，1984年建乡，1995年建镇。

1997年，面积44.9平方千米，人口3万，辖街东、街西2居委会及郑坊、城上、邵窝、铜岭、老王、张庙、新城、渣兰、牛溪、党溪、全富、九房12个行政村。