1862年（清同治元年）放荒招垦前，泥河（古称濠河）两旁已有人定居

宝山镇

，此地土壤肥沃，旱涝保收，再从泥河向北望去，会看到无数小山包，故当地人称此地为“宝山”。原属呼兰副都统，1885年（清光绪十一年）后，划归绥化理事通判厅管辖。

民国时期，属永安镇管辖范围。东北沦陷后，1935年设宝山保，1941年改设宝村。“九三”抗日战争胜利后，置宝山区。

1951年11月改为第二区。

1956年4月，并村划乡，置宝山乡。

1958年8月，将胜利乡和新立乡并入宝山乡，成立宝山人民公社。

1961年将宝山公社划分为宝山、胜利两个公社。

1984年3月，将宝山公社改为宝山乡。

1985年4月，改为宝山镇，隶属当时的县级绥化市。

1999年12月，县级绥化市变县级北林区，宝山镇隶属北林区。2006年，绥化市委、市政府将宝山镇划归绥化经济技术开发区。