明、清时期，小平阳属浔州府贵县管辖山西二里上团。

民国时期，隶属贵县樟木区。1950～1952年3月，青岭、大村、五山3个乡合并为贵县第4区，区公所设在五山施村。

中华人民共和国成立后，1952年8月24日，贵县第4区划归来宾县。区公所迁至青岭街。

1953年1月，青岭改称来宾县15区。

1955年5月12日，15区改称青岭区。

1958年1月17日，青岭区分出青岭、五山、和平3个乡。同年8月25日，青岭乡改称青岭人民公社。

1961年6月15日，成立青岭区。

1968年3月，成立青岭区革命委员会。同年12月5日，在区改社中，青岭分为青岭、五山两个公社。时称青岭公社革命委员会。

1980年11月，青岭公社革命委员会改称青岭公社管理委员会。

1984年10月，撤销青岭公社设小平阳乡。大队改称村民委员会。

1987年村民委员会改称村公所。

1995年6月22日，小平阳撤乡设镇。

1996年村公所复称村民委员会。2003年，长山村民委员会改称长山社区，刘平村民委员会改称东平社区，至今不变。

小平阳政府曾3次搬迁，1964年以前驻青岭街，1964年从青岭街迁至小平阳西街，1995年从西街迁至镇东经济贸易区至今。