小涧镇位于蒙城西北部，形似粮袋，顺涡、淝二水流向，呈西北东南势，镶嵌在淮北平原上。双锁(齐)、灵(狼)、尖、黄伯等山丘纵贯其中，宛若串珠，是涡河下游一座闻名遐迩的历史文化古镇。

据史料记载，小涧于唐·贞观三年（公元629年）已形成集市，较蒙城置县建城（唐·天宝元年742年）早113年，在本县乡镇驻地中，历史悠久仅次于坛城。

尤其是小涧镇开发较早，据今已有近3000年历史。在小涧未形成集市之前的春秋时期，齐山东北脚下，就矗立一座古城堡——两朝王都“垂惠聚”（今红城）。东汉梁王刘纡在此定都，西晋豫章王在此建行宫，五代末，为刘金定练兵的演武场。此城内外两道城墙，内城有梁王金銮殿遗址；外城南北长1300米，东西宽1190米，凸出地面的城墙遗址和护城河至今仍存。据史料记载，此城建于春秋初期，战国、秦、汉、晋沿用，为这一时期小涧地区的经济商贸、行政文化中心，直至隋末唐初，水路渐成为交通运输的重要通道后，才逐步迁于4里之遥的涡河之滨小涧。今红城被列为县级文保单位。

上述诸多史料，不仅足以证明小涧在千里皖北地区开发较早，历史悠久，而且在隋末唐初至民国中期的近千年中，为蒙城地区罕见的重镇。

小涧镇的文明源头可上溯到新石器时代，夏氏族在涡淝流域繁衍生息，创造了古老的文化。目前，全镇有县级历史文化名胜保护区4处，县级重点文物保护单位5处，名胜古迹40多处，地下文物遗存十分丰富。2002年，小涧镇被安徽省人民政府公布为首批省级历史文化名镇。《史记·陈涉世家》、《水经注·涡水》、《后汉书·郡国志》所载的下城父、垂惠聚两座古城均在其境内。下城父古城址已成为平地，垂惠古城址至今仍清晰可见。垂惠聚又名礼城，今名红城，外城南北长1300米，东西宽1190米，内城长宽为外城的二分之一，原土砌城墙宽7米，高3.4米。刘和惠著《楚文化的东渐》(湖北教育出版社，1995年)称“此城始建于春秋，战国、汉代沿用。”以红城为中心，方圆20平方公里范围内文物十分丰富。地面遍布绳纹陶片和汉代砖瓦等，红城东北3公里处有一原始社会遗址，叫芮集崮堆，内涵有新石器时期、商、周等文化层。红城四周古墓群很多，个别地方曾一次出土商、周、春秋时期的青铜鼎十余件。这些文物说明小涧的历史悠久。近几年，考古学家又在红城城墙夯层内及城垣附近，发现属龙山文化的器盖残片和属商代的陶禹残片。从而证明红城遗址文化内涵可上溯到更早的时期。这一史前时代及商代遗址的发现，丰富了人们对小涧乃至淮北平原史前文化及商代文化的认识。

秦二世二年(公元前208年)“腊月，陈王(陈胜)之汝阴，还至城父，其御庄贾杀以降秦。”西汉初年(公元前202年)蒙城西北境属梁国蒙县，建治红城。东汉建武三年(公元27年)，光武帝刘秀剿灭了割据睢阳(今河南商丘市)的梁王刘永。同年七月，永将苏茂、周建扶刘永之子梁王刘纤南奔，都垂惠聚。次年七月，刘秀亲到谯陵(今安徽亳州市)督战，派捕虏将军马武、偏将王霸率军攻打垂惠城，月余未下，只好撤军。建武五年二月，刘秀再次派马、王二将攻打垂惠城。此次，他们吸取上次失败教训，一举攻下垂惠城。这一仗以奇谋怒战取胜之特色载入史册，后被明代军事家刘伯温收入他的著作《百战奇略》中。西晋泰始二年(266年)，武帝司马炎伐吴路过红城，迁中州豪族侨居于此。西晋永嘉五年(311)七月，豫章王司马端被群臣拥为太子，都礼城，建行台。九月，石勒军克礼城，司马端被俘。东晋时于红城侨置蒙县，为谯郡治。红城从春秋古邑到梁王刘纡、太子司马端的都城，以及作为县冶、郡治，历时千余载，一个乡镇两次建为王都，在中国历史上是罕见的。

南北朝时，宋、 魏、齐、梁诸国，先后在小涧境内进行了数十次战争，给广大人民带来灾难。到了唐代始有小涧之名，是取双锁山、黄伯山诸山涧水汇成溪流，经镇中康涧桥入涡河而得名。宋元以来，此名未有改变。明嘉靖年间，改名为惠安乡。清朝中叶为西北路乡，清光绪元年(1875)恢复小涧之名，首设小涧镇。

民国十三年(1924)改为小涧区。新中国成立后，先后设小涧区、小涧乡、小涧公社。

1979年，恢复小涧区，新置小涧镇(属小涧区)。

1992年，撤小涧区和小涧镇，建置副县级小涧镇，辖32个村民委员会，面积118平方公里，人口6万。

一千多年前，为保护家乡、统一和保卫祖国建功的女英雄刘金定就诞生在小涧。金定故里，世人瞩目，数千年的历史，名人辈出，肥沃的土地，名特物产丰富，到处留下了许多人文景观，文物胜迹。可谓物华天宝，人杰地灵。今逢盛世，得天时、地利、人和之厚，文化之光辉照两淮，文物大镇经济腾飞。数千年璀璨古文化与欣欣向荣的现代精神文明、物质文明相应增辉。正因如此，1998年3月，中国社会科学院考古研究所王吉怀教授、许宏博士考察小涧后，分别题词：“文化宝地，人才云集”、“小涧文物源远流长，功在当代，利惠千秋”。