秦以前，李集周围方圆百里尽为湖泽，秦时因开挖“潼河”泄洪，始称“潼泽”，西汉时改为“潼滤”，安史之乱时，山西曲沃人迁陡至此，且王姓人众，于唐乾元三年更名为“王集”。元初经商潘姓势力渐盛，改称“潘王集”。明嘉靖年间，山西洪洞县李氏三兄弟携巨资至此经商发家成旺族，遂改为“大李集”并延用至今。

民国17年（1928年）改称三山市。商业活动盛极一时，扬名南北，素有“小上海”、“小南京”之誉。

民国33年前后，泗灵睢县抗日民主政府建置李集区、李集市。

1949年仍为李集区，1957年撤区并乡为李集乡。

1958年改为李集人民公社，1983年复称李集乡，1987年改为李集镇。