西周时期，境北部属陈国，南部属沈子国。

春秋时期，鲁定公四年（前506年），蔡灭沈子国，境南部自沈入蔡；鲁哀公十七年（前478年）楚灭陈，境北部自陈入楚。

战国时期，境北部由楚入魏，南部属楚。

秦，始行郡县二级制，境北部属新阳县，南部属寝县，统辖于颍川郡。后分立陈郡改属之。

西汉，汉高帝六年（前201年）改新阳县为侯国，境北部属之，后复为县；汉宣帝地节四年（前66年）境中部置阳城侯国，旋废；南部仍属寝县（一作县）。同辖于汝南郡。

王莽篡汉，始建国元年（公元9年）改汝南郡为汝土贲郡，改阳城为新安，改新阳为新明，改寝为闰治。

东汉，始行州郡县三级制，境北部属新阳侯国；南部属固始侯国，后国废为县；中部属汝阴县。同辖于豫州汝南郡。

三国魏，境北部属新阳县，南部属固始县，同辖于豫州汝南郡。

西晋，新阳县废。境北部属宋县，南部属固始县，同辖于豫州汝阴郡。惠帝分汝阴郡置新蔡郡，固始县改属之。

东晋，境北部属汝阴郡宋县，南部属新蔡郡固始县，同辖于豫州。

南朝宋、北魏，境北部属汝阴郡宋县，南部属新蔡郡固始县，同辖于豫州。

东魏，境北部属北扬州汝阴郡宋县，南部属豫州新蔡郡固始县。

北齐、北周，北部属颍州陈留郡陈留县，南部属豫州广宁郡褒信县。

隋，开皇三年（583年）罢郡为州，境北部属颍州陈留县（后更名颍阳县），南部属沈州鱼同阳县。大业三年（607年）罢州为郡，北部属汝阴郡颍阳县，南部属淮阳郡鱼同阳县。

唐，贞观元年（627年），废颍阳，并入汝阴。武德初罢郡为州，天宝元年（1742年）罢州为郡，乾元元年（758年）罢郡为州。境北部属汝阴县，南部属沈丘县，同隶属于颍州（汝阴郡）。

五代，先后为梁、唐、晋、汉、周领地，县境分属颍州汝阴县、沈丘县。

宋，开宝六年（973年）分汝阴北5乡置万寿县。境北部属万寿县（后改泰和县），南部属沈丘县，同辖于京西北路颍州（后改顺昌府）。始置界沟镇于现城区东北部，属万寿县。

金，境分属泰和县、沈丘县，同隶属于南京路颍州。

元，境分属泰和（后改太和）、沈丘县，同隶于河南江北等处行中书省颍州。至元三十年（1293年）改属汝宁府。

明，境北部属颍州太和县，南部属颍州，同隶属于南京凤阳府。城区西北部属河南布政使开封府陈州沈丘县。

清，雍正二年（1724年）境北部改属亳州太和县，十三年改颍州为颍州府，境北部改属安徽省颍州府太和县，境南部改属阜阳县，城区西北部属河南省陈州府沈丘县。

民国初，县境大部属安徽省淮泗道阜阳县、太和县。

民国21年（1932年）设阜阳专员公署，太和县、阜阳县皆属之。

民国24年析阜阳县西部置临泉县，境南部遂划入临泉县。

民国28年城区西北部发展为皂庙镇，属河南省沈丘县，与界首镇、刘兴镇鼎立为界首三镇。

民国36年10月，界首、刘兴、皂庙3镇合并建立界首市民主政府。是年11月境北部属沈鹿淮县（界首县），12月南部属泉阳县。界首市、界首县同属豫皖苏边区行署二分区，泉阳县属四分区。

民国38年3月，豫皖苏边区行署建制撤销，境北部属太和县，中部（现城区）属界首市，南部属临泉县。同辖于皖北行署阜阳专署。

中华人民共和国时期，1953年9月，撤界首市建界首县，划临泉县的洪庄、砖集、陶庙3区，太和县的光武区和税黄区的西部为界首县辖地。隶属安徽省阜阳专区。

1958年11月，界首县与太和县合并为首太县，境南洪庄、砖集2区划入临泉县。翌年4月底，太和县、界首县分置，辖地仍沿原制，属安徽省阜阳专区，至1985年未变。

1988年8月17日，撤销界首县，设立界首市。

1996年底，界首市面积667.3平方千米，总人口70.5万人，其中农业人口61.7万人，辖3个街道11个镇4个乡：西城街道、颍南街道、东城街道、光武镇、芦村镇、刘窑镇、王集镇、陶庙镇、砖集镇、顾集镇、泉阳镇、戴桥镇、大黄镇、田营镇、靳寨乡、任寨乡、舒庄乡、邴集乡。共有249个行政村。市政府驻东城街道。

1997年，刘窑镇更名为新马集镇，镇政府驻新马集。调整后，界首市辖3个街道、12个镇、3个乡。

2004年底，界首市辖3个街道、12个镇、3个乡。