祁县为国家历史文化名城之一，其历史可以追溯到新石器时代。对梁村古文化遗址考证证明，早在距今五千年以前的母系氏族公社时期，先民们就在祁县这块土地上繁衍生息。

春秋时，祁地属晋，当时的祁地，几乎包括整个晋中平川。公元前556年，晋平公将祁地赐给大夫姬奚作食邑。姬奚以地为姓，改姓为祁，即历史上有名的“外举不避仇，内举不避亲”的祁黄羊。他的城邑在今祁县的古县镇下古县村。公元前514年，祁奚的孙子祁盈因故被杀，食邑随之没收。晋分祁奚之田为邬（今介休）、祁（今祁县）、平陵（今平遥、文水）、梗阳（今清徐）、涂水（今榆次、太谷）、马首（今寿阳）、盂（今盂县）等七部分。祁县的境地，基本上是从那时候确定的。

战国时期，祁地属赵国。

秦代，祁地属太原郡。

西汉初置祁县。王莽篡汉，改祁为示，后复祁县。

晋代恢复分封制，祁县属太原国，县城迁到祁城村。

北魏时，祁县属大原郡。孝文帝太和年间，迁县城于今址。北齐天保七年废祁县。

隋开皇十年重置县治，属并州。

唐武德三年，属太州。后复属并州。

金代，在县东南之团柏镇设帻州，县属之，不久帻州废，县属晋州，改祁为祈。

元大德年间，复称祁县，属冀宁路。

明、清两代属太原府。

民国初年属冀宁道。

民国二十六年（1937年）底属山西省第四行政区。

解放后属榆次专区，后改称晋中地区，1999年撤销晋中地区设立晋中市，属晋中市。