灵武古称灵州，县制历史已达2200年。水洞沟遗址的考古发掘证明，早在3万年前的旧石器时代晚期，人类就在灵武这片神奇的土地繁衍生息，是中华民族远古文明的发祥地之一。

西汉惠帝四年（公元前191年）置灵洲县，北魏置薄骨律镇，北周设灵州，隋设灵武郡，均为宁夏平原最高政区机构。

唐代，灵武为灵州都督府和朔方节度使驻地，统七军府，辖三受降城，军事上辐射的范围远达西北和内蒙古地区。“安史之乱”爆发后，太子李亨在灵武即位是为肃宗，升灵州都督府为大都督府。肃宗在灵州调兵遣将，号令天下，平定叛乱，重兴中唐，更使灵州声威大振，名闻遐迩。

宋咸平五年（公元1002年）党项族首领李继迁攻下灵州，改灵州为西平府，为西夏王朝的建立奠定了基础。西夏建国后，西平府与兴庆府（西夏都城，今银川市）并称东西二京。

元明清三代，灵州管辖的地域逐步缩小，但地位依然重要。元置州牧，属宁夏府路。明设千户所，直隶于宁夏卫。清废卫所，灵州为宁夏府直隶州。

民国二年（公元1913年）改灵州为灵武县，属宁夏省，将灵武县东南之萌城，隰宁、惠安、盐积4堡划出并入盐池县，灵武县境进一步缩小。

中华人民共和国成立之初，灵武县属宁夏省，政区分为1市（吴忠市）6区，1950年吴忠市析出。

1954年，宁夏省撤销并入甘肃省，设河东回族自治区，灵武县属之。

1955年，又将郭家桥乡金银滩划属吴忠市。

1958年成立宁夏回族自治区，灵武县属自治区管辖。

1972年，成立银南地区，灵武县为所辖7县市之一。

1996年，灵武撤县设市，交由吴忠市代管。2002年，灵武自吴忠市析出，由银川市代管。