三国吴永安三年（260），吴主孙休罢都尉，置建安郡，立昭武镇，后升为昭武县。西晋元康元年（291），惠帝司马衷为避其祖司马昭讳，改名邵武县。其时建安郡属江州管辖。东晋太宁元年（323），又改邵武县为昭阳县（一作武阳）。南朝刘宋永初元年（420），又改邵武县，仍属建安郡。隋开皇九年（589）。全国郡、县俱废，邵武改属泉州（即今福州）。开皇十二年（592），恢复邵武县，并将绥城县（今泰宁县）并入邵武。其时，邵武县属抚州。大业元年（605），抚州改为临川郡，邵武属临川郡。

唐武德四年（621），绥城从邵武分出，复立为县，邵武属建州。贞观元年（627）。建州归江南道管辖。后晋天福元年（936）。改邵武县为昭武县。后汉乾祐元年（948），改昭武县为邵武县。

宋太平兴国四年（979），邵武设军，县为军治，军属福建路辖。同年划邵武财演镇为光泽县。

元至元十三年（1276），改邵武军为邵武路，县为路治，路属福建道管辖。

明洪武元年（1368），改邵武路为邵武府，县为府治，府属福建布政使司管辖。清隶属关系不变。

民国2年（1913），废府存县，属福建省建安道。

民国16年废道后直属福建省。

民国23年，邵武属第九行政督察区。

民国24年9月，属第三行政督察区。

1949年5月，邵武县属福建省建阳专区。

1956年建阳专区改南平专区，属之。

1970年复名建阳地区，属之。

1983年10月，改县为市。

1988年建阳专区又改南平专区，属之。

1994年9月，国务院批准撤销南平地区行政公署，设立地级市，属之。

1990年，邵武市辖4个街道办事处、2个镇、13个乡，共19个乡（镇）、街道，即：昭阳、通泰、水北、晒口街道办事处，拿口、和平镇，城郊、水北、屯上、沿山、大竹、吴家塘、卫闽、洪墩、张厝、大埠岗、肖家坊、桂林、金坑乡。

1992年7月，撤销水北、大埠岗2个乡建制，分别设立水北镇、大埠岗镇，其辖区和政府驻地不变。同年11月，撤销洪墩、沿山2个乡建制，分别设立洪墩镇、沿山镇，其辖区和政府驻地不变。

1994年11月，撤销城郊乡建制，设立城郊镇，其辖区和政府驻地不变。撤销屯上乡，设立下沙镇，以原屯上乡行政区域为下沙镇行政区域，镇政府驻地下沙。

1996年3月，撤销卫闽、肖家坊2个乡建制，分别设立卫闽镇、肖家坊镇，其辖区和政府驻地不变。

2000年6月，撤销大竹乡，设立大竹镇，其辖区和政府驻地不变。同年7月，吴家塘农场改制，设立吴家塘镇，以吴家塘乡及吴家塘农场区域为吴家塘镇的行政区域，镇政府驻地吴家塘。

2005年底，邵武市辖4个街道办事处、12个镇、3个乡，共计132个行政村、36个居委会。