西汉时置绵诸、上邽2县。唐为秦州上邽县。元为秦州成纪县。明废成纪入秦州。清雍正七年（1729年），秦州升为直隶州，隶甘肃承宣布政使司。

民国二年（1913年）2月，秦州直辖地改为天水县，治今天水市区，隶属甘肃省陇南道（不久改称渭川道）；三岔厅建置保留，撤州判署，设警察分厅。

民国16年（1927年），改渭川道为渭川区行政公署。

民国24年（1935年）改为甘肃省第四行政督察专员公署，驻天水县（今天水市）。

1949年8月3日成立天水县人民政府，县治设今天水市，隶天水行政督察专员公署。9月初，成立了天水市人民政府，管辖原县城及近郊区，县城以外农村为天水县。今麦积区境属天水县。

1950年2月，西北军政委负会正式行文批准设立天水市（县级建置），治今天水市，天水县移治天水井（今秦州区天水郡村）。

1958年12月，天水县并入天水市。

1961年12月，县、市分设，恢复天水县建制，县治设今秦州区天水郡，1962年7月迁北道埠（今麦积城区）。

1984年9月，县级天水市改为副地级市，划原天水市5个乡7个办事处设立秦城区，划原天水县马跑泉、甘泉、麦积、二十里铺、社棠5乡和北道镇设置北道区（二区均为县级建置，时称区公署，为市政府的派出机构），其余乡仍组成天水县，县、区均隶天水市。

1985年4月，北道区撤销，属地仍归天水县。同年7月，国务院批准撤销天水地区和天水县，天水市升为地级市，设立秦州、北道两个县级区。原天水县西南部17个乡划归秦州区，其余22个乡镇及北道镇组建北道区。