夏时康境为《禹贡》雍州之域，

商、周为氐人住地。察代康属秦辖白马氐部族住地。

东周战国时期属苴国境内（周烈王姬喜八年,前368年开明氏蜀国灭“昔阝”、“平周”二国后封其弟为汉中侯置藩属苴国，定国都吐费城）。

周慎靓王姬定六年,前316年，秦惠王嬴驷派张仪、张若、司马错率队走石牛道（今剑阁金牛道、剑阁道）灭蜀吞苴，置蜀郡，分其地为三十一县，康县时属蜀郡葭萌县（县治今昭化区石盘村）境内。

西汉武帝元鼎六年（公元前111年），置武都郡，康地属之。郡治洛谷（今西和县洛峪）。

东汉光武中元元年（公元56年），武都郡由益州刺史部改隶凉州刺史部，郡治移下辨。康地为武都郡之一部。

三国魏文帝分陇右为秦州，武都郡属秦州。

蜀汉建兴七年（229年）蜀取武都、阴平二郡归并于蜀。魏景元四年（263年），魏将邓艾率兵南下，攻灭蜀汉后，以原蜀汉辖地分梁、益二州，武都郡入梁州，郡治依旧。

西晋郡属多变，但康境一直属武都郡。

东晋从304年到420年，割据纷起。西晋元康六年（296年），氐人杨茂搜建立仇池国后，康随武都郡入仇池国。咸安元年（371年）前秦克仇池，设南秦州，置刘史，武都郡属之。

南北朝康地曾先后隶属南朝宋、北魏、西魏和北周。宋文帝元嘉十九年（442年）平仇池，武都郡入宋辖南秦州。

北魏始置“平乐县“，境初属梁州修城郡，太平真君七年（446年）改属南秦州修武郡。魏孝文帝太和二十一年（497年）复置修城郡，郡治广长，康地分属修城郡所辖平落、广长等县。

西魏文帝大统十二年（546年）后，康境改属南秦州修城郡。废帝元年（552年）改武都郡为武州，治武都石门。废帝三年（554年）又改南秦州为成州，康境随属成州修城郡之广长、平落等县。建德元年（672年）废修城郡并入武州，隶属北周，康境随入属之。

隋开皇元年（581年）武都郡改为武都县，康属之。大业三年（607年）后，今康县迷坝、大南峪、王坝乡之一部属顺政郡，余属武都郡。

唐武德元年（618年）改武都郡为武州，康随覆津县属武州。天宝元年（742年）复改武州为武都郡。乾元元年（758年）又还为武州。广德二年（764年）被吐蕃攻占，州、县俱废。咸通年间收复，康仍属武州覆津县。唐昭宗景福元年（892年），武州改名为阶州，治所移迁兰皋镇（今康县大南峪）。

五代十国后梁贞明元年（915年），阶州入前蜀，州治兰皋镇。

后唐庄宗同光三年（925年）阶州入后唐。长兴三年（932年），州治由兰皋镇迁福津县（今武都三河）。清泰二年（935年）入后蜀，寻仍收复。

后晋天福二年（937年），阶州入后晋，仍治福津。后晋出帝开运三年（946年），契丹入开封，中原大乱。雄武节度使何建（一作何重建）以秦、成、阶三州降孟艇，康随州入后蜀。

后周显德二年（955年），世宗伐蜀，成、阶二州降后周。

北宋宋太宗至道三年（（997年）改道为路，阶州属陕西路。仁宗庆历元年（1041年），阶州划入秦风路。神宗年间，又分陕西为永兴路和秦凤路，阶州属秦凤路，下辖福津、将利二县，康境属福津县。后将峡西地分为利州路和夔州路，阶州入利州路。

南宋绍兴十四年（1144年），又分利州路为东西两路，阶州属利州西路。嘉定十二年（1219年）合并利州东、西两路为利州路，阶州仍属利州路。

元统一中国后，阶州属陕西行中书省巩昌都总帅府管辖，府治陇西县，州治柳树城（今武都角弓柳树城）。元世祖至元七年（1270年）废福津、将利二县并入阶州。

明阶州属陕西布政司所辖巩昌府，康地为阶州之域。洪武四年（1371年），降州为县，移治今武都，十年（1377年）复为州。六月设七防关（今云台镇大山贫）巡检司。

清阶州辖于陕西右布政使司之巩昌府。康熙六年（1667年），改右布政使司为甘肃布政使司，阶州随入甘肃省，雍正七年（1729年）升阶州为直隶州，康境设白马关（今云合）州判。乾隆元年（1736年）分置白马关为阶州直隶州分州（即右堂督粮厅），辖今康县。