据甲骨卜辞及1982年在清涧李家崖出土文物考证，榆林市榆阳区商代为游牧部族——鬼方栖居地。西周至春秋初，境内先后为严狁、翟人游牧古族占据。春秋周襄王十七年（前635），晋文公发兵“攘翟”，占据圁水（无定河）、洛水（洛河）间地域，榆阳区归晋国。战国周威烈王二十三年（前403），晋大夫韩虔、魏斯、赵籍自为诸侯，三家分晋，榆阳区属魏国。周显王八年（前361），魏筑长城，“塞固阳（今包头市南），自郑（今陕西华县）滨、洛（洛河）以北置上郡，辖十五邑”。上郡，是榆阳区史乘最早的建置记载。周显王四十一年（前328），秦国打败魏国，魏被迫将上郡15邑献纳于秦，秦按旧置设上郡，治所于肤施（在今榆阳区鱼河附近），榆阳区属肤施县辖。周赧王十八年（前297），赵惠文王发兵西攻秦国，占据上郡肤施等地。四十五年（前270），秦昭王反击赵国，复夺上郡失地，并灭义渠，置北地、上郡、陇西等郡，筑长城以拒翟人。榆阳区归秦上郡。

秦始皇二十六年（前221），秦统一六国实行郡县制。榆阳区南部隶属上郡肤施县，北部隶属新秦地之九原郡，其县置不详。

汉高祖元年（前206）二月，项羽自立为楚霸王，封秦降将董翳为翟王，占据上郡，称翟国。二年（前205）翟王降汉，汉再置上郡。三年（前204），匈奴右贤王部南下占抵上郡肤施“旧塞”（旧塞，即秦昭襄王时筑的长城）。时榆阳区北部为匈奴占据，南部归汉上郡肤施县。汉元朔二年（前127），武帝北逐匈奴，收复河套地区。此后，增置郡县，屡迁关东等地贫民于陇西、北地、西河、上郡等地，并将归降的匈奴人、西域龟兹国人安置在这些地区，其聚居地称为属国，设属国都尉治所，派都尉（军队官员）监管。汉武帝太初四年（前101），榆阳区设有龟兹属国都尉治所（史籍亦称龟兹县，在今牛家梁乡古城滩），境南（今鱼河地带）属重置的肤施县、境东（今安崖地带）属新置的鸿门县。东汉初仍袭旧置。东汉永初二年（108）羌、南匈奴人反汉，汉廷镇压失败，五年（111），下诏将上郡治所由肤施迁至衙县（今陕西白水县东），所领肤施、龟兹等县废。永建四年（129）上郡治所迁回肤施。次年，汉廷下诏将死罪囚犯遣戍北地、上郡等地。永和五年（140）南匈奴联结羌、胡人再起攻汉，杀上郡都尉，占据西河、上郡等地。上郡治所二次迁至夏阳（今陕西韩城县南），榆阳区被南匈奴及羌胡占据，无建置。

三国至西晋，榆阳区为羌胡占据，未置郡、县。东晋大兴三年（320），前赵帝刘曜（南匈奴人）出兵征服上郡氐羌人，上郡，归前赵。咸和三年（328），羯人石勒打败刘曜建立后赵，统辖上郡。升平三年（359），南匈奴刘卫辰（赫连勃勃父）统部驻屯代来城（今境内巴拉素白城台），榆阳区大部属卫辰地盘。义熙三年（407）赫连勃勃建立大夏国，榆阳区属大夏。不久筑大夏国都统万城（今靖边白城子）。

南北朝时期，北魏始光四年（427），北魏击破大夏后，设统万镇，榆阳区属北魏统万镇。太和十一年（487），北魏将统万镇改置为夏州（治所设统万城），领化政、阐熙、金明、代名4郡9县。榆阳区北部属代名郡，属县无考。南部置革融县，属化政郡。西魏文帝大统十二年（546），化政郡改称弘化郡，县置仍循北魏旧制。

北周初，撤革融县，辖地并入弘化郡岩绿县（治所在今横山县）。保定三年（563），增设银州（治所在今横山党岔）开光郡、开光县（治所同在今榆阳区安崖芦家铺）。四年（564），夏州弘化郡下设宁朔县（治所在今榆阳区西南）。大象二年（580），撤开光郡，所辖开光县隶属于中乡郡（郡治所在今佳县柳树会），属银州领。

隋开皇元年（581），境内建置如前。因避文帝杨忠名讳，中乡郡改称真乡郡。开皇三年（583），撤郡改以州领县，境内涉及有儒林县（治所在今鱼河地），属银州领；开光县（同前）；德静县（治所在红石桥古城界），属夏州领。大业三年（607），改州为郡，撤银州，所领榆阳区儒林、开光改属雕阴郡（治所在今绥德）；夏州改为朔方郡，榆阳区所置德静、宁朔县仍属之。大业十三年（617）三月，夏州朔方郡鹰扬郎将梁师都依附突厥反叛隋廷，建梁国，共12年。此期间，榆阳区属梁国。

唐代，实行道、州、县建制。贞观二年（628），唐灭梁师都，关内道复置银州、绥州、夏州，涉及本境有银州儒林县、开光县，夏州德静、宁朔县。开元二年（714），银州抚宁县治所迁于榆阳区（在今镇川地）。天宝元年（742），银州改银川郡、夏州改朔方郡。乾元元年（758）复改为银州、夏州。光启二年（886），党项羌族首领拓跋思恭因镇压黄巢起义有功，受封定难军（今榆林及内蒙伊盟部分）节度使，领辖银、夏、绥、宥等州，榆阳区南部归银州，北部归夏州。唐末、五代至宋初，榆阳区一直为党项定难军割据地。

宋太平兴国三年（978），宋朝设路、府、州、军、监建置。七年（982），党项定难军留后（官名）李继捧献银、夏、绥、宥、静州归宋，隶属于陕西路。继捧族弟李继迁率党项族众反宋，相继攻占银州等地。此后他几经降宋叛宋，长期控制银州、夏州等地。宋宝元元年（1038），李元昊（继迁孙）在兴庆府（今银川市）称帝，建西夏国。榆阳区属西夏银、夏州领地，元丰四年（1081），宋军相继攻占罗兀（在今镇川）、银州、夏州等地。次年九月，西夏大军大举反攻，夺回银州、罗兀等城寨。六年（1083）宋与西夏议和。元符元年（1098），宋攻占罗兀、开光（在今安崖）等堡寨，宋崇宁四年（1105），宋军再次攻占银州城，之后与夏再议和，并改罗兀城为嗣武城。

金天会六年（1128），金兵占领境东南地区，开光、嗣武城等地属之。正大三年（1226）置嗣武县，次年并入米脂县，时榆阳区东部属佳州，南部属米脂县，西北地已成蒙古势力范围，无建置。

元代，实行省、路（府）、州、县建置。榆阳区长城以南属陕西行中书省延安路绥德州米脂县，长城以北无建置，为蒙古游牧地。

明洪武四年（1371），置绥德卫。九年（1376）绥德卫千户刘宠率领军民屯驻榆林庄（亦称榆林寨，在今榆林城普惠泉北）戍守，设千户所（军事建制），统辖榆林庄附近十八军寨。正统二年（1437），为抗御蒙古鞑靼、火筛等部南犯，延绥镇都督王桢率领军民始筑榆林城堡，并相继将榆林千户所领辖的鱼河、岔河儿（即后常乐堡）、水地湾寨（即后双山堡）及响水堡、高家堡等寨堡，或改建或增建为城堡。

成化七年（1471），置榆林卫（治所设榆林城）。九年（1473），延绥镇治所由绥德迁至榆林城。成化至嘉靖年间，在榆阳区先后迁建常乐堡，增建归德、建安、保宁、镇川堡，并在堡下设柴塘（屯集粮草的地方）。明代中叶起，榆阳区卫堡亦兼行政建置，直隶延绥镇榆林卫、中路道双重领辖。

清初仍沿明代旧制，境内所设卫堡及各柴塘军屯地仍隶属榆林卫、中路道。

清雍正九年（1731），裁榆林卫改置榆林府（治所设榆林城），同时设榆林、怀远（今横山）、靖边、定边4县，归榆林府领辖；将原榆林卫中路道保宁、常乐、双山、归德、鱼河、镇川堡及这些堡地所设的13柴塘地和榆林城划归新设榆林县领辖。乾隆二十七年（1762）又将葭州建安堡划归榆林县。

辛亥革命后，废除府、州建置，设省、道、县。

民国二年（1913），设榆林道（治所在榆林城），榆阳区属之。

民国15年（1926），撤销榆林道，榆阳区直隶省辖。

民国22年（1933），榆阳区实行保甲制，全县划设6个区。24年（1935）陕西省设10个行政督察区，榆阳区属第一督察区（榆林）。26年（1937）将联保改设为乡、镇。

1946年10月13日，镇川、鱼河一带解放，10月31日建立镇川县（治所设镇川堡），下设镇川、上盐湾、鱼河、清泉（今榆阳区所辖）、响水、武镇（今横山县所辖）6区42乡。

1949年4月，镇川县改称榆林县。

1949年6月1日，榆林城和平解放，建立榆林市。榆林县、榆林市同隶属陕甘宁边区陕北行署榆林分区管辖。

1950年4月，榆林县、市合并为榆林县，属陕西省榆林专区（专署设榆城）管辖。

1956年10月，撤销绥德专区，将所辖6个县并入榆林专区，专署所在地仍设榆林城。

1958年9月撤销区、乡建置，榆阳区组建22个人民公社、1个城关镇。

1958年12月10日——1961年9月1日，横山县并入榆林县。

1984年7月，撤销人民公社、生产大队、生产队，改设为乡（镇）、行政村建置。

1988年9月1日，榆林县改置为榆林市，属榆林地区管辖。

2000年7月1日，榆林地区行政公署撤销、设立地级榆林市，原县级榆林市改为榆阳区。