夏为覃怀地，属冀州。商为鄂侯国，属畿内。西周为邘国地，又为雍国之西境；春秋为周地、郑地，后又为晋之野王邑。战国为魏地，后又属韩国，再后为卫国。秦为河内郡所辖的野王邑。汉置野王县，后析为武德、波二县，晋废，恢复野王县，郡治由怀移至此县。隋改为河内县，因在黄河北。唐析为太行、忠义、紫陵三县，旋复合为河内县，为怀州治所。宋析置武德县，不久复并入河内县，属河北西路怀州。金为南怀州治。元属怀孟路，后改为怀庆路。明属怀庆府。

民国二年（1913年）废府存县，改为沁阳县，因在沁河之北，故名。先后属河南省豫北道、河北道及第四行政督察区。

1949年建国后，改属平原省新乡专区，1952年平原省建制撤销，改属河南省新乡专区，1986年改属焦作市。

1989年9月27日经国务院批准，撤销沁阳县，设立沁阳市。沁阳市直属于河南省，由焦作市代管。

2000年，沁阳市辖4个街道、6个镇、6个乡：覃怀街道、怀庆街道、沁园街道、太行街道，柏香镇、崇义镇、西万镇、西向镇、紫陵镇、山王庄镇，木楼乡、王曲乡、葛村乡、王占乡、常平乡、王召乡。根据第五次人口普查数据，全市总人口446404人，其中：沁园街道 30988人、怀庆街道 28587人、太行街道 27400人、覃怀街道 24676人、西向镇 58569人、西万镇 36290人、柏香镇 34717人、山王庄镇 28913人、紫陵镇 26876人、崇义镇 33802人、王召乡 29430人、木楼乡 17718人、王占乡 17613人、葛村乡 22517人、王曲乡 19665人、常平乡 8643人。

2005年，沁阳市乡镇区划调整：撤销王占乡，将其行政区域划归王曲乡管辖，王曲乡政府驻地为中王占村；撤销木楼乡，将其行政区域划归王召乡管辖，王召乡人民政府驻地不变；撤销葛村乡，将其行政区域划归柏乡镇管辖，柏乡镇人民政府驻地不变，辖区面积83.2平方千米，人口5.9万人。截至2005年12月31日，沁阳市辖4个街道、6个镇、3个乡：太行街道、沁园街道、怀庆街道、覃怀街道；崇义镇、柏香镇、山王庄镇、紫陵镇、西向镇、西万镇；王召乡、王曲乡、常平乡。