沙县县名是因县治所在地南端有沙源地而得名，别称沙阳。884年，沙县治所由沙源地迁往沙溪水北凤林岗（现沙县人民政府驻地凤岗街道）之后，相传沙溪流经沙县城关河段（沙县县治在沙溪之北）水中有一条“虬”，即“无角龙”，故此河段又称虬江、虬溪，沙县又别称虬城。

沙县夏、商时代属扬州。周朝为七闽地。春秋战国时期为楚国辖地。秦属闽中郡。汉初为闽越国领地。汉昭帝神爵四年（前58年）属会稽郡冶县，汉建安初（196年）属南平县。三国吴永安三年（260年）为吴国建安郡南平县境地。东晋太元四年（379年）改南平县为延平县，同时在延平县南乡沙源地设沙戍。东晋义熙中（405～418年）设沙村县，属建安郡。宋、齐建置、隶属不变。隋废。唐武德四年（621年）复置，改名为沙县，隶属建州。后并入建安县。唐永徽六年（665年）又复置，从此县置至今。

沙县大历十二年（777年）属汀州。五代后汉乾佑元年（948年）改属剑州。宋太平兴国四年（979年），为别于蜀之剑州，闽之剑州改称南剑州，沙县隶属南剑州。元至元十五年（1278年）、大德六年（1302年），南剑州分别改为南剑路、延平路；至正末（1360年）陈有定据守延平路，沙县为陈有定辖地。明洪武元年（1368年），明王朝平陈有定，改延平路为延平府。清袭明制。元、明、清三朝，沙县隶属不变。

沙县自晋未建县，历经宋（刘宋）、齐、梁、陈、隋、唐，皆为蛮荒之地，唐永徽六年（655年）之前，随设随废。

民国初废除府、州制，民国三年（1914年）实行省、道、县制，沙县属建安道；民国十七年废道，沙县直属福建省。

民国二十二年12月14日，“福建事变”中成立的中华共和国人民政府将沙县划归延建省，在延建省政府成立之前，政务由设在福州的闽海省省府兼理。

1934年1月，中华共和国失败。中国工农红军攻克沙县，成立中华苏维埃共和国沙县革命委员会，2月底，红军撤离。

红军撤离之后，沙县仍为国民党统治区。

民国二十三年末，福建省设10个行政督察区，沙县属第三行政督察区；民国二十四年全省设7个行政督察区，沙县改属第二行政督察区。

1949年6月16日，中国人民解放军解放沙县，成立沙县人民民主政府，隶属福建省第二行政督察专员公署。

1950年2月，属福建省南平专员公署。

1970年7月1日改属福建省三明地区行政公署。

1983年撤销三明地区行政公署，改设三明市，沙县为三明市辖县。