商周时期，通古斯满族的先祖——肃慎，就繁衍生息于此，进入氏族社会后，开始以渔猎为主。

汉魏时期，肃慎易称挹娄，依山傍水，建立了大量城址。

南北朝时，称勿吉。

唐时，为渤海怀远府所辖。

辽代，属女真王国之越里吉部。

明代，属奴儿干都司弗提卫。

清初，为盛京将军和清廷双重统治下的宁古塔都统辖境。

1732年，为三姓副都统治下。

1905年，处依兰府所辖。

1907年，改设吉林行省，在临江设州，此地由其管制。

1909年，临江州改为临江府，下置富锦县，此时集贤亦未建县，除了太平镇、丰乐镇属桦川县外，本地为富锦县管辖。

1946年6月，方设置集贤县，归属合江省，治所位于集贤镇，属合江省辖。

1954年5月，合江省并入松江省，集贤县属松江省辖。

1954年8月，松江省与黑龙江省合并，集贤县属黑龙江省辖，属合江行署管辖县。

1985年1月，合江行署撤销，归佳木斯市管辖。

1988年1月起，开始划归双鸭山市管辖。