巴尔虎部落是蒙古族最古老的部落，铜石并用时代居住在贝加尔湖畔。1732年、1734年到呼伦贝尔戍牧屯边，是呼伦贝尔原住民之一。鄂温克族通古斯部落是从“十月革命”前后从额尔古纳北岸迁入陈巴尔虎旗境内定居，成立了鄂温克民族苏木。

巴尔虎最早的记载出现在唐贞观二十一年（647年），古称“拔野古”。

唐开元二十年（732年），唐朝在今贝尔湖畔建立了以巴尔虎人为主的幽陵都督府。

清康熙年间，有一部分巴尔虎蒙古人被编入八旗，驻牧在大兴安岭以东布特哈广大地区，还有一部分成为喀尔喀蒙古（今蒙古）诸部的属部。

清雍正十年（1732年），清政府将包括索伦（今鄂温克）、达斡尔、鄂伦春族和巴尔虎蒙古族士兵及家属3796人迁驻呼伦贝尔牧区，以防俄人侵扰。其中275名巴尔虎蒙古人便驻牧在今陈巴尔虎旗境内。

清雍正十二年（1734年），清政府又将在喀尔喀蒙古车臣汗部志愿加入八旗的2400多名巴尔虎蒙古人迁驻克鲁伦河下游和呼伦湖两岸即今新巴尔虎左右两旗境内。从喀尔喀蒙古车臣汗部迁来的则相对被称为“新巴尔虎”，即“新来的巴尔虎蒙古人”之意。新巴尔虎蒙古人居住在新巴尔虎左旗和新巴尔虎右旗。

民国八年（1919年）建陈巴尔虎旗。