伊金霍洛旗由原扎萨克旗和郡王旗合并而成。扎、郡旗所辖地域历代为北方少数民族的游牧区。 

春秋战国时为林胡活动地域。林胡是一个游牧民族。 

秦时属上郡之北境。秦始皇三十二年（公元前215年）派大将蒙恬讨伐匈奴，收河南地（河套以南鄂尔多斯地区），当时把关中一带叫秦中，把新收复的河南地叫新秦中。 

西汉时，为西河郡、上郡等辖境。西河郡辖境，包括今本旗、准格尔旗、西南和陕西北部，山西北部、中部，黄河两岸地区。红庆河古城即西河郡虎猛县为郡西部都尉驻地。上郡辖境，包括伊旗和准格尔旗南部，陕西省西北部地区。上郡设在郡王旗境内，旗南红海子乡车家渠村四社西南1公里处的白土城即为上郡的一个县城。 

东汉时，仍沿西汉旧制，南匈奴降汉后，为南匈奴各部驻牧地。 

三国魏晋南北朝五湖十六国时。先后有河西鲜卑、羌胡、铁弗匈奴等在此驻牧。后赵、前秦曾置朔方郡统辖鄂尔多斯地区，本旗亦在内。北魏天赐三年（407年），铁弗匈奴赫连勃勃，脱离后秦；占据朔方郡和今陕北、宁夏南部，称夏。永兴五年（431年）在乌审旗无定河南筑统万城。札、郡两旗属夏的畿内地。胜光四年（431年）北魏灭夏，本旗隶属于北魏。大统元年（535年）北魏分为东西魏，本旗属西魏。 

隋唐时，属榆林郡、宥州郡、朔方郡及银川地。宥州郡设在鄂托克旗，朔方郡设在鄂托克旗、杭锦旗、乌审旗及阿拉善旗部分地区，银川地指现在的银川。 

宋辽金元时，宋淳化年间（994年）为消灭党项族，下令毁废夏州城（指统万城）直到宋宝元年（1038年），党项族李元昊称帝，宝都兴庆府公银川为西夏领域。辽金争而未获。元时，灭西夏后置西夏中心路后复其地属东胜、云内二州及延安路。当时东胜州设在郡王旗境内（即现在的东胜境），云内州当时设在神木寨。 

明朝时置东胜，明天顺年间废之。明弘年间，有蒙古族阿罗出、毛里孩、孛罗忽相继入河套。明成化、弘治、正德年间，成吉思汗十五世孙巴图蒙克尔即达延汗先后击破亦思马因，火筛、满都赉、阿因勒呼、三万户等部，统一了蒙古各部落，任命其第三子巴尔斯伯罗特为统领鄂尔多斯、土默特、永谢布右翼三万户的济农（即副王），驻牧鄂尔多斯。巴尔斯伯罗特去世后，长子衮必里克墨尔根继任济农统领右翼鄂尔多斯部。长子衮必里克墨尔根，号车臣可汗，生下九个儿子，令其众子分牧于鄂尔多斯，其中长子诺延达拉占据了伊克昭盟东部地区，从诺延达拉的儿子布延巴图尔开始接受喇嘛教，于明万历四十一年（1613年）兴建王爱召，到公元1614年，布延巴图尔的儿子博硕克图迎请西藏黄教喇嘛迈达里胡图克图前来举行开光典礼，当时王爱召命名为乌罕巴达拉奇苏木，后人叫王爱召。 

清初，博硕克图的儿子额璘臣率部去察哈尔归顺于后金，金崇德元年（1636年）改国号为大清，赐给额璘臣吉农职位，命他为招集鄂尔多斯诸部的首领。清于顺治六年（1649年）为便于控制陆续归附的蒙古各部落，在鄂尔多斯地区实行盟旗建制的划分，指定牧场界限，当时划分了六个旗组成伊克昭盟。六个旗命名是：鄂尔多斯左翼中旗（郡王旗）、鄂尔多斯左翼前旗（准格尔旗）、鄂尔多斯左翼后旗（达拉特旗）、鄂尔多斯右翼中旗（鄂托克旗）、鄂尔多斯右翼前旗（乌审旗）、鄂尔多斯右翼后旗（杭锦旗）。 

额璘臣任鄂尔多斯左翼中旗札萨克多罗郡王。因六个旗组成了一个盟，会盟地点在王爱召。伊克昭盟据此而得名，十大召的意思，额璘臣是鄂尔多斯的济农，又是郡王旗的札萨克，故清延委任其为伊克昭盟第一任盟主。 

额璘臣的兄弟乌巴什，因不跟随大扎木苏台召反对清朝，清世祖福临封他为二等台吉。后与巴图尔王讨伐刘子次的叛乱，又与土默特部及鄂尔多斯部一同打败了道尔吉。清皇帝降旨，将鄂尔多斯各旗旗王及台吉一律加封一等，乌巴什被封为二品衔。康熙十四年（1675年）乌巴什的儿子索诺木道尔吉，在战争中表现奋勇，升为乌审旗的协理台吉，嗣后他的儿子定咱拉什从康熙五十七年（1718年）始，在西召当兵5年至雍正元年（1723年）奉清延之命带蒙古骑兵征服了青海叛军丹津。雍正七年（1729年）又奉命追剿巴尔色胡的部队，雍正八年东方匪众乘西路军没有准备之机，抢掠西路军的驼、马。这时定咱拉什率蒙古军连续打败该部匪军。雍正九年，清世宗赐给定咱拉什全翎及奏本黄匣晋封为头等台吉。 

清乾隆元年（公元1736年）清高宗（弘历）从乌审旗将近族台吉的平民分为十三苏木，划拨土地，组成鄂尔多斯右翼前末旗，即札萨克旗。封定咱拉什为该旗札萨克。从此，伊盟成为7旗。 

1914年，归绥改为绥远特别区，札、郡两旗属绥远管辖。民国16年起，札、郡两旗隶属蒙藏委员会管辖。民国25年（1936年）2月，绥境蒙政会在归绥成立，札、郡两旗统属绥境蒙政会管辖。