伊犁得名于伊犁河（光明显达，形容河水在太阳照耀下碧波粼粼），最早见《汉书》，史称伊列、伊丽、伊里等名。清乾隆年间定名伊犁。《西域同文志》中，伊犁为维语，取义于“犁庭扫闾”（意即将庭院犁平整用来种地，把里巷扫荡成废墟），寓意平定准噶尔功盖千秋，西陲从此永保安宁。西汉初年，匈奴崛起，迫使大月氏西迁伊犁河谷，塞王南迁。后元四年（前160年）前后，乌孙西迁伊犁河谷等地，建乌孙国。元封元年（前110年）前后汉朝与乌孙结盟。前60年，汉朝在新疆设立西域都护府，管理乌孙等国，伊犁等地正式纳入中国版图。6世纪中叶，阿尔泰、塔城、伊犁河谷为突厥地。
张骞是西汉外交家。奉汉武帝之命出使大月氏，目的是相约攻打匈奴。他出陇西，经匈奴，被俘。在匈奴10余年，娶妻生子，但始终秉持汉节，不忘使命。后逃脱，越葱岭，西行至大宛(今吉尔吉斯费尔干纳盆地)，经康居(今巴尔喀什湖和咸海之间)，抵达大月氏。大月氏先为匈奴所迫，故而西迁，此时已定居妫水(今阿姆河)北岸，又统领了大夏，无意报复匈奴。张骞在大夏停留一年多返国，途中又被匈奴拘留一年多。公元前126年匈奴内乱，张骞乘机逃回汉朝。他向武帝详细汇报了西域情况，被授予太中大夫。张骞在大夏时，得知由蜀(今四川盆地)西南取道身毒(今印度)可逼大夏，建议武帝开西南夷道。后因昆明夷所阻，未能通。公元前123年，张骞以校尉随大将军卫青征匈奴，以功封博望侯。公元前121年以卫尉随李广出右北平(今河北东北部)击匈奴，因误军期，用侯爵赎罪，免为庶人。后张骞劝武帝联合乌孙(今伊犁河流域)，武帝拜其为中郎将。公元前119年，他奉命出使乌孙，率300人组成的使团带牛羊金帛上万。至乌孙后，又分遣副使赴大宛、康居、月氏、大夏等邻国，与中亚各国正式通好。乌孙遣使送张骞归汉，并献马报谢。从此，汉与西域的交通建立起来。
司马迁称赞张骞出使西域为“凿空”，意思是“开通大道”。张骞先后两次出使西域，打开了中国与中亚、西亚、南亚以至通往欧洲的陆路交通，从此中国人通过这条通道向西域和中亚等国出售丝绸、茶叶、漆器和其他产品，同时从欧洲、西亚和中亚引进宝石、玻璃器等产品 。张骞被誉为“丝绸之路的开拓者”、“第一个睁开眼睛看世界的中国人”。