安西都护府的这两任都护都是将军出身，治所正式建立后，由于所处地域与唐内陆相距甚远，因此长期只有数千兵力镇戍。但初唐时期的府兵战斗力极强，郭孝恪所任都护时，时常以两三千人的兵力深入焉耆等地作战，却也屡战屡胜。
唐太宗贞观二十一年（647年），为进一步拓展西域。皇帝任命阿史那社尔为昆丘道大总管，契苾何力、郭孝恪为副大总管，征发铁勒、突厥等部十余万骑兵，进讨龟兹。次年龟兹都城被攻下，唐军主力追歼残敌，郭孝恪负责留守，但因大意被该国国相那利引兵袭击而亡，郭孝恪成为了第一位战死的安西都护。郭孝恪虽亡，但这次战争唐军大胜，不仅攻灭了龟兹，还擒杀了焉耆国王，逼服了于阗等国，威震西域。安西都护府也迁到了龟兹城，同时唐军在龟兹、焉耆、于阗、疏勒四地修城、驻军，安西四镇就此形成（后碎叶城代替焉耆）。
唐玄宗开元二年（714年），吐蕃与大食古乌孙扶植傀儡政权阿了达为拔汗那国王，并击败了正牌国王遏波之，后者向安西都护府求救。时任安西都护府巡察张孝嵩对都护吕休璟说“不救则无以号令西域”，随后得到安西军指挥权，统率万余精兵长途进击。安西军向西挺进上千里，一路攻克上百个据点，并在当年十一月攻克阿了达都城。此后，张孝嵩传檄诸国，大食、康居等八国莫敢与之争锋，安西军声威大震。
唐玄宗天宝六年（747年），以高仙芝为行营节度使，率一万安西军进讨小勃律（今克什米）。我国著名边塞诗人岑参（《长安十二时辰》中程参的原型）当时就在安西军中，对高仙芝所部有“都护新出师，五月发军装；甲兵二百万，错落黄金光；扬旗拂昆仑，伐鼓震蒲昌；太白引官军，天威临大荒”之描述。安西军得令后潜行百余日，过疏勒，翻葱岭，越播密川，突然出现在了天险连云堡城下，城内敌军根本没想到唐军如此迅速，无法组织有效抵抗。使安西军取得“杀五千人，生擒千人，馀并走散，得马千馀匹，军资器械不可胜数”的战果。
安西精兵投入到平叛战场上后，立即显示出了强大战斗力。在收复长安一战中，叛军以精骑冲击唐军，使唐军主力不得列阵。这时李嗣业“袒持长刀，大呼出阵前，杀数十人，阵复整”。之后，安西军“步卒二千以陌刀、长柯斧堵进，所向无前”。此战，安西军与友军配合，“自日中至昃，斩首六万级，填涧壑死几半，贼东走，遂平长安”。之后，安西军又收复了东都洛阳。
