凉州兵团的形成与贯穿东汉一朝的“羌患”紧密相关。东汉初匈奴南北分裂，南匈奴内附，东汉朝廷在公元73年和89年两次远征打击北匈奴，迫其向西逃遁，匈奴之患至此大体弥定。但与此同时，帝国西北的羌患浸盛，章帝后羌患逐渐升级，“众羌内溃”、“西州摇动”，不断虚耗着东汉帝国的元气。凉州毗邻羌人故地，民风彪悍，西汉以来大量的匈奴、羌人内徙，凉州的羌胡人口越来越多。两汉之际隗嚣、窦融利用善战的凉地边人与羌胡劲兵，对东汉政权的建立发生重要影响，故东汉朝廷一直刻意压制凉州豪族势力的发展，但由此而带来的副作用是凉州豪族与地方行政系统难以有效配合，朝廷在平羌战场上接连失败。汉桓帝之后，为了转变战场上的不利局势，朝廷被迫调整对凉州豪族的压制方针，开始重用凉州本土的兵和将，凉州兵团于是逐渐形成。在凉州兵团的镇压下，羌患逐渐得到弭平，但是东汉时期内地武备松弛、百姓忘战日久，强悍的凉州边兵对朝廷的政权安全构成严重危险。最终董卓掌握了这支力量并举兵向阙，东汉政权遭受沉重打击，从此以后就名存实亡了。
羌人种类繁炽，在青藏高原及沿高原的边缘区域均有分布，与汉王朝关系密切的是分布在河湟及河西地区的羌种。随着汉武帝扩张至河湟及河西，激化了汉羌矛盾。西汉时期皇权尚算强健、行政系统运转有效、军事机制运作正常、边塞烽火警备严明，羌人只在宣帝、元帝时爆发二次较大规模的反抗，赵充国、冯奉世率领的军队亦能有效压制。东汉初羌人为祸尚浅，汉羌战争规模亦不大，光武帝只是将之视为隗嚣势力的遗留问题，护羌校尉旋设即废。后来羌人问题逐渐严重，章帝时朝廷已开始重视，为之复收盐铁筹措军费，并恢复护羌校尉的设置，但尚未有大规模的用兵。安帝永初元年（107），羌乱突然升级，接连爆发了三次“羌人大起义”，一直持续到桓灵之世，整个朝野为之焦头烂额，朝廷多次向西北大规模调兵遣将，军费开支剧增，大量国力虚耗于此。
西汉以来朝廷对羌人持续执行内徙政策，大量羌人分布于帝国的西北边疆地区，一旦汉羌冲突爆发则“众羌内溃”。东汉羌患的不断升级与羌人内徙固然有一定的关系，但根本的原因，是内徙羌人始终遭受汉人政权及豪民的残酷奴役和虐杀，汉羌之间不但没能融合，矛盾反而更加激化。东汉初马援深知羌人难治，采取内徙羌人之策，将投降、归附及俘虏的羌人分徙于塞内郡县，其本意是拆解羌人势力，并期望内徙的羌人迅速被汉人社会同化，最终转变为帝国的编户民。内徙之策被后来主持羌务者纷纷效仿。但是，羌人内徙后，却遭受汉人社会的排挤和政权机器的严酷奴役，不但没有被同化，矛盾却愈加剧烈。两汉之际历仕陇右、河西的班彪指出：“今凉州部皆有降羌，羌胡被发左衽，而与汉人杂处，习俗既异，言语不通，数为小吏黠人所见侵夺，穷恚无聊，故致反叛。”[5]羌人内徙与汉人杂处后，不断遭受基层小吏及狡黠汉民的侵苦。地方郡县对待羌人的方式更为强横残暴，章帝时安夷县一名县吏霸占羌妇，被其夫所杀。安夷长宗延不论事件原委就领兵追缉，导致“种人恐见诛，遂共杀延，而与勒姐及吾良二种相结为寇”。羌人之家庭、财产完全没有保障，霸占羌妇之类的行为恐怕并不少见，地方官府则完全站在汉人一方。这里的“种人恐见诛”颇可留意，一个羌人犯法可能祸及整个种落，明帝时烧何部就因一人犯法种人被杀六七百人，汉人官吏从来不惮多杀羌人。安帝永初元年（107），被强征前往西域作战的羌人逃散，此事本身只是普通的逃兵事件，但官府对此事的处理方式扩大了事态，各郡发兵拦截，甚至倾覆羌人庐落，致使诸种大豪惊惧奔溃，“于是群羌奔骇，互相扇动，二州之戎，一时俱发，覆没将守，屠破城邑”，第一次“羌人大起义”爆发。
为弭平羌乱，东汉朝廷在其力所能及的范围内做了很大的努力，却既没有触及汉羌矛盾的根本原因，在战场上也是接连兵败，这与东汉的内部军政局势有密切关系。东汉定都洛阳，造成关中地区的衰落；对地方武备的限制及都试的废除，造成内郡兵不堪战斗；章和之后中央政治更是陷入外戚宦官轮流掌权的状态，腐败丛生。以平羌军事为例，朝廷支出军费上百亿钱，府帑为之空竭，但“诸将多断盗牢禀，私自润入，皆以珍宝货赂左右，上下放纵，不恤军事”。如此之将率领缺乏训练的军队，故而自永初以来，将出不少，覆军有五：邓骘败于冀西，任尚败于平襄，司马钧败于丁奚城，马贤败于射姑山，赵冲败于鹯阴河。
凉州地方豪族与东汉政权的关系，也许值得特别注意。杨永俊指出，正是由于东汉对凉州豪族的防范和压制，削弱了地方政权的基础，使凉州郡县的行政和军事功能难以发挥。羌人初起时实力并不强，王符指责凉州地方官员手握重兵却畏惧避战，纷纷建议内徙郡县而导致羌患浸盛。凉州地方官无守战之意，可能确实如此，但认为这些守令拥有足以制敌的军事实力，却不一定是事实，郡县体制必须得到地方豪族势力的支持才能有效运转。“东汉政府对陇右豪杰与羌胡之间联系的过于严密的防范，及对陇右地方势力的过度削弱，在防止陇右地方势力趁‘羌乱’之机起事上很见成效，……但是这一强干弱枝的做法，在事实上却大大削弱了陇右地方政权的力量，致使陇右地方政权在‘羌乱’之际无所适从，既不知如何协调和解，又组织不起有效的防御。”“陇右地方势力一旦被削过甚，那么陇右地方政权就失去基础，其有效的行政和军事职能也就难以发挥。”凉州豪族与地方政府之间出现脱节，郡县机制在凉州地区运作得并不顺畅，地方守令并不能动员足够的力量来应对羌乱。
为了改变平羌战场的局势，桓帝时朝廷的政策逐渐发生重大转变。首先，加大了对凉州本地兵的使用。虞诩曾对汉军多败做了战术上的分析：“今虏皆马骑，日行数百，来如风雨，去绝弦，以步追之，势不相及，所以旷而无功也。”数十万平羌军队绝大多数是来自内郡的步兵，虞诩建议罢步兵而多用边郡骑兵，这一建议看似只是战术的改变，实际上却关涉平羌军队士兵籍贯和身份的改变。凉州处在农牧交错地带，民风彪悍，百姓善于骑射。内徙的羌胡不但没有被汉化，凉州地区反而发生逆向的羌胡化。随着对骑兵的重用，大量凉州骑士以及归义羌胡逐渐成为平羌军队的主力。其次，起用凉州豪杰，凉州本籍将领逐渐崛起。朝廷在不断的军事实践中逐渐明白只有凉州兵能对付羌乱，也只有凉州将能指挥凉州兵。凉州将对本地山川地形、羌胡习俗有深入了解；自古山西出将，凉州将勇猛善战、精通兵略；凉州将体恤士兵，由于同乡关系，凉州兵更愿意为本籍将领卖命，兵将结合更为紧密。征召凉州本籍的士兵、起用凉州将领，意味着朝廷压制和防范凉州豪族政策的废止，凉州地方军事势力在这一过程中形成、壮大。在战术、战斗力，以及兵将关系方面，凉州军队与内郡军队形成截然对比，很快逆转了战场形势，“西羌于此弭定”、“东羌悉平”。
在边疆安全与政权安全两者之间，东汉朝廷起初偏重政权安全，主要征发关东军队平羌，继续压制凉州势力。在平羌战争接连失利的情况下，朝廷不得已转而重用凉州兵以及凉州将，确实取得了预期的效果，羌患基本弭平，但同时也给自身政权安全悬上了一柄利剑。桓帝延熹二年（159），李云露布上书云“西北列将，得无解体”？即表达了对凉州边兵的担忧，表明朝廷对凉州兵团的控制力是有限的。朝廷也意识到这一点，陆续将其将领“凉州三明”（皇甫规、张奂与段颎）调离西北，但并不是说随着三位将领的离开，凉州兵团就瓦解了，“三明”的下属旧部仍然维系着凉州兵团的存在，一旦有新的时机，则会涌现出新的领袖，因此，朝廷并未解决凉州边兵问题。
后来董卓抓住时机掌握了这支武装。在凉州三明时期，董卓只是张奂手下的一名中级军官，羌乱平息后调任西域戊己校尉、并州刺史、河东太守。从羌患平息后董卓的仕宦经历我们可以发现，朝廷开始有意将凉州的中级军官调离，若沿着这个趋势发展，凭借中央的权威和全国的资源，或可逐渐解决凉州边兵问题。但是东汉末年起义、叛乱频发，没有解决该问题的大环境。不久之后黄巾起义爆发，朝廷派出四位中郎将领兵镇压，其中董卓和皇甫嵩来自凉州。同年冬天，凉州的边章、韩遂反叛，董卓又回到凉州战场。在平叛期间，董卓逐步建立了与凉州军队强烈的隶属关系，以至于只有他能指挥得动这支军队，甚至昏庸如灵帝也意识到凉州边兵对朝廷的严重威胁，在驾崩之前接连诏董卓入京。灵帝驾崩后，趁着洛阳士大夫与宦官争斗变乱的时机，董卓率军进京，废立皇帝，掌控朝政。之后袁绍号召讨卓，关东诸侯纷纷兴起，东汉政权又经历了迁都之劫，当献帝历经艰辛重回洛阳时，天下已经是诸侯割据的局面了，东汉政权在曹操的挟持下名存实亡。凉州边兵的失控，成为东汉政权衰亡的重要节点。
