在董卓之乱后，韩遂等西凉叛军开始与董卓合流，董卓死后，李郭等后继者继承了董卓拉拢西凉叛军的策略，不过双方矛盾后期激化，韩遂和马腾联合益州刘焉对抗李郭集团，失利。
在汉献帝出走后，西凉军势力一落千丈，后郭汜、李傕更是相继死去，关中地域遂被韩遂、马腾为首的原凉州叛军所占据。
因为《三国演义》的影响，现在有不少人认为马腾是当初讨伐董卓的十八路诸侯之一，但实际上马腾在那时不但没有参与对抗董卓的行动，反而是董卓的准盟友之一。
兴平元年（194），马腾有私事求于李傕，没有得到应允，于是率兵相攻。汉献帝派使者劝解，没有成功，随后屯于金城的韩遂率兵前来劝解，继而与马腾联合，当时益州牧刘焉也派出军队帮助马腾等人一起进攻李傕。朝臣种邵、马宇、刘范欲诛杀李傕等人，于是秘密与马腾联系，愿为内应，但因事情败露，只得逃奔槐里。
李傕使樊稠、郭汜以及侄子李利出击，马腾、韩遂败走，退回凉州。樊稠的部队又进攻槐里，种邵等人都被杀死。不久，李傕等人又与马腾、韩遂讲和，改任马腾为安狄将军，韩遂为安降将军。
兴平二年（195），马腾上表称军队补给不足，请求就谷于池阳，于是率军改屯长平岸头。将领王承害怕马腾图谋自己，于是率兵偷袭，马腾没有准备，向西败走。不久，李傕与郭汜相互攻击，三辅****，马腾遂放弃东行计划，与韩遂相联合，结为异姓兄弟。
雍州是古九州之一，但在汉武帝设十三州刺史部时，并没有雍州，其地理范围大概是后来的三辅一带加上凉州（或者其东部）。东汉时汉光武帝定都洛阳，设立过雍州，治所姑臧，但是不久取消。
兴平元年（194），河西的敦煌、酒泉、张掖、武威四郡，因为距离凉州官府所在地冀县太远，而且交通又被盗寇阻断，因此上书请求另外设置一州。同年六月，汉献帝下诏设置雍州，任命陈留人邯郸商为雍州刺史，治理河西四郡事务。这时凉州和雍州的位置和大多数人所想的不一样，是凉州在东，雍州在西，雍州治所则是姑臧。
后雍州和凉州在建安年间再次发生变化，建安十八年（213），荀彧死后，曹操并天下十三州为九州，东面的凉州与司隶校尉部的三辅一起并入雍州，治所则改在长安。曹魏黄初元年（220），分河西八郡复置凉州，这时雍州和凉州的地理位置才是现在大多数人所认为的雍州在东，凉州在西。
关中本来是西凉军的势力范围，先后为董卓和李郭所占据，但后来西凉军内部矛盾激化，李傕先是杀死了当时西凉军三巨头之一的樊稠，后又与另外一位郭汜决裂，在长安城内部交战连连，最终导致汉献帝出走，自此西凉军势力大为衰落，建安二年（197），郭汜被部下伍习杀死，余部被李傕兼并。
同年，曹操派谒者仆射裴茂率领关西诸将段煨等讨伐李傕。次年李傕退守黄白城，被张横、梁兴等击败斩首，曹操下令夷灭其三族。
西凉军势力没落之后，关中地域则被韩遂、马腾等人所吞并。
建安四年（199），曹操为了在对抗袁绍有一个稳定的后方，听从荀彧的建议上表任命钟繇为侍中、代理司隶校尉，持节督关中诸军，将后方事务委托给他，特别授予他不受制度拘束的权力。钟繇到达长安后，致信马腾、韩遂等人，为他们陈述利弊祸福，马腾、韩遂都送自己的一个儿子到朝廷为人质。
这也标准着以韩遂、马腾为首的原凉州叛军势力对于曹操所控制下许昌朝廷的屈服和认可。
建安七年（202），袁尚派高干、郭援率军数万，与南匈奴单于栾提呼厨泉进攻河东郡，并派使者与韩遂、马腾等关中诸将联合出兵，曹操派钟繇对抗，而钟繇派张既劝说马腾支持曹操。马腾派马超率精兵一万多人，连同韩遂等的军队，与钟繇合击大破郭援等。献帝拜马腾为征南将军、韩遂为征西将军，允许他们开府辟召掾属。
三年后，曹操派张既征集马腾、韩遂等人击败了再次击败了高干、张晟军，斩杀了反叛的卫固等人，平定了河东郡的叛乱。
虽然韩遂、马腾为首的凉州势力对于曹操表示屈服了，但因为他们本身的强大，所以曹操一直想进一步加强对于他们的控制，并不满意于这些质子的诸侯们逍遥于外，而是想让他们慢慢的交出部队和权势，甚至本人亲自入朝来许昌，而曹操也很快就得到了这个机会。
建安十三年（208），因部曲间的矛盾，马腾、韩遂二人成为仇敌，韩遂甚至杀掉了马腾的妻子，二人连年交战。到此时曹操派钟繇、韦端前去劝和，并以马腾为前将军，改屯于槐里，假节，封槐里侯。趁这个机会，曹操派出了张既征命马腾，要求他脱离部曲入朝为官，马腾虽已经许诺，但始终忧郁不决。张既恐其生变，乃令诸县储备粮食物资，以备不虞。复令二千石俸禄以上官吏出郊迎接，马腾不得已，乃入朝。曹操表他为卫尉，家属迁至邺城，并表其子马超为偏将军，统率马腾的部曲。
次年，韩遂派自己的女婿阎行前往拜谒曹操，曹操厚待阎行，上表朝廷授阎行为犍为太守。阎行趁机请让他的父亲入朝任职，阎行西还见韩遂，把曹操劝韩遂入朝的话告诉他。并趁机劝韩遂归附曹操，劝他先派一个儿子入朝作为人质。韩遂说：“暂且再观望几年！”后来就派自己的儿子与阎行的父母一起入朝。
此时，虽然曹操没能将西凉完全控制在手中，但对于关中和凉州诸侯的影响力已经大大加强，韩遂、马超等诸侯在当时没有大的变故情况下已经基本不会率先进攻曹操~了。
