公元184年（光和七年）冬，來自北地郡、安定郡以及金城郡、隴西郡枹罕、河關等地的兩股羌人舉事叛亂。最初，它們分頭行動，都想趁機對抗經歷數年的腐敗和亂政已然衰弱的漢朝統治。后來，募來的派遣平叛的由羌人和小月氏人組成的湟中義從胡軍隊在令居（音Lianju，屬金城郡，在今蘭州西北）兵變反抗漢朝長官，加入叛軍，于路殺護羌校尉冷征，事態升級。此時，兩股羌人也合兵了，以原湟中義從胡士兵北宮伯玉和李文侯為將軍。此次聯合意味著叛軍控制了蘭州在黃河沿岸的條狀地帶。

　　短短幾周內，叛軍攻克金城郡治允吾(音Yuanya)，從此以金城郡為主要作亂據點。因涼州刺史左昌侵占防御軍費，救軍不濟，幫了叛軍的忙。金城太守陳懿前赴叛軍大營商談釋放人質，反遭叛軍殺害。人質中的新安縣令邊章、涼州從事韓遂被說服加入了叛軍。這些有譽望的人的加入使得叛軍獲得了更大范圍的民間支持，而此二人將在叛亂逐漸進行的過程中扮演重要角色。

　　隨后，叛軍圍左昌于冀縣總部。一些邊將起初并不想救援左昌，但很受尊敬的成功將領蓋勛迫令他們前去救援。叛軍因尊敬蓋勛，主動撤圍。此事后，左昌被虔誠的儒生宋臬取代。宋臬認為，只有在民間教授《孝經》才能平亂，不顧下級反對將這一建議上表朝廷，隨即也被楊雍取代。但地方狀況并未因此改善，地方官再度被叛軍圍攻。有應對羌亂經驗的新任護羌校尉夏育在漢陽郡的畜官遭句就種羌首領滇吾(音Dianyu)攻打，蓋勛又一次率軍往救。但這次，他在附近的狐盤遭到慘敗。夏育、蓋勛都逃走了，此時涼州政府顯然已經不能靠自己的實力應對叛軍了。

　　后來，韓遂、馬騰關系緊張：他們時而聯盟，時而交火。公元209年，馬騰被韓遂逼迫出逃，求助于控制了華北地區和朝廷的權勢軍閥曹操。當時，曹操正有意于西北，因而邀請馬騰來他的鄴城大本營，實際以為人質。2年后，馬騰子馬超起兵反曹，馬騰全家在鄴城被誅。

　　211年春，曹操派前軍師鐘繇前往渭谷，作攻打張魯在漢中的神權割據政權狀。此次入侵刺激了韓遂、馬超等西北軍閥，他們組成聯盟對抗曹操。聯軍在潼關之戰中抵抗曹操親自指揮的曹操軍。曹操用熟練的策略緩慢行進到聯軍后方，同年秋在一場遭遇決戰中擊潰聯軍。潼關之敗標志著西北地區的自治開始終結。

　　此戰后，曹操向東回師，留征西護軍夏侯淵負責后續工作，張既負責重建地方政府。馬超在曹操離去后攻占冀城，試圖籌劃抵抗，和氐人建立聯盟，但在213年被夏侯淵軍和內部變兵聯手驅逐。馬超南投張魯，后投四川的西南軍閥劉備，在那里于221年過世，再未重返北方。214年，夏侯淵在長離水擊敗韓遂抵抗軍，隨即在對氐人和宋建的遠征中告捷。宋建死，其都枹罕被克，屬官皆被夏侯淵所殺。次年，韓遂死，余部將其首級送給曹操以示歸順。因此，由約三十年前的涼州之亂衍生而來的軍事集團最終被消滅了。