184年(光和七年)冬，分別來自北地郡、安定郡以及金城郡、隴西郡枹罕、河關等地的兩股羌人舉事叛亂。最初，它們分頭行動，都想趁機對抗經歷數年的腐敗和亂政已然衰弱的漢朝統治。後來，募來的派遣平叛的由羌人和小月氏人組成的湟中義從胡軍隊在令居(音Lianju，屬金城郡，在今蘭州西北)兵變反抗漢朝長官，加入叛軍，於路殺護羌校尉冷徵，事態升級。此時，兩股羌人也合兵了，以原湟中義從胡士兵北宮伯玉和李文侯爲將軍。此次聯合意味着叛軍控制了蘭州在黃河沿岸的條狀地帶。
短短几周內，叛軍攻克金城郡治允吾(音Yuanya)，從此以金城郡爲主要作亂據點。因涼州刺史左昌侵佔防禦軍費，救軍不濟，幫了叛軍的忙。金城太守陳懿前赴叛軍大營商談釋放人質，反遭叛軍殺害。人質中的新安縣令邊章、涼州從事韓遂被說服加入了叛軍。這些有譽望的人的加入使得叛軍獲得了更大範圍的民間支持，而此二人將在叛亂逐漸進行的過程中扮演重要角色。
隨後，叛軍圍左昌於冀縣總部。一些邊將起初並不想救援左昌，但很受尊敬的成功將領蓋勳迫令他們前去救援。叛軍因尊敬蓋勳，主動撤圍。此事後，左昌被虔誠的儒生宋臬取代。宋臬認爲，只有在民間教授《孝經》才能平亂，不顧下級反對將這一建議上表朝廷，隨即也被楊雍取代。但地方狀況並未因此改善，地方官再度被叛軍圍攻。有應對羌亂經驗的新任護羌校尉夏育在漢陽郡的畜官遭句就種羌首領滇吾(音Dianyu)攻打，蓋勳又一次率軍往救。但這次，他在附近的狐盤遭到慘敗。夏育、蓋勳都逃走了，此時涼州政府顯然已經不能靠自己的實力應對叛軍了。
後來，韓遂、馬騰關係緊張：他們時而聯盟，時而交火。公元209年，馬騰被韓遂逼迫出逃，求助於控制了華北地區和朝廷的權勢軍閥曹操。當時，曹操正有意於西北，因而邀請馬騰來他的鄴城大本營，實際以爲人質。2年後，馬騰子馬超起兵反曹，馬騰全家在鄴城被誅。
211年春，曹操派前軍師鍾繇前往渭谷，作攻打張魯在漢中的神權割據政權狀。此次入侵刺激了韓遂、馬超等西北軍閥，他們組成聯盟對抗曹操。聯軍在潼關之戰中抵抗曹操親自指揮的曹操軍。曹操用熟練的策略緩慢行進到聯軍後方，同年秋在一場遭遇決戰中擊潰聯軍。潼關之敗標誌着西北地區的自治開始終結。
此戰後，曹操向東回師，留徵西護軍夏侯淵負責後續工作，張既負責重建地方政府。馬超在曹操離去後攻佔冀城，試圖籌劃抵抗，和氐人建立聯盟，但在213年被夏侯淵軍和內部變兵聯手驅逐。馬超南投張魯，後投四川的西南軍閥劉備，在那裏於221年過世，再未重返北方。214年，夏侯淵在長離水擊敗韓遂抵抗軍，隨即在對氐人和宋建的遠征中告捷。宋建死，其都枹罕被克，屬官皆被夏侯淵所殺。次年，韓遂死，餘部將其首級送給曹操以示歸順。因此，由約三十年前的涼州之亂衍生而來的軍事集團最終被消滅了。
