其兵制中斡魯朵中的宮衛騎軍兵甲，教練完習，簡選天下之精銳，聚之腹心之中，既擔任保衛任務，又出兵打仗。另外還有部族兵、漢軍、渤海軍等。契丹是遊牧民族，善於騎射，平時放牧漁獵，既是生產經濟活動，也是軍事練習。有戰爭很快即可集合成軍。
遼朝的軍隊，平時約在二十萬至三十萬左右，而契丹部族全民皆兵，遼所能動員的兵力在總人口當中，比例很高，爲164萬2800人。由於保留着原始部族的痕跡，並處於由奴隸制向封建制迅速轉化的歷史階段，軍事制度初期多與本民族社會制度合爲一體，進入長城以南地區後，既保有本民族特色，又逐步接受漢族影響，具有民族融合的特點。
遼朝皇帝親掌最高兵權。下設北﹑南樞密院。北樞密院爲最高軍事行政機構，一般由契丹人主管﹔南樞密院亦稱漢人樞密院，掌漢人兵馬之政，因而出現一個朝廷兩種軍事體制並存的局面 。
遼軍大體分爲宮帳軍﹑部族軍﹑京州軍和屬國軍。宮帳軍，徵集直屬皇帝的着帳戶壯丁組成，是契丹族親軍，供宿衛和征戰，“以行營爲宮，選諸部豪健千人，置腹心部”。部族軍，主要由契丹以外的部族壯丁組成，供守衛四邊。以上兩種部隊是遼軍的主力。京州軍，亦稱五州鄉軍，徵集五京道各州縣的漢族﹑渤海族等的壯丁組成。屬國軍，由臣屬國壯丁組成。後兩種部隊爲輔助兵力。遼初，貴族男子人人服兵役，年齡在15～50歲之間的列籍正軍，兵器﹑戰馬自備。“正軍一名，馬三匹，打草谷﹑守營鋪家丁各一人”，“人馬不給糧草，日遣打草谷騎四出抄掠以供之”(《遼史·兵衛》)。後來，“沿邊各置屯田戍兵，易田積穀以給軍餉。”(《遼史·食貨》)遼軍以騎兵爲主，主要武器是弓箭和刀槍。後期從宋朝傳入拋石機式的火炮，編有炮手軍。
