除了對武將大力防範，趙匡胤也沒忘了給文臣套上籠頭。精明的宋太祖運用“分權”和“制衡”之術，消除了文臣在制度上對皇權形成威脅的可能。
他把宰相大權分割成了幾塊，將軍權交給樞密院，將部分行政權交給新設立的“參知政事”，即副宰相。他又設“三司”來專門管理財政，分掉了宰相的財權。在地方上，他同樣也大行其“分權”和“制衡”的祕訣，規定地方官由中央派出，任期只許三年。爲防止一把手獨斷專行，他爲各地知州設立了名爲通判的副手，來監督知州。他又派轉運使到各地管理財政，取消地方上的財政處理權。
雖然代價是形成宋朝難以根治的“冗官”格局，但是趙匡胤終於排除了一切使貴族階層死灰復燃的可能，獨攬軍、政、財一切大權，達到“百年之憂，一朝之患，皆上所獨當，而羣臣不與”的乾綱獨斷境界。宋太祖顯然是一位愛讀歷史並且熱愛思考的人。
宋代的基本政治設計，大幅度地改變了中國人的性格。中國人歷史上第一次不再以立功疆場爲榮。宋代民間流行的俗語是：“做人莫做軍，做鐵莫做針”。在宋代，將軍們不管立了多大功勳，也難有文臣那樣的風光。有人說，即使是率兵數十萬，收復幽薊十六州，也趕不上一個狀元及第時的榮耀：“狀元登第，雖將兵數十萬，恢復幽薊，逐強敵於窮漠，凱歌勞還，獻捷太廟，其榮亦不可及矣。”(田況《儒林公議》)宋代男人開始失去了尚武精神，他們沉醉在案頭書牘之中，在日復一日的淺吟低唱中把流光送走。他們的體質越來越差，性格也越來越細膩。正如梁啓超所說：“相尚以文雅，好爲文詞詩賦訓話考據，以奇耗其材力，即有材武傑勇，亦閒置而無所用武，且以粗魯莽悍見屏於上流社會之外。重文輕武之習既成，於是武事廢墜，民氣柔靡……奄奄如病夫，冉冉如弱女，溫溫如菩薩，敢敢如馴羊。”
智者千慮，必有一失。趙匡胤通過整體民族的文雅化保證了趙氏身家安全，卻導致整個民族失去了安全。雖然宋代物質實力遠在“四夷”之上，但缺乏戰鬥力的軍隊，過於分權體制，卻使宋朝數百年間積弱不振。在北宋幾次恥辱的失敗之後，趙宋王朝終於被驅離中原，南渡另立。
