克格勃有“對外諜報局、國內反間諜局、軍隊管理局、邊防軍管理局、總務局、克格勃駐外站組等。克格勃系統工作人員曾一度達到50多萬名，其中總部機關1萬人，間諜、反間諜和技術保障等部門20萬人，邊防軍30萬人。此外，在全國有150萬線人，在國外有25萬諜報人員，年預算100億美元。
克格勃一直是蘇聯對外情報工作、反間諜工作、國內安全工作和邊境保衛等工作的主要負責部門，是一個凌駕於黨政軍各部門之上的“超級機構”，它只對蘇共中央政治局負責。克格勃被英國的情報機關稱爲“世界上空前最大的蒐集祕密情報的間諜機構”。與美國的中情局、以色列的摩薩德、英國的軍情六處並稱爲世界四大間諜組織。
主席團
委員會主席團有主席一名，副主席十名，其中包括兩名第一副主席。主席和副主席還領導地方國家安全機關——各加盟共和國國家安全委員會和區、州國家安全局的活動。
蘇聯全委會
蘇聯國家委員會全委會由十五至十七人組成，負責研究最重要的問題，並就這些問題通過相應決議，以國家安全委員會主席令的形式生效。決議生效以後，就成了所有國家安全機關必須執行的規定。全委會委員組成中有國家安全委員會主席、副主席、主要部門的主管以及幾個地方國家安全機關的領導人。全委會由蘇聯部長會議決定任免。約定俗成的是，烏克蘭國家安全委員會主席、莫斯科市及莫斯科州和列寧格勒市及列寧格勒州國家安全局的兩位局長，傳統上都是全委員會委員。根據條例，全委員會一個月舉行一次例會，但有時候要多，這取決於該討論的問題是否緊急，是否重要。全委員會根據國家安全委員會的命令清單確認幹部任免。有時候聽取有關國內、國家安全委員會機關和部隊所發生的最重大非常事件的報告，討論上級權力機關的重要決議，並據此作出相應的決定。一般來說，討論問題會吸收範圍相當寬的特邀人員參加，人數有時多達一百人或一百人以上。全委會是國家安全委員會的領導機關，是某種指揮學校，是審覈與研究最重大問題的形式。全委會通過的主要決定可以長期有效，且只有全委會才能以其決議取消已生效的決定。全委會是安全委員會相當廣泛的負責人交換意見的機會，是作出決斷的有益方式和方法，更主要的，它也是確定落實並監督決議執行情況的有益方式和方法。決議將傳達到國家安全委員會各級機關和部隊，併成爲他們在相應方面展開實踐活動的依據。
