在蘇聯檢察機構中設有若干個部門,其中包括負責一般監督任務的部門;負責監督刑事案件初步審訊的部門;負責監督國家保全機關所承擔的各項調查工作的部門;負責監督法院各項刑、民事訴訟的部門;負責監督監獄、罪犯勞動改造營、勞動教養營等勞改場所的部門;以及專司統計、管理和調查研究的部門。
蘇聯檢察系統採取一長垂直領導制,即總檢察長領導檢察機關的工作。
蘇聯總檢察長由蘇聯最高蘇維埃任命,對它負責並報告工作,在最高蘇維埃閉會期間,對蘇聯最高蘇維埃主席團負責並報告工作。
各加盟共和國、自治共和國、邊疆區、州和自治州的檢察長由蘇聯總檢察長任命。各自治專區、區和市的檢察長由各加盟共和國檢察長任命,並由蘇聯總檢察長批准。
在蘇聯陸、海軍中設立軍區的、海軍的、兵團的和衛戍部隊的軍事檢察機關。
各級檢察長任期均為五年。
各級檢察機關獨立行使檢察職權,不受任何地方機關的干涉,只從屬於蘇聯總檢察長。