Образован приказом НКВД № 00383 от 28 ноября 1936 г. При выделении из НКВД-МВД новых ведомств, на его базе формировались:

• Секретариат НКГБ СССР (1941 г.)
• Секретариат НКГБ СССР (1943 г.)
• Секретариат КГБ при СМ СССР (1954 г.)

Начальники:
1. ДЕЙЧ Яков Абрамович (28 ноября 1936 – 16 августа 1937 г.), комиссар ГБ 3-го ранга;
2. ШАПИРО Исаак Ильич (август 1937 – 4 октября 1938 г.), майор ГБ, с 5 ноября 1937 г. – старший майор ГБ;
3. ПЕТРОВ Михаил Алексеевич (27 октября – 8 ноября 1938 г.), капитан ГБ;
4. ШАРИЯ Петр Афанасьевич (8 ноября 1938 – 2 августа 1939 г.), с 28 декабря 1938 г. – старший майор ГБ;
5. МАМУЛОВ Степан Соломонович (16 августа 1939 – 26 апреля 1946 г.), старший майор ГБ, с 14 февраля 1943 г. – комиссар ГБ 3-го ранга, с 9 июля 1945 г. – генерал-лейтенант;
6. ДАВЫДОВ А.Ф. (1946 – 1950 г.)
7. ВОРОНКОВ Сергей Петрович (19 октября 1950 – 24 марта 1953 г.), полковник;
8. МАМУЛОВ Степан Соломонович (12 марта – 10 апреля 1953 г.), генерал-лейтенант;
9. ЛЮДВИГОВ Борис Александрович (10 апреля – 27 июня 1953 г.), полковник;
10. ВОРОНКОВ Сергей Петрович (3 июля 1953 – 7 марта 1956 г.), полковник;
11. МИТЯЕВ И.И. (7 марта 1956 – 1960 г.)

П.А.Шария	С.С.Мамулов

1-е заместители начальника:
МАМУЛОВ Степан Соломонович (3 января – 16 августа 1939 г.), старший майор ГБ;

Заместители начальника:
ШАПИРО Исаак Ильич (8 января – 5 июля 1937 г.), с 14 марта 1937 г. – майор ГБ, с 5 ноября 1937 г. – старший майор ГБ;
ГОРИК Дмитрий Николаевич (1938 – 31 марта 1939 г.), младший лейтенант ГБ, с 19 марта 1939 г. – капитан ГБ;
САЗЫКИН Николай Степанович (21 января – 17 августа 1939 г.), младший лейтенант ГБ, с 19 февраля 1939 г. – капитан ГБ;
БАРАНОВ Филарет Васильевич (16 августа 1939 – декабрь 1943 г.), лейтенант ГБ, с 14 марта 1940 г. – капитан ГБ, с 11 февраля 1943 г. – подполковник ГБ, с 27 мая 1943 г. – полковник ГБ;
ГОЛОВАНОВ Владимир Алексеевич (4 сентября 1939 – 26 февраля 1941 г.), капитан ГБ;
ШИЯН Василий Васильевич (6 декабря 1941 – 19 апреля 1946 г.), капитан ГБ, с 11 февраля 1943 г. – подполковник ГБ, с 27 мая 1943 г. – полковник ГБ, с 6 июля 1945 г. – полковник;
ЛЮДВИГОВ Борис Александрович (7 марта 1944 – 22 апреля 1947 г.), подполковник ГБ, с 11 марта 1944 г. полковник ГБ, с июля 1945 г. – полковник;
ВОРОНКОВ Сергей Петрович (24 февраля 1949 – 19 октября 1950 г.), полковник;
ДОБРОХОТОВ Василий Павлович (март – 11 декабря 1953 г.), полковник ГБ;

Помощники начальника:
ШИЯН Василий Васильевич (16 августа 1939 – 6 декабря 1941 г.), старший лейтенант ГБ, с 14 марта 1940 г. – капитан ГБ;

Н.С.Сазыкин	Ф.В.Баранов	В.А.Голованов
В.В.Шиян	В.П.Доброхотов

Структура:
(на 20 мая 1942 г.)

• 1-е отделение (делопроизводство по официальным документам, шифротелеграммам)

• 2-е отделение (рассмотрение жалоб, заявлений и писем граждан)

• 3-е отделение (приказы, директивы, кодификация)

• 4-е отделение (архив секретариата)

• Группа текущей информации

• Приемная НКВД

• Дежурные по НКВД

• Библиотека

• Секретариаты заместителей наркома

Численность (на 20 мая 1942 г.): 92 чел.