Юридическое бюро было создано в 1975 г. на базе Юридического бюро Секретариата КГБ при СМ СССР. Действовало в соответствии с Общим положением о юридическом отделе (бюро), главном (старшем) юрисконсульте, юрисконсульте министерства, ведомства, исполнительного комитета Совета депутатов трудящихся, предприятия, организации, учреждения, утвержденным Постановлением СМ СССР №467 от 22 июня 1972 г. и Положением о Юридическом бюро Комитета государственной безопасности при Совете Министров СССР, утвержденным приказом КГБ от 22 октября 1975 г. 4 сентября 1981 г. в связи с созданием ведомственного арбитража было преобразовано в Юридическое бюро с арбитражем, а 30 июня 1986 г. – в Юридический отдел с арбитражем.

Начальники:
МИРОШНИЧЕНКО Николай Степанович (1976 – 1982 г.)
АЛЕКСЕЕВ Виктор Иванович (1983 – 1991 г.), генерал-майор юстиции;

Структура:

• Справочно-кодификационная группа

30 июля 1980 г. была создана группа консультантов.

В декабре 1980 г. был создан арбитраж.

В подразделениях КГБ (как правило, в составе секретариатов) с 21 февраля 1974 г. существовали должности старших юрисконсультов или юрисконсультов. Они действовали в соответствии с Положением о старшем юрисконсульте (юрисконсульте) органа, главного управления, самостоятельного управления и отдела КГБ при Совете Министров СССР, утвержденным приказом КГБ от 8 июля 1976 г.