В октябре 1930 г. приняты постановления ЦИК и СНК РСФСР «О реорганизации местных органов юстиции в связи с ликвидацией округов» и «Об установлении типовой структуры аппарата краевой (областной) прокуратуры и суда». Стали создаваться районные и городские суды, избираемые исполкомами местных Советов сроком на один год. В 1930 – 1934 годах созданы железнодорожные и водно-транспортные суды. В 1936 году создан Наркомат юстиции СССР, который обеспечивал организационную сферу функционирования судов, вел работу по кодификации законодательства, организовывал юридическую помощь населению.

В августе 1938 г. принят закон «О судоустройстве СССР, союзных и автономных республик», согласно которому судебная система была приведена в соответствие с федеративным и административно-территориальным устройством СССР и союзных республик. В районах и городах были созданы народные суды, рассмотрению которых подлежали уголовные и гражданские дела. Областные, краевые, окружные и верховные суды союзных республик избирались сроком на 5 лет. Они рассматривали дела, отнесенные их подсудности, а также кассационные жалобы на приговоры народных судов. Общесоюзным являлся Верховный суд СССР, который избирался Верховным Советом СССР сроком на 5 лет. Он осуществлял надзорные функции за законностью в деятельности всех судов и давал разъяснение по вопросам судебной практики. Специальными судами, действовавшими на основе общих правил, являлись военные трибуналы и линейные суды водного и железнодорожного транспорта.

Стали создаваться общественные и товарищеские суды, в работе которых активное участие принимало население. Они решали мелкие имущественные и трудовые споры, вели борьбу с нарушителями общественного порядка и мелким хулиганством.

В 1933 году была образована прокуратура СССР. Прокурор СССР назначался ЦИК СССР и наделялся правом законодательной инициативы, правом опротестовывать постановления Пленума Верховного суда СССР в Президиуме ЦИК. Прокурор должен был осуществлять надзор за деятельностью ОГПУ, ИТУ и милиции.

В июле 1934 г. учрежден НКВД СССР. На НКВД возлагались функции обеспечения порядка и госбезопасности, пограничная охрана. С созданием Главного управления лагерей (ГУЛАГ) НКВД стал распорядителем трудовой армии заключенных и спецпоселенцев. При НКВД СССР было создано Особое совещание, которому предоставлялось право применять в административном порядке высылку, ссылку, заключение в исправительно-трудовые лагеря на срок до 5 лет и высылку за границу. С 1937 года Особое совещание, в состав которого был введен прокурор СССР, могло приговаривать к расстрелу. Это ведомство осуществляло в 30-е годы репрессии, в которых пострадала масса невинных людей.