В годы войны продолжали действовать народные суды, областные и Верховные суды республик и СССР. Двадцать второго июня 1941 г в районах военных действий и регионах, объявленных на военном положении, были учреждены военные трибуналы.

Двадцатого июля 1941 г. в целях координации всех карательных органов происходит объединение народных комиссариатов внутренних дел и госбезопасности в единый НКВД СССР. Наркомом был назначен Л.П. Берия. В 1943 году было образовано Главное управление контрразведки (СМЕРШ – смерть шпионам) во главе с В.С. Абакумовым.

При НКВД действовало Особое совещание, которому предоставлялось право выносить смертные приговоры по делам, предусмотренным ст. 58 УК РСФСР. Решения Особого совещания считались окончательными. Берия Л.П. получил неограниченные возможности внесудебной расправы.

Война потребовала также перестройки органов прокуратуры. В соответствии с Указом Президиума Верховного Совета СССР «О военном положении» в местах, объявленных на военном положении, территориальные прокуратуры преобразованы в военные. Были военизированы транспортные прокуратуры. В целях поднятия авторитета и роли органов прокуратуры для прокурорско-следственных работников устанавливались классные чины и знаки различия. Должность прокурора СССР переименована. Он стал именоваться Генеральным прокурором.

Основные усилия прокуроров были направлены на решение вопросов, связанных с укреплением тыла, обеспечением надзора за соблюдением законов военного времени.