В ходе реорганизации ГУЛАГа, проведенной в 1940-1941 гг. и направленной на совершенствование управления лагерной экономикой, ряд отделов и управлений ГУЛАГа получили статус самостоятельных главков НКВД. В их числе 13 сентября 1940 г. на базе гидротехнического отдела ГУЛАГа было организовано Главное управление лагерей гидротехнического строительства (главк Главгидрострой).
Начальником Главгидростроя был назначен старший майор госбезопасности Я.Д. Рапопорт, главный инженер – дивинженер С.Я. Жук. Главгидрострой был расформирован 1 ноября 1941 года из-за начавшейся войны. Все его стройки были переданы под управление Главпромстроя.
Главк был организован снова в ноябре 1947 года (постановление Совета Министров СССР №3612 от 20 октября 1947 г.) Начальством его стали те же люди, но уже в новых званиях – начальник главка Рапопорт и главный инженер Жук были к тому времени генерал-майорами инженерно-технической службы. В самом начале своего существования Главгидройстрой имел под своим руководством несколько строительств:
1. Соликамстрой – строительство было начато в 1937 году, и в соответствии с постановлением СНК СССР и ЦК ВКПб №1780-741с от 24 сентября 1940 г. законсервировано. К моменту прекращения строительства были только начаты подготовительные работы.
2. Строительство Куйбышевского гидроузла было также было начато в 1937 году, и по тому же постановлению СНК СССР было остановлено и законсервировано. К сентябрю 1940 года по этому строительству было сделано довольно много. В Госплан был передан технический проект, были построены лагеря для заключенных, городки для вольнонаемного состава, начато строительство механического завода, построены подъездные железнодорожные пути, дороги. Кроме этих работ, заключенные начали работы по котловану для бетонной плотины.
3. Тем же постановлением были начаты работы по целому ряду объектов: Вытегорское строительство, в которое входило Волго-Балтийской и Северо-Двинской водной систем, Череповецкий гидроузел, Опокский гидроузел на р. Сухоне и гидроузел при плотине Знаменитая.
4. Кроме них, в 1940 году была начата постройка двух гидроэлектростанций на Беломорско-Балтийском канале – Матконежской и Ондской – и алюминиевого комбината рядом с Матконежской станцией.
5. Прямо перед войной в январе 1941 г. начали строительство сразу четырех гидроэлектростанций - Ковровской, Владимирской, Буйской и Костромской. Немногим позже, 10 апреля было начато строительство Велико-Окской гидроэлектростанции на Оке.
Все строительства гидротехнических объектов, начатые в 1940 и 1941 годах, не были закончены. В связи с начавшейся войной строительства были остановлены, а заключенные, обеспечивавшие эти строительства рабочей силой, были переброшены на другие объекты.
Отдельное место в списке строительств Главгидростроя в первый этап его существования занимали спецстроительства. Это были секретные стройки, все документы, связанные с этими объектами, шли под грифом «совершенно секретно». В общих сводках по ГУЛАГу такие стройки вместо названий обозначались номерами. В основном это были объекты, связанные с военным строительством, атомным проектом и различные секретные стройки.
В 1940 году Главгидрострой продолжил начатое в 1937 году строительство военно-морской базы в Лужской губе (строительство №200), проводил работы по углублению дна в нижнем течении Амура и Амурском лимане и строил порт в бухте Находка (строительство №213). Эти стройки были закрыты или приостановлены из-за войны.
Строительное управление Волгострой, также переданное Главгидрострою с момента образования главка, было самым большим в его структуре. Численность заключенных, подчиненных Волгострою, достигала почти ста тысяч человек. Основное работы по строительству Рыбинского и Угличского гидроузлов были закончены в 1941 году. Во время войны проводились работы по монтажу гидроагрегатов .
Вторично главк был организован в 1947 г., но Волгострой уже не был ему подчинен. В 1947 году Главгидрострою были поручены работы по строительству Волго-Донского и Волго-Балтийского водных путей, Северной водопроводной станции, Курьяновской станции аэрации, реконструкция Москворецкого водного пути. Кроме этих строительств, Главгидрострою были переданы ранее выполнявшиеся Главпромстроем строительства Широковской ГЭС и Опокского гидроузла, а также проектно-изыскательное Управление гидротехнических работ (Гидропроект) и Управление по производству земляных работ способом гидромеханизации (Управление Гидромеханизации) .
В начале 1940 г. система ГУЛАГа представляла собой разветвленную структуру, в которую входили девять отделов: политический, кадров, административно-хозяйственный, секретариат, мобилизационный, ветеринарный, санитарный, учета и распределения заключенных, общего снабжения и восьми управлений, пять из которых производственные. В феврале 1941 г. на базе отраслевых управлений ГУЛАГа возникает целый ряд самостоятельных главков и управлений НКВД СССР. В их числе 26 февраля 1941 г. на базе Управления промышленного и специального строительства ГУЛАГа был организован Главпромстрой НКВД СССР.
Главпромстрой включал в себя специализированные управления и отделы, производившие строительство объектов для определенных отраслей народного хозяйства, например, Отдел гидротехнических работ, которому и было поручено продолжение работ по Волгострою. За время своего существования Главпромстрой эволюционировал, его структура претерпела ряд преобразований: из управлений и отделов главка вырастали новые главные управления НКВД/МВД, в его состав входили лагеря из других главков или наоборот Главпромстрой передавал им свои ИТЛ. В связи с этим численность и количество лагерей Главпромстроя не были постоянными, структура главка формировалась под влиянием основных тенденций в развитии пенитенциарной системы и народного хозяйства СССР и в связи с изменением объема работ главка.
В 1946 году для окончания строительства Волгострой был передан Министерство электростанций СССР согласно постановлению Совета Министров № 2266–942сс от 08.10.46 в. Работы Волгостроя вплоть до сдачи последнего агрегата в конце 1950 года продолжали обслуживаться Волголагом.