В начале марта 1933 года Гиммлер был утвержден начальником баварской политической полиции, которую он создал на базе городского отдела политполиции Мюнхена. Вместо себя начальником городского отдела он поставил Рейнхарда Гайдриха, который одновременно оставался начальником Службы безопасности (СД) национал-социалистической партии.
Подобно Герингу, Гиммлер тоже исподволь начал вести борьбу с Ремом и его штурмовиками. Используя свое положение руководителя охранных отрядов, он начал планомерно захватывать для своих людей должности префектов полиции в городах Германии. Конечно, СС пока уступали штурмовикам по численности, но они были лучше организованы и расставлены в нужных местах.
Между Ремом и Гиммлером давно возникла глухая антипатия, которая быстро переросла во вражду и яростное соперничество за близость к Гитлеру. Это соперничество привело Гиммлера к мысли о необходимости овладеть всеми полицейскими силами страны.
Взяв под свой контроль полицию фактически всей страны, за исключением Пруссии, Гиммлер обратился с просьбой к Гитлеру и Герингу передать ему полицейскую власть и там. Фюрер поддержал аргументы Генриха: было бы справедливо и своевременно бороться с врагами рейха едиными методами.
Геринг согласился. Наконец нашелся человек, который, как и он сам, был решительным противником Рема и действовал против него весьма ловко. Герману импонировала то стратегическое искусство, с которым Гиммлер осторожно, шаг за шагом, проводил операцию по окружению «банды Рема».
В начале апреля Гиммлер был назначен инспектором полиции Пруссии, а в конце апреля стал руководить и прусским гестапо, хотя юридическое право за контролем над этой организацией Геринг сохранял за собой до 1936 года.
Едва Гиммлер обосновался в Берлине, как отделы политической полиции в землях и отделы тайной политическом полиции в Пруссии были объединены в единую тайную политическую полицию рейха, начальником которой стал Рейнхард Гайдрих.
Молодой обер-лейтенант в апреле 1931 года уволенный с военно-морской службы за проступок, позорящий честь и достоинство офицера, за каких-то три года сделал головокружительную карьеру, сосредоточив в своих руках огромную власть. Высокого роста, с длинным узким лицом, острым носом и косоватыми глазами он производил странное впечатление. К тому же пронзительно тонкий голос казался необычным для его большого, сильного тела, а широкие бедра придавали его фигуре женственные вид. Одной из способностей Гайдриха было умение быстро распознавать слабости других людей, хранить их в своей феноменальной памяти и в нужный момент умело ими пользоваться. Привычка ставить всех окружающих, от секретарши до министра, в зависимость от себя благодаря знанию их слабостей и своему безжалостному характеру, способному на любую подлость — давала ему власть и силу.
Болезненно честолюбивый, он был всегда настороже, никому не доверял, полагаясь исключительно только на себя и свой инстинкт, который побуждал его к самым неожиданным решениям, весьма опасным для окружающих. Очень быстро Гайдриха стали побаиваться не только его подчиненные, но и вся нацистская верхушка и даже сам Гиммлер.
Возглавив центральный аппарат тайной политической полиции Гайдрих стал государственным чиновником высокого ранга, а сохраняя за собой должность начальника Главного управления безопасности (СД) национал-социалистической партии, он по-прежнему оставался крупным партийным функционером.
Вместе с собой в Берлин, Гайдрих взял четыре десятка наиболее квалифицированных криминалистов. В их числе был Генрих Мюллер, ставший позже начальником гестапо.
Позже Гиммлер скажет: «Я думаю, что только я и министр-президент Геринг знают, до какой степени 1933–1935 годах был недееспособен аппарат тайной политической полиции. В ней собрались чиновники, которые по крайней мере в филиалах были отнюдь не из лучших. Ведь никакое учреждение не отдаст лучшие свои силы, к тому же в мировоззренческом смысле они были совершенно не подкованы. Чтобы придать им политическую зрелость, мы привлекли в полицию старых борцов из рядов СА и СС, у которых было неоспоримое преимущество — принадлежность к НСДАП. Но часть из них страдает одним недостатком — неумением приспособиться к упорядоченной жизни, к самой примитивной канцелярской работе.»
Прагматик Гайдрих быстро понял, что на голой теории политику не построишь, что для слаженной работы всех систем в стране нужны профессионалы и не важно, к какой партии они принадлежали. Он примечает и начинает поддерживать наиболее толковых, энергичных, знающих свое дело криминалистов. Сотрудничество Гиммлера и Гайдриха, крупных партийных руководителей НСДАП с беспартийными специалистами из политической полиции Веймарской республики было вызвано как политической необходимостью, так и методом национал-социалистического движения, пытающегося таким образом утвердить свою власть.
Этот союз представлял беспартийным чиновникам возможность доказать свою преданность новому режиму в борьбе с оппозицией, продемонстрировать свои знания, подавая руководству вовремя советы и исправно выполняя порученные указания.
Большинство полицейских чиновников было настроено консервативно и нисколько не сожалело о конституции Веймарской республики. Для них Веймар ассоциировался с Версальским договором, этим «ударом ножом в спину», как его называли военные, с частой сменой правительств, инфляцией и безработицей, тогда как новые власти олицетворяли порядок, представляли возможность проявить себя, сделать карьеру и получать высокую зарплату.
Безусловно, не все полицейские имели опыт работы в области «борьбы с коммунистами» и обладали такими качествами, как огромная работоспособность, стремление к власти и отсутствие угрызений совести. Многие из них были уже в солидном возрасте и казались Гайдриху старыми и слабыми, не способными энергично и много работать.
Вилли Леман, по меркам нацистов, тоже уже был старым. Однако его оставили в гестапо, поскольку он не занимал руководящей должности, много лет работал против советского представительства в Берлине, что приравнивалось к борьбе с коммунистами, никогда не преследовал нацистов, более того, считался им сочувствующим, и, наконец, он умел ладить с начальством, в частности с Дильсом, и товарищами по работе. Его уважали за опыт и спокойную рассудительность.
По инициативе Гайдриха, ведущим подразделением в гестапо становится второй отдел — борьба с внутренними врагами, который он сам и возглавил. Заместителями у него были назначены мюнхенцы Флеш и Мюллер. Помимо второго, были: третий отдел — контрразведка, в котором работал Леман, четвертый — религиозные секты, масоны, евреи, эмигранты; пятый — аграрные и социально-политические вопросы; шестой — радиоперехват; и ряд других.
Наряду со структурными изменениями, с приходом Гайдриха в гестапо резко возросли требования к дисциплине. Стоило беспартийному чиновнику опоздать на службу минут на десять, как его сразу же переводили из гестапо в полицию. На опоздании попался начальник первого отдела Артур Небе, который впоследствии вернется из полиции и возглавит криминальную полицию Главного управления имперской безопасности, созданного в 1939 году.
Всю дорогу до места сбора, как им сказали, на вилле Геринга, Леман переживал, как неудачно для него сложился этот день. Все началось накануне. Вечером из-за аврала в отделе он не смог выйти на запланированную встречу с советским куратором, важную для него не только потому, что надо было передать добытую информацию, указывающую на резкое обострение обстановки в стране, но и потому, что он ожидал получить пятьсот марок, свою месячную плату, так нужную ему в этот важный для него день. Теперь расстроенный, он невесело рассуждал о своей жизни и службе в третьем отделе гестапо, где уже несколько лет он занимал довольно скромную должность, не позволяющую, как ему казалось, быть достаточно информированным и полезным своим московским друзьям, поминая недобрым словом свои болячки, медицину и отдел кадров.
Сегодня в восемь часов вечера у него было условленно свидание с его любовницей Флорентиной. Для этой жизнерадостной и неприступной для других женщины он был вовсе не грозным инспектором из всесильного гестапо, а просто Вилли, возможно несколько самолюбивым, но симпатичным, а главное, желанным и любимым мужчиной. Так, во всяком случае, она говорила в беседах со своей теткой, не зная, впрочем о нем самого главного, того сокровенного, что он тщательно скрывал от всех окружающих, его тайного сотрудничества с советской разведкой, как и его тайных симпатий к Советскому Союзу.