Розенгольц сделал остановку в Варшаве, где он позавтракал в буфете центрального вокзала вместе с советским послом Петром Войковым. За несколько минут до того, как поезд Розенгольца тронулся, русский белый эмигрант с криком: «Это за национальную Россию, а не за Интернационал!» — выстрелил несколько раз в Войкова. Советское правительство быстро отреагировало заявлением о том, что «английская рука направила удар, убивший Войкова». Как ни парадоксально, во время последних предвоенных показательных процессов 1938 года Розенгольца заставили признаться в том, что он с 1926 года работал на британскую разведку.
Провалы советской разведки весной 1927 года имели следующие последствия. Во-первых, вся система безопасности советских посольств, резидентур ОГПУ и система шифрования были коренным образом изменены. Срочным циркуляром, разосланным во все советские миссии и торговые делегации, предписывалось уничтожить документы, захват которых может привести к новым разоблачениям. Даже в Тегеране, где опасность нападения на посольство была минимальной, на территории дипломатической миссии был разведен такой большой костер из документов ОГПУ, что местная пожарная команда была поднята по тревоге. Резидентуры ОГПУ получили указание хранить корреспонденцию только за последний месяц и выработать план по немедленному уничтожению документов в случае обыска. Новые инструкции по организации работы с местными коммунистами-агентами были направлены на то, чтобы скрыть все возможные следы их контактов с ОГПУ.
С тем чтобы обеспечить безопасность дипломатической переписки и систем связи ОГПУ, Кремль отдал приказ о введении трудоемкого, но при правильном использовании абсолютно надежного, «одноразового» шифра. В результате с 1927 года до начала Второй мировой войны западные дешифровальщики не смогли раскрыть практически ни одного важного советского шифрованного сообщения, хотя британская ШШПС продолжала читать шифровки Коминтерна и некоторые незначительные военные сообщения русских. Начальник оперативного отдела ШШПС А.Г. Деннистон с горечью писал, что приданная огласке британским правительством расшифровка советских кодов «безусловно, скомпрометировала всю работу.»
Разоблачение советских разведчиков весной 1927 года оказало значительное влияние на Сталина. Неудивительно, что в этом он видел доказательство глубокого империалистического заговора: «Нет сомнения в том, что главный вопрос современности это вопрос об угрозе империалистической войны. Это не какая-то нереальная, нематериальная „опасность“ новой войны. Это вполне реальная, материальная угроза войны в целом и войны против Советского Союза в частности».
По мнению Сталина, первым среди организаторов «объединенного империалистического фронта» против Советского Союза был его главный враг — «английская буржуазия и ее боевой штаб — Консервативная партия». «Английский капитализм всегда был, есть и будет самым гнусным палачом народных революций». Сталин видел три основных этапа подготовленного консервативным правительством заговора.
Первый заключался в проведении обыска советского посольства в Пекине с целью «раскрыть „ужасные“ документы о подрывной деятельности Советского Союза и тем самым создать атмосферу всеобщего возмущения». Второй заключался в рейде, проведенном в помещении «Аркос» в Лондоне и в разрыве англо-советских дипломатических отношений с тем, чтобы «начать дипломатическую блокаду СССР по всей Европе» в качестве прелюдии к войне. Третьим этапом было убийство Войкова в Варшаве, «организованное агентами Консервативной партии», наподобие покушения на эрцгерцога Франца Фердинанда в Сараево в 1914 году, которое положило начало Первой мировой войне.
Хотя этот «английский заговор» не принес никаких результатов, за ним неизбежно должны были последовать другие. Великобритания продолжала финансировать «шпионско-террористические группы в СССР» и пытаться провоцировать выступления белых эмигрантов и других империалистических сил. Сталин выступал против «всех так называемых лидеров рабочего движения, которые „считают“ угрозу новой войны „изобретением“, которые успокаивают рабочих миротворческой ложью, которые закрывают глаза на подготовку буржуазии к новой войне…» Для того, чтобы противостоять империалистической угрозе, необходимо было сделать следующее. Во-первых, надо было «укрепить обороноспособность нашей страны» через экономический рост, особенно военной промышленности, и повышение бдительности советского народа. Во-вторых, было необходимо «укрепить наши тылы», начав наступление на так называемых внутренних врагов-террористов, промышленных саботажников и «другой дряни». Под «дрянью» Сталин подразумевал и оппозицию внутри Коммунистической партии: «Что мы можем сказать после всего этого о нашей гнусной оппозиции, о ее новых нападках на партию перед лицом угрозы новой войны? Что можем мы сказать об этой же оппозиции, которая усиливает свои нападки на партию в тот самый момент, когда существует реальная угроза войны.»
К 1927 году единственное серьезное сопротивление растущей власти Сталина исходило из самой партии большевиков. Угроза войны возникла в чрезвычайно удобный для Сталина момент, поскольку именно тогда он готовился закрепить власть в своих руках. С другой стороны, совершенно очевидно, что Сталин, человек «с болезненной подозрительностью», как говорил Хрущев, верил в свою собственную теорию заговоров. То же самое, в той или иной степени, можно сказать о всех партийных лидерах, ведь сама идеология заставляла их верить в это. Один из основных постулатов большевистской веры заключался в том, что международный капитализм никогда не потерпит укрепления Советской власти. Империалистические государства и их спецслужбы обязательно должны были готовить заговоры с целью уничтожения «рабоче-крестьянского государства». Именно ОГПУ, как «щит и меч революции», было призвано раскрывать и разоблачать неизбежные империалистические заговоры и уничтожать их в зародыше. Однако после Гражданской войны и до прихода к власти Адольфа Гитлера в 1933 году ни один из западных лидеров и не думал о свержении большевистского режима. Из этого следует сделать вывод, что ОГПУ могло разоблачать и бороться только с вымышленными заговорами. Заговоры постепенно становились навязчивой идеей Сталина. В течение первых десяти лет после того, как в 1927 году впервые была высказана идея о существовании военной угрозы, он постепенно выстраивает новую теорию заговора, которая в своей конечной форме была хотя и не такой ужасной, но не менее гротесковой, чем миф о всеобщем заговоре евреев, не дававший покоя Гитлеру. Два величайших диктатора Европы, Сталин и Гитлер, были теоретиками заговоров, которые в конечном итоге пришли к тому, что массовое убийство — это единственный способ борьбы с вымышленными заговорами. Главными же соучастниками этого преступления были их службы безопасности.
Впервые Сталин использовал ОГПУ для укрепления собственной власти внутри Коммунистической партии. Подобно ЧК, ОГПУ ставило перед собой цель борьбы с контрреволюцией. Однако к этому времени само определение контрреволюции изменилось. При Ленине контрреволюция означала оппозицию Коммунистической партии. При Сталине она стала означать оппозицию самому Сталину; а поскольку в первых рядах оппозиции Сталину выступали сами коммунисты, ОГПУ использовало внутри партии те методы проникновения и провокаций, которые раньше применялись против врагов партии.
Первыми жертвами стали члены «левой оппозиции» во главе с Троцким и Зиновьевым. В сентябре 1927 года агент-провокатор ОГПУ, работающий в «левой оппозиции», обнаружил нелегальную «типографию» (в действительности же, эта типография была не чем иным, как множительным аппаратом), где оппозиционеры планировали печатать свою программу. По словам Александра Орлова, бывшего сотрудника ОГПУ, бежавшего на Запад, когда Ягода рассказал о типографии Сталину, тот ответил: «Очень хорошо! Теперь повысьте своего агента в звании до офицера армии генерала Врангеля и укажите в своем докладе, что троцкисты сотрудничают с врангелевскими белогвардейцами». После этого Сталин докладывал Центральному Комитету и Центральной контрольной комиссии, что «левая оппозиция» виновна в сотрудничестве с белыми.
В ноябре 1927 года Троцкий, Зиновьев и почти сто их последователей были исключены из партии. Зиновьев согласился покаяться, отрекся от «троцкизма» и был восстановлен в рядах партии. Троцкий отказался сделать это и в январе 1928 года был осужден ОГПУ на ссылку в удаленный район Казахстана на границе с Китаем. Менее чем через десять лет после этого Троцкий станет объектом самой последовательной охоты на человека за всю историю КГБ. В 1928 году «охота на ведьм», роль которых играли троцкисты, еще только начиналась, а выдворение из Москвы великого еретика носило элемент гротесковой комедии, которая вряд ли состоялась бы несколько лет спустя. Когда сотрудники ОГПУ пришли на московскую квартиру Троцкого утром 17 января, они застали его еще в пижаме. Троцкий заперся в