Норвегии в апреле 1940 года, а также с еще более успешным блицкригом в мае и июне, когда Франция и Нидерланды были покорены всего за шесть недель. Молотов пригласил Шуленбурга, посла Германии, в Кремль, чтобы передать «самые теплые поздравления Советского правительства по поводу великолепного успеха немецкого вермахта». Советский Союз привнес небольшой, но существенный вклад в победу Гитлера: «Танки Гудериана прорвались к морю у Абвиля на советском топливе, немецкие бомбы, которые сровняли с землей Роттердам, были начинены советским пироксилином, а оболочки пуль, которые поражали британских солдат, отступавших к шлюпкам у Дюнкерка, были отлиты из советского медно- никелевого сплава».
Как раз, когда войска Гитлера победным маршем шли по Нидерландам, газета «Известия» писала: «Последние военные действия еще раз подтвердили, что нейтралитет малых государств, у которых нет силы, чтобы его сохранить, — чистая фантазия. Таким образом, есть очень мало шансов для небольших стран выжить и остаться независимыми.» Стало ясно, что дни государств Прибалтики были сочтены. В ночь с 15 на 16 июня Деканозов вызвал к себе в кабинет на Лубянке несколько ответственных лиц, включая своего коллегу, заместителя наркома иностранных дел Андрея Вышинского, который прославился в качестве прокурора на показательных судах. Деканозов сказал собравшимся, что они выбраны для «заданий» в государствах Балтии. «По решению Политбюро и по предложению товарища Сталина, теперь надо решить проблему безопасности вдоль нашей северо-западной границы.» Деканозов заявил, а, может быть, даже верил, что правительства прибалтийских государств вступили в сговор с «биржами Парижа и Лондона». Молотов выдвинул подобную идею в разговоре с Шуленбургом, хотя и не упомянул непосредственно биржи. Деканозов сказал на том ночном совещании, что он сам будет руководить ходом операций в Литве. Вышинский должен был отправиться в Латвию, а Жданов в Эстонию. Если рабочие потребуют изменения буржуазных режимов этих государств в советские социалистические республики, «товарищ Сталин сказал, что он не станет возражать против такого решения.» Некоторое представление о работе этих трех групп дает «предварительный, до начала ликвидации» план, разработанный Деканозовым для Литвы. План датирован 7 июля 1940 года и был впоследствии захвачен немецкими войсками. Этот план предусматривал активное устранение влияния партий, враждебных государству: националистов, вольдемаристов, популистов, христианских демократов, молодых литовцев, троцкистов, социал-демократов, национальных гвардейцев и других. Акция должна была проводиться одновременно по всей Литве в ночь с 11 на 12 июля 1940 года.
Выборы в середине июля 1940 года, направляемые НКВД, показали низкую активность населения, но коммунисты в результате получили удовлетворительное для них количество голосов: 99,2 процента в Литве, 97,8 процента в Латвии и 92,8 процента в Эстонии. 21 июля вновь избранные органы власти попросили союза с, СССР. Эта просьба была удовлетворена Верховным Советом уже 3 августа.
При помощи тысяч своих информаторов НКВД продолжил аресты неиссякаемого потока «врагов народа». Только в одну ночь с 14 на 15 июня 1941 года, за неделю до вторжения немецких войск в Советский Союз, около 60 тысяч эстонцев, 34 тысячи латышей и 38 тысяч литовцев были посажены на грузовики, и для них начался путь в несколько тысяч километров в советские концентрационные лагеря. К началу немецко-фашистской агрессии около 4 процентов эстонцев и 2 процентов латышей и литовцев были депортированы в отдаленные лагеря в Сибири и Казахстане.
12 ноября 1940 года Молотов, Деканозов и заместитель Берии Всеволод Николаевич Меркулов прибыли в Берлин на переговоры по сферам интересов СССР и Германии. Хотя опыт Деканозова в международных делах был ограничен его покорением Литвы, из всех троих он был самым опытным «путешественником». И для Молотова, и для Меркулова это была первая поездка за границу. Еще в ходе переговоров, 20 ноября, Сталин объявил о назначении Деканозова послом в Германии. 18 декабря Гитлер подписал ставшую печально известной директиву за номером 21, «План Барбаросса», которая приказывала завершить к 15 мая 1941 года подготовку к молниеносному разгрому Советской России. На следующий день фюрер впервые принял Деканозова. Гитлер был радушен, и тем не менее тщедушного Деканозова сопровождали двое здоровенных охранников, которых специально выбрали, чтобы подчеркнуть физическую незначительность советского посла. Как первый из бывших руководителей И НО, которого назначили послом, Деканозов, теоретически, был как раз нужным человеком в нужном месте в то время, когда Советский Союз более всего нуждался в хорошей разведывательной информации из Германии. Но Деканозов не был Трилиссером или Артузовым, ни даже Слуцким. Его раболепский сталинизм, мнительные опасения «заговоров» и незнание международной обстановки логично сделали из него соучастника самого сокрушительного поражения советской разведки.
На протяжении семи месяцев пребывания в качестве посла в Берлине, Деканозов, как и Сталин, был более озабочен воображаемыми британскими заговорами, чем реальными замыслами Германии. Советско-германские отношения не вызывали у него никаких серьезных опасений. Советская нефть по- прежнему текла в западном направлении, подпитывая немецкую военную машину; немецкое вооружение и техника проделывали путь в обратном направлении, на Восток. В январе 1941 года СССР откупил у Германии польский район Сувалки за семь с половиной миллионов долларов золотом. В начале 1941 года Гитлер послал Сталину личное письмо, в котором отмечал, что так как центральные и западные районы Германии «подвергаются сильным бомбардировкам английской авиации и хорошо контролируются англичанами с воздуха», он вынужден передислоцировать большие контингента войск на Восток (правда, Гитлер «забыл» упомянуть, что все это было частью «Плана Барбаросса»).
Главной областью некоторой напряженности между Советским Союзом и Германией были Балканы, где продвижение войск Германии повлекло за собой несколько официальных протестов с советской стороны. 6 апреля был подписан расплывчатый югославо-советский договор. Хотя этот договор не обязывал Советский Союз оказывать военную помощь Югославии, договор получил много хвалебных эпитетов в советской прессе того времени. На следующий день Германия предприняла стремительное наступление, которое заставило югославов просить мира уже через несколько дней. Хотя Советский Союз выразил протест по этому поводу, Сталин решил не поднимать много шума. В апреле 1941 года советские поставки сырья в Германию достигли своего максимума за все время со дня подписания пакта о ненападении: 208.000 тонн зерна, 50.000 тонн горючего, 8.300 тонн хлопка, 8.340 тонн металла. СССР также перевез по Транссибирской железной дороге 4.000 тонн каучука, закупленного Германией на Востоке. На церемонии проводов японской делегации в середине апреля Сталин был крайне любезен с Шуленбургом и другими немецкими представителями и, хлопнув по спине озадаченного помощника военного атташе, сказал ему: «Мы будем очень хорошими друзьями!» На первомайском параде в Москве Сталин разрешил Деканозову занять почетное место рядом с собой на трибуне Мавзолея Ленина на Красной площади.
Крайне озабоченный тем, чтобы избежать «провокаций», которые могли бы вызвать враждебность Гитлера и поставить под угрозу пакт о ненападении, Сталин ввел ограничения на разведывательную деятельность в Германии, не существовавшие ни для какой другой страны. Одним из приоритетных направлений работы, определенных Сталиным для берлинских резидентур как НКВД, так и ГРУ, было раскрытие секрета успеха Гитлера: «Что позволило успешно работать нацистской партии, как она сумела подмять под себя большую часть Европы.» Исмаил Ахмедов, офицер ГРУ, посланный в Берлин весной 1941 года, был проинструктирован своим начальником, что Сталин «был особенно… заинтересован в источнике силы Гитлера» и что он должен «предоставлять неприукрашенные, объективные донесения» по этому вопросу — редкое требование в эпоху принципа «угадать, угодить, уцелеть», а также индикатор глубокого интереса Сталина. Еще одним приоритетом в работе НКВД в Берлине было наблюдение за деятельностью ГРУ. Резидент НКВД Амаяк Захарович Кобулов получал наслаждение, разнося в пух и прах в присутствии всех сотрудников «легенды» сотрудников ГРУ. Ахмедов, которому пришлось пережить один из таких разносов, заключал, возможно, правильно, что Кобулов «просто хотел увидеть, сделаю ли я какую-нибудь ошибку, которая может быть использована против меня позднее». В помещении резидентуры НКВД имелась комната (обнаруженная, когда посольство выехало из своего здания после нападения Германии на СССР), специально оборудованная для допросов, пыток и уничтожения «врагов народа», раскрытых в посольстве и советской колонии. Деканозов осуществлял общее руководство операциями и НКВД и ГРУ и вел себя в посольстве, как «местный царек». На собраниях сотрудников посольства, вспоминал Ахмедов, «он перечислял задачи, которые необходимо было выполнить, и дела, от которых надо держаться подальше, а затем безапелляционно всех распускал… Это представление имело единственной целью показать, кто в посольстве главный.»