Совместная жизнь Диллинджера и Фуршет продлилась недолго: 9 апреля девушку арестовали и отдали под суд за укрывательство преступника. Диллинджера это взбесило, и 15 апреля вместе с Ван-Миттером они прибыли в городок Варшава в штате Индиана. Им нужно оружие, а не деньги - они напали на один из местных полицейских участков. В тот час там находился полицейский по фамилии Петинджер. Он сидел за столом и что-то писал, когда внезапно в помещение ввалились двое вооруженных людей. Это были Диллинджер и Ван-Миттер. Разоружив полицейского, Диллинджер забрал у него ключи от оружейной комнаты и удалился. Ван-Миттер остался на месте, держа Петинджера на мушке. Самое интересное, что все это из дома напротив видел пожарный, однако телефона у него под рукой не оказалось, а покидать свой пост он не имел права. Вот и пришлось ему быть безучастным наблюдателем. А события едва не завершились трагически.
Петинджер, воспользовавшись удобным моментом, внезапно набросился на Ван-Миттера и попытался выбить у него из рук револьвер. Однако бандит оказался проворнее и встретил полицейского мощным ударом кулака в лицо. Петинджер рухнул, и Ван-Миттер, не давая ему опомниться, довершил дело ударом рукоятки пистолета по голове.
После этого успешного налета Диллинджер принимает решение взять кратковременный отпуск и отправляется в санаторий на берегу озера Мичиган, в Литл-Стар возле Мерсера (Северный Висконсин). Вместе с ним отправляются Ван-Миттер, Хэмильтон, Нельсон, Томми Кэролл и три молодые девицы. Все они преисполнены желания весело провести время и полагают, что это им удастся. Однако даже здесь, в мертвый курортный сезон, вдали от густонаселенных центров им не удается спрятаться от чужих глаз. Владелец санатория Эмиль Вананка сразу догадался о том, кто прибыл в его владения, и 22 апреля 1934 года дал знать об этом в полицию. В тот же день ночью к санаторию подъехали четыре автомобиля с полицейскими и агентами ФБР, которых возглавлял сам шеф чикагского отделения ФБР Мелвин Первис.
Диллинджер и Хэмильтон вместе с подругами спали в главном здании, а остальные - в домике на берегу озера. Это было сделано специально, чтобы в случае опасности полицейским не удалось застать их врасплох одновременно. И эта тактика в ту ночь полностью себя оправдала.
Как только полицейские вышли из машин, проснулись собаки, лаем разбудившие Диллинджера и Хэмильтона. Вскочив на ноги, они выглянули в окно и увидели крадущихся к их дому людей. Преступники тут же открыли огонь из автоматов и в первые же секунды смертельно ранили одного из агентов ФБР. Однако и пули, пущенные полицейскими в ответ, также достигли цели: одной из них был ранен в легкое Хэмильтон. Кроме этого случайно были ранены двое постояльцев санатория, которые в это же время мирно выпивали в ночном баре. Стрельбу в главном здании услышали сообщники Диллинджера в домике на берегу. Они схватились за оружие и встретили полицейских шквальным огнем. Особенно усердствовал Малыш Нельсон, который автоматной очередью разрезал местного констебля Карла Кристианса.
Бой длился около получаса и завершился поражением полиции. Потеряв двух своих людей, они ранили только одного бандита, двух посторонних и задержали трех девиц из банды Диллинджера. Все остальные сели в автомобили и вырвались из ловушки.
Диллинджер и тяжело раненный Хэмильтон уехали на автомобиле вдвоем. По дороге Хэмильтон скончался от потери крови, и Диллинджеру не оставалось ничего иного, как похоронить своего напарника. В песчаном карьере он руками вырыл неглубокую могилу и опустил туда тело друга.
Но, прежде чем сделать это, он обезобразил ему лицо и пальцы рук щелоком.
Очередная неудачная попытка схватить Диллинджера и его банду спровоцировала газетную шумиху. Репортеры смакуют неумелые действия полиции и захлебываются от восторга перед бандитами. Все это заставило власти всерьез вмешаться в это дело. Сам президент США Франклин Рузвельт выступил с речью, в которой заявил: 'Этих бандитов необходимо остановить, и мы их остановим!'
В Белом доме состоялось представительное совещание с участием Генерального прокурора Каммингса и шефа ФБР Эдгара Гувера. Выступивший Ф. Рузвельт официально назвал Джона Диллинджера 'врагом нации № 1' и потребовал его немедленного уничтожения. Шеф ФБР объявил награду за поимку Диллинджера в 20 тысяч долларов, а также создал специальную команду из 40 снайперов, которые прошли усиленную подготовку на военных стрельбищах. Возглавил отряд один из лучших агентов ФБР Сэмуэл Коули.