14 февраля 1943 года ему присвоено звание генерал-лейтенант.
Указом Президиума Верховного Совета СССР от 17 октября 1943 года за высокие организаторские способности при форсировании Днепра и проявленный личный героизм генерал-лейтенанту Черняховскому Ивану Даниловичу присвоено звание Героя Советского Союза.
5 марта 1944 года ему присвоено звание генерал-полковник.
В 1944 году для Черняховского наступил час проверки всех его возможностей: 37-летнего генерала назначают командующим 3-м Белорусским фронтом. Одновременно 1-м Белорусским фронтом командовал Г. К. Жуков, 2-м Белорусским – К. К. Рокоссовский, 2-м Украинским – И. С. Конев. Под его начало поступают огромные массы войск: четыре общевойсковые, воздушная, танковая армии, артиллерия, инженерные войска и множество других подразделений. В его подчинении оказываются боевые генералы, некоторые из которых были в своё время его начальниками. Нужно было так построить отношения со всеми ними, чтобы возникло доверие к способностям нового командующего, и не было неприязни и непонимания. На первых порах не всё во взаимоотношениях Черняховского с подчинёнными проходило гладко. Перед началом операции «Багратион» командующие Белорусских фронтов поручили именно И. Д. Черняховскому ходатайствовать перед И. В. Сталиным о придании войскам фронтов отдельной танковой армии под командованием Ротмистрова. Верховный удовлетворил просьбу, высказанную молодым командующим. Фронты были усилены 5-й гвардейской танковой армией, которой директивой Ставки была поставлена задача наступать вдоль минского шоссе. Противник, понимая важность этого направления, стянул сюда большие силы. Узнав об этом, Черняховский принимает смелое и рискованное решение: перенаправить танковую армию на другой участок, где её появление будет для немцев неожиданным. Но тут вдруг возникло непредвиденное препятствие: прославленный танкист, герой Курской битвы маршал Ротмистров наотрез отказался выполнить приказ командующего фронтом. Он боялся, что на многокилометровом марше по заболоченной непроезжей местности можно утопить машины и растратить необходимый моторесурс (танковые моторы из-за большой мощности быстро изнашивались, и потому всякое лишнее передвижение грозило преждевременной остановкой танка). Черняховский был настойчив, но предельно тактичен, и его спокойствие и умение убеждать сыграли роль в исчерпании конфликта. Им совместно удалось провести эту блестящую операцию, в результате которой была разгромлена стотысячная армия противника.
Маршал А. М. Василевский, в то время воевавший рядом с Черняховским, в своих мемуарах так писал о нём: «Особенно сблизила нас с Иваном Даниловичем общая работа в Белоруссии. Она протекала в атмосфере взаимного доверия, уважения и желания помочь друг другу. Черняховский возглавлял один из ведущих фронтов – 3-й Белорусский. То была первая фронтовая операция, которую проводил самый молодой в Красной Армии, исключительно талантливый и энергичный командующий фронтом. Хорошее знание войск, многообразной и сложной боевой техники, умелое использование опыта других, глубокие теоретические знания позволяли Черняховскому отлично управлять войсками, входившими в состав его фронта, решать сложнейшие задачи, которые ставило перед ним Верховное Главнокомандование. В бою Черняховский находился на наиболее ответственных участках, внимательно следя за действиями своих войск и противником. Он чутко прислушивался к мнению подчиненных. Смело использовал всё новое и полезное в обучении войск и организации боя. Солдаты, офицеры и генералы любили своего командующего прежде всего за человечность и заботу о них, за отвагу и бесстрашие, за твёрдость и настойчивость при проведении в жизнь решений, за прямоту и простоту в обращении, за гуманность и выдержку, за требовательность к себе и к подчинённым. Да, он был строг и требователен. Но никогда не позволял себе унижать достоинство человека».
Из всех командующих советскими фронтами он был самым молодым по возрасту. Фронт под его командованием успешно участвовал в Белорусской, Вильнюсской, Каунасской, Мемельской, Гумбиннен- Гольдапской и Восточно-Прусской операциях.
28 июня 1944 года ему присвоено звание генерал армии. Черняховский стал самым молодым генералом армии в РККА (в 38 лет).
Второй медали Золотая Звезда генерал армии Черняховский Иван Данилович удостоен Указом Президиума Верховного Совета СССР от 29 июля 1944 года за успешные действия его войск при освобождении Витебска, Минска, Вильнюса.
Мастерство И. Д. Черняховского вырастало от сражения к сражению. Отличное знание боевой техники, умелое использование опыта, накопленного в прежних боевых операциях, прекрасная теоретическая подготовка, настойчивость и твердость в осуществлении намеченных целей и задач, личная храбрость – вот что отличало молодого генерала, полководца новой формации. Среди бойцов и офицеров авторитет Черняховского был очень высоким.
Если по карте взглянуть на положение тех соединений, которыми в годы войны командовал И. Д. Черняховский, в отношении с соседними соединениями можно обратить внимание, что в период отступления – его части всегда были в арьергарде, а во время наступлений – в авангарде. Он всегда оказывался западнее соседей: сначала прикрывая их отступление, затем первым прорывая фронт и расчищая дорогу для их движения на Запад.
Когда войска его фронта вступили в Литву и вели бои за освобождение ее столицы – Вильнюса, командующий, чтобы сохранить от разрушения древний город, приказал не бомбить его, не обстреливать из тяжелых орудий. Город был взят в результате обходного маневра и избежал разрухи.
13 января 1945 года началась одна из крупнейших операций по уничтожению отборной вражеской группировки в Восточной Пруссии, которой Гитлер приказал стоять насмерть, любой ценой преградить дорогу русским войскам, чтобы они не смогли выйти впрямую на Берлинское направление. Выполнение задачи по разгрому прусской группировки возлагалось на войска двух Белорусских фронтов – генерала И. Д. Черняховского и маршала К. К. Рокоссовского. Предстояло отсечь немецкую группировку от основных гитлеровских войск, выйти к Балтийскому морю, расчленить и уничтожить ее. В этой сложнейшей операции полководцы, как и следовало ожидать, работали слаженно, согласованно, точно.
Черняховский и на этот раз применил своеобразный тактический маневр. Одновременно на двух участках фронта, на плацдарме свирепой реки он мощным ударом прорвал неприступную оборону противника. Наши войска вскоре вышли на побережье моря и окружили город Кенигсберг. Хотя обреченный враг люто сопротивлялся, но войскам Черняховского удалось прижать к морю противника и раздробить на три части его основные силы. Полководец уже зримо ощущал неминуемый разгром врага. Но судьба его была не такова.
18 февраля 1945 года генерал армии Иван Данилович Черняховский погиб.
В фильме-эпопее «Освобождение» режиссёром Озеровым довольно подробно была показана сцена смерти советского военачальника. В распоряжении генерала Черняховского был новейший по тому времени автомобиль повышенной проходимости – ГАЗ-61. В основе машины – хорошо известная «Эмка», но с более мощным шестицилиндровым мотором в 76 лошадиных сил. И двумя ведущими мостами. Благодаря низкооборотистому двигателю и очень высокому клиренсу ГАЗ-61 обладал просто потрясающей проходимостью. Плюс к этому – оборудован закрытым пятиместным кузовом, не уступающим по комфорту обычным легковым автомобилям. Надо заметить, что на вооружении германской армии штабных машин подобного класса не было. В американской армии тоже. По хорошей дороге ГАЗ-61 легко разгонялся до 100 км/час. Всего выпустили около 400 внедорожников ГАЗ-61. Такими машинами во время Великой Отечественной войны пользовались маршалы Рокоссовский, Жуков, Конев. А одну из них в середине 1944 года выделили и Черняховскому.
«Моя машина, – писал в начале 1945 года Иван Черняховский, – легко берет самые разнообразные препятствия. Расскажу об одном эпизоде. Прошлой осенью, когда беспрерывный дождь, шедший три дня, привел все окрестные дороги в непроезжее болото, мы отправились инспектировать прилегающие к линии фронта части. Неожиданно впереди показалась встречная машина. Это была грузовая трёхоска с надетыми на колёса гусеницами, очень осторожно спускавшаяся с холма. Её шофер собирался остановить машину, так как разъехаться в таком опасном месте, по его мнению, было невозможно. Но вдруг он увидел, что наша легковушка поворачивает в канаву и легко перемахивает через все препятствия. Развернувшись в поле, наш ГАЗ-61 тем же маневром вышел на середину дороги, обойдя трёхоску. Пораженный шофёр встречной машины вылез из неё и долго смотрел нам вслед…»
Рано утром 18 февраля 1945 года командующий 3-м Белорусским фронтом И. Д. Черняховский выехал на левый фланг войск на этом самом ГАЗ-61. Это было в районе города Мельзак в Восточной Пруссии.
