когда режиссёр Николай Экк, который работал с Жаровым в Театре Мейерхольда, приступил к съёмкам первого советского звукового фильма «Путёвка в жизнь», рассказывающего о борьбе с беспризорностью. В нём Жарову была предложена первая главная роль в жизни, но роль необычная: он должен был играть главного злодея — бандитского главаря Фомку Жигана. Услышав это, Жаров удивился: «Убийц играть мне ещё никто не предлагал». На что режиссёр ответил: «Потому и беру тебя, что ты не похож на жулика и убийцу». Именно эти слова и решили исход дела: Жаров согласился. Хотя на тот момент должен был сниматься у Юлия Райзмана в фильме «Земля жаждет» в роли честного комсомольца. Узнав о том, что Жаров променял эту роль на роль убийцы, Райзман обиделся на Жарова и прекратил с ним всяческое общение. Так и сказал: «Я освобождаю тебя и от картины, и от нашей дружбы!»
Когда фильм «Путёвка в жизнь» вышел на широкий экран, он произвёл настоящий фурор: зритель, особенно молодой, шёл на него, что называется, рядами и колоннами. По сути, это был не только первый советский звуковой фильм, но и второй советский блокбастер после «Красных дьяволят». Он шёл во всех кинотеатрах страны при неизменных аншлагах и даже в Большом зале консерватории. И что самое удивительное: наиболее популярным персонажем у молодёжи стал именно злодей Фомка Жиган в блистательном исполнении Михаила Жарова. Песня Жигана «Нас на свете два громилы» стала чуть ли не молодёжным шлягером, исполняемым под гитару во всех советских дворах и подворотнях. Жаров надолго превратился в кумира подростков и даже преступников. Сам актёр узнал об этом случайно. Зашёл в магазин за продуктами, а там у него малолетний воришка выкрал из кармана всю наличность. Но едва Жаров вышел из магазина, как к нему подошёл вихрастый юноша, который извинился за своего коллегу и, вернув актёру деньги, сказал: «Извините моего напарника: своих, гад, не узнаёт».
Небывалый ажиотаж вокруг фильма сослужил ему в итоге плохую службу: в середине 30-х картину упрятали в запасники, опасаясь, что она пагубно влияет на молодёжь. И снимать кино про уголовников в Советском Союзе с этого момента было запрещено.
Между тем роль Жигана надолго придала актёрскому имиджу Жарова отрицательный оттенок. С этого момента его хоть и стали часто приглашать сниматься в кино, однако исключительно на роли злодеев или героев из разряда «с червоточиной». Таковых за последующие пять лет он переиграл достаточное количество: приказчик Кудряш в «Грозе», начальник строительства в «Трёх товарищах», конторщик Дымба в «Возвращении Максима» и «Выборгской стороне» и т.д. Так могло продолжаться до бесконечности, если бы в 1936 году режиссёр Иван Петров не пригласил Жарова в свою картину «Пётр Первый» на роль Меншикова. За эту роль Жаров был удостоен своей первой Сталинской премии.
В первый раз Жаров женился рано — в 20 лет (в 1919 году). Он ездил на Деникинский фронт в составе агитпоезда и познакомился там с уроженкой Минска Диной, которая была на два года старше его. Он привёз её в Москву и привёл к родителям. «Это — моя жена!» — заявил Жаров. Родители были в шоке, но перечить сыну не стали. В 1921 году у молодых родился сын Евгений. Однако их семейная жизнь продолжалась всего семь лет. В 1928 году Жаров влюбился в актрису Людмилу Полянскую и ушёл из семьи. И опять жена оказалась старше Жарова — на этот раз почти на 20 лет.
Сначала Жаров и Полянская жили в коммуналке. Два раза у них рождались дети, но у обоих была трагическая судьба — они умерли младенцами из-за болезней. Однако и своего первенца Жаров тоже не забывал: Женя жил у его матери, и отец раз в неделю обязательно его навещал. Евгений потом станет артистом, а его дебют в кино состоится ещё в подростковом возрасте: в фильме «Путёвка в жизнь» он поёт за кадром песню Жигана, которого играл Михаил Жаров.
Во время войны Жаров снимался не менее активно, чем в мирные годы, став самым снимаемым актёром. Он тогда сыграл в восьми фильмах, причём это были совершенно разные по жанру картины. Среди них были три военные драмы («Оборона Царицына», «Секретарь райкома», «Во имя Родины»), три комедии («Воздушный извозчик», «Близнецы», «Беспокойное хозяйство»), одна историческая драма («Иван Грозный»), одна мелодрама («Актриса»).
За фильм «Оборона Царицына» Жаров удостоился своей второй Сталинской премии. А работа в картине «Воздушный извозчик» круто изменила личную жизнь актёра — он влюбился в свою партнёршу Людмилу Целиковскую, которая по праву считалась одной из самых красивых актрис советского кинематографа.
На тот момент Жаров был более полутора десятков лет женат на Полянской, однако, встретив Целиковскую, решил уйти из семьи. У них с Целиковской начался головокружительный роман, который продолжался в течение полутора лет. Жаров боялся потерять свою возлюбленную, которая была моложе его на 20 лет, и делал всё возможное, чтобы они даже в кино снимались вместе. Так, когда в «Иване Грозном» не смогла сниматься Галина Уланова, именно Жаров уговорил Эйзенштейна взять на роль царицы Анастасии Целиковскую. Затем снял её в главной роли в своём режиссёрском дебюте — фильме «Беспокойное хозяйство».
Поскольку свою роскошную квартиру на Тверской Жаров оставил бывшей жене, они с Целиковской вынуждены были снимать номер в гостинице «Москва». Чуть позже переехали в небольшую квартиру, окна которой выходили на гостиницу «Астория». Однако именно там их идиллия и закончилась. Их соседом по дому оказался известный архитектор Каро Алабян, с которым у Целиковской довольно скоро случился роман. Жаров узнал об этом спустя некоторое время. И первым пошёл на разрыв. Когда Целиковская вернулась из Ленинграда, куда ездила с Алабяном, Жаров поставил вопрос ребром. Целиковская во всём созналась, но попросила не выгонять её из дому, поскольку на тот момент ещё не могла воссоединиться с Алабяном. В итоге какое-то время Жаров и Целиковская жили вместе.
Произошедшее сказалось на здоровье Жарова. У него начались серьёзные спазмы, он мучался бессонницей. Видя его состояние, руководство Малого театра, где он работал с 1938 года, отправило его летом 1949 года в санаторий на Истре. И именно там актёру суждено было встретить свою третью, и последнюю, супругу. Это была 18-летняя дочь знаменитого врача-кардиолога Майя Гельштейн, которая отдыхала в санатории вместе с родителями. Волею судьбы Жарова усадили в столовой за один стол с Гельштейнами, что и стало завязкой будущего романа.
Майя в то лето готовилась к экзаменам: она собиралась поступать в техникум учиться на художественного редактора. Девушка была настолько хороша собой, что на неё невозможно было не обратить внимания. Однако Жаров, видя её юный возраст, никаких особых знаков внимания ей не оказывал. Когда спустя неделю Майе пришлось вернуться в Москву сдавать экзамены, она накупила в ближайшем киоске два десятка фотооткрыток Жарова и расставила их по всей квартире. В тот день она записала в своём дневнике: «Что мне делать? Я влюбилась в старого некрасивого артиста Жарова!..» Она была уверена, что знаменитый актёр не обратил на неё никакого внимания. Несколько суток девушка прорыдала, а потом вернулась в санаторий, плюнув на свои переэкзаменовки. Катание на лодках и пикники возобновились. Во время одной из прогулок Жаров внезапно рухнул перед Майей на колени и заплакал: «Я знаю, что не должен вам это говорить, но я вас безумно люблю…» Следом заплакала и Майя. А через месяц Жаров сделал ей официальное предложение.
Когда Жаров пришёл к родителям Майи просить руки их дочери, те, естественно, были в ужасе. Во- первых, из-за тридцатилетней разницы в возрасте, а во-вторых, как и подавляющее большинство зрителей, они считали Жарова человеком пьющим и ненадёжным. Но актёр умел убедить отца девушки в том, что он сумеет обеспечить достойную жизнь его дочери. Мужчины проговорили шесть (!) часов, после чего отец Майи сдался. И уже скоро убедился в правильности своего выбора. Когда в феврале 1953 года его арестовали по обвинению в космополитизме, Жаров бросился спасать своего тестя. И хотя это было делом опасным (каждый день ему звонили по телефону неизвестные и спрашивали: «Мойша, ты ещё жив?», а в Малом театре его сняли с должности партийного секретаря), он не испугался. И даже взял к себе в дом родных Элиазара Марковича.
В последнем браке Жарова родились две дочери: Анна (1951) и Елизавета (1953).
В 1949 году Жарова удостоили звания народного артиста СССР. Однако четыре года спустя умер Сталин, и для Жарова наступили сложные годы: он угодил в немилость к новым правителям. По его же собственным словам: «В годы хрущёвской оттепели нас окрестили как „любимцев сталинской эпохи“ и принялись изобличать: „ах вы, такие-сякие, жили — не тужили, с культом не боролись, хватали ордена, лицедействовали на сценах перед Сталиным!“ Я отвечал: „Да, Сталин дважды аплодировал лично мне стоя. Только и после того я в любой момент мог закончить жизнь сидя“».
Как писал кинокритик М. Кушнирович: «Жаров был актёром, сумевшим силой своего таланта