Но вернувшись весной 1917 года в Кишинев, юноша активно включился в революционную борьбу. Молодого агитатора выделяли кипучая энергия и глубокая убежденность. В ряды ВКП(б) его приняли большевики 5-го Заамурского кавалерийского полка. Якир принимал участие в становлении Советской власти в Бессарабии как член Бессарабского губревкома. «Начинал я свою карьеру с того, что организовал 2–3 десятка бойцов и с ними на грузовиках преследовал румын у Кишинева». Со своим небольшим отрядом Иона отступил из Бессарабии, по пути принимая в ряды новых бойцов. Командовать разношерстным Тираспольским отрядом было тяжело. Якир с иронией называл себя и своих бойцов «умными вояками». Вместе они постигали науку войны, часто на своих неудачах, провокациях анархистов. Опыт командира Иона получал в тяжелых изматывающих боях с австро-немецкими войсками. Отряд пробивался на восток. Под Екатеринославом (современный Днепропетровск) Якир был тяжело ранен, и его еле выходили в санитарном поезде.
В Воронеже, где Тираспольский отряд был на переформировании, Иона Эммануилович занялся организацией крепких красных частей. Была создана Южная завеса против немцев и белоказаков, преобразованная в сентябре 1918 года в Южный фронт. Якир был назначен начальником Политуправления фронта, а затем членом РВС 8-й армии. В боях в районе Коротояк – Лиски – Острогожск он проявил себя настоящим полководцем. Три недели изнуренный, израненный Якир выводил из кольца 12-ю дивизию. Он отличался неутомимой активностью, железной волей и энергией, в критические моменты личным примером поднимал бойцов в атаки. За организацию своими силами контрнаступления, в результате которого были освобождены Коротояк и военно-стратегический узел Лиски, Якиру был вручен орден Красного Знамени № 2 (№ 1 получил В. К. Блюхер).
В июле 1919 года Иона Эммануилович вновь проявил свои организаторские таланты. В 45-й дивизии, которая формировалась в районе Одессы – Приднепровья, «сплошь и рядом царила вольница». Времени на укрепление дивизии противник не оставил, отрезав ее от главных сил Красной Армии. «На юге – море, англо-французский флот, поддерживающий белые десанты, на юго-западе – румыны… На севере – Петлюра и галичане. В тылу – кулацкие банды, восстания… На главной тыловой магистрали – Махно с его всеразлагающей бандитской армией», – писал позже Якир, командовавший окруженной южной группой, куда входили 45, 47, 58-я дивизии, 2-я бригада Котовского. Руководство из центра прекратилось, связи не было. Именно здесь Якир продемонстрировал военный талант, умение управлять большим контингентом войск. Так называемый «Южный переход» в глубоком тылу противника на всю жизнь сдружил молодого командира с боевыми соратниками: Затонским, Гамарником, Голубенко, Левензоном, Картвелишвили, Гаркавым, Котовским. Поддерживая друг друга, командный состав вел группу на прорыв, нанося серьезный урон противнику, который считал, что шансов вырваться у Якира нет. 400-километровый поход и месяц непрерывных упорных боев в огненном кольце сплотили бойцов в единый кулак. Рейд, окончившийся стремительным освобождением Киева, заставил генерала Деникина перегруппировать силы. Это помогло основным частям Красной Армии под Орлом начать переломное наступление против белогвардейцев. Второй орден Красного Знамени украсил грудь 24-летнего командующего южной группой.
После небольшой передышки в декабре 1920 года Якир со своей 45-й дивизией принял участие в боях за Екатеринослав и Александровск (Запорожье). Командир постоянно сталкивался с попытками махновцев деморализовать бойцов. Якир противопоставил анархистам жестокие действия и дисциплину. Совершенно уничтожить банды Махно силами одной 133-й бригады не удалось, «батька» укрылся в Гуляйполе. Дивизия Якира участвовала в освобождении Одессы. Командуя Фастовской, Золочевской и Львовской группами, комдив проявил себя в польской кампании 1920 года и был третий раз награжден орденом Красного Знамени. Но от последнего похода остался горький осадок: бессмысленная трата сил подо Львовом, где Сталин и Буденный противопоставили свои амбиции приказам командарма Тухачевского идти на Варшаву и бесславно жертвовали бойцами, потрясла Якира. К тому же стало давать сбои здоровье (туберкулез), но комдив находил в себе силы быть вместе с родной дивизией и принял участие в разгроме войск Петлюры под Проскуровом и Волочиском. За эту операцию 45-я дивизия была представлена к ордену Красного Знамени, а комдив получил золотое оружие.
После разгрома последних банд Махно военные действия закончились. Иона Эммануилович занимал ответственные партийные и командные должности на Украине и в Крыму. С октября 1921 года ему был доверен один из самых больших военных округов – Киевский (КВО). Рядом работали боевые друзья – люди, которым он абсолютно доверял. Опираясь на их поддержку, Якир решал множество политических, народно- хозяйственных и военных проблем. Особенно много он сделал на должности командующего Вооруженными силами Украины и Крыма (с 1924 г.) при переводе армии на мирное положение и в период военных реформ. Опытный Фрунзе не побоялся доверить столь ответственный участок двадцатидевятилетнему Якиру и не ошибся в преемнике. Комдив организовал проведение огромной воспитательной работы среди бойцов, ввел шефство трудовых коллективов над красноармейскими частями, стоял у истоков зарождения советских военных праздников и поощрял связь армии и людей искусства. Над его родной 45-й дивизией шефствовали артисты театра «Березиль».
Занимая высокие руководящие посты, Якир оставался внимательным и заботливым человеком, как мог старался облегчить тяжелое положение семей красных командиров. А выделенный ему как командующему огромный двухэтажный особняк они с женой Сарой Лазаревной превратили в настоящую коммуну друзей. Здесь жили И. И. Гаркавый, И. Н. Дубовой, И. А. Акулов, В. К. Блюхер. Сара Лазаревна прошла с мужем всю Гражданскую войну, работая шифровальщицей, а в мирное время вела активную работу среди жен комполитсостава округа. Она была награждена орденом Ленина. Дружная семья Якира объединяла вокруг себя людей.
Сам комдив, человек остроумный, жизнерадостный, обладал разносторонними интересами, огромной эрудицией и колоссальной трудоспособностью. Его исключительные способности и талант были по достоинству оценены во время обучения в Высшей военной академии в Германии (1928–1929 гг.). Генерал-фельдмаршал Гинденбург подарил советскому военачальнику книгу Шлиффена «Канны» с надписью: «На память господину Якиру – одному из талантливейших военачальников современности». По просьбе германского генералитета Якир прочитал цикл лекций о Гражданской войне, очень заинтересовавших военспецов.
Иона Эммануилович всегда был в курсе новейших достижений военного искусства на Западе. Свободно владея несколькими европейскими языками, он внимательно перечитывал массу специальной литературы и отдавал все силы перестройке армии, осознавая, что «будущая война станет войной моторов». Враг всякой рутины, Якир подхватывал новый ценный опыт и вводил его в практику и поэтому все важнейшие маневры и значительные общевойсковые учения с отработкой наиболее важных оперативно-тактических вопросов проводились в то время именно в Киевском военном округе. КВ О стал уникальным полигоном для всего передового в области военного искусства, а служба в войсках, которыми командовал Якир, была академией военного воспитания и оперативно-тактического мастерства.
Большое внимание Якир уделял взаимодействию войск. Во время проведения широкомасштабного учения всех родов войск у станции Бровары под Киевом (1935 г.) впервые был осуществлен массовый воздушный десант. Блестящую военную операцию по достоинству оценили зарубежные специалисты. Якиру было присвоено звание командарма 1-го ранга (выше по тому времени – только маршал).
По инициативе командующего КВО сооружались Киевский, Коростенецкий, Центральный Украинский, Тираспольский и Каменец-Подольский укрепрайоны. И. X. Баграмян свидетельствовал, что «эти районы в начале Великой Отечественной войны могли бы сыграть большую роль: гитлеровские орды, натолкнувшись на их мощный заслон, не смогли бы так быстро продвинуться в глубь нашей страны, если бы укрепления не разоружили и не демонтировали». Так же поступили и со скрытыми партизанскими базами в приграничных районах. Якир осознавал, откуда исходит угроза для страны, но так до конца и не понял, откуда идет опасность для него.
Иона Эммануилович решительно и мужественно выступал в защиту своих друзей, в числе первых попавших под колесо репрессий. Иногда ему даже удавалось, дойдя до Ворошилова и Сталина, спасти некоторых товарищей, которых он лично знал. Но он слепо верил в существование мифических заговоров против вождя и, например, поддержал самые жестокие карательные меры против Бухарина и Рыкова. И видимо, потому же не смог спасти людей, которым доверял, – комдива Д. А. Шмидта, комбрига Б. И. Кузмичева, комкора И. И. Гаркавого. Якир лично присутствовал на процессе над старым большевиком и другом-однополчанином Я. Л. Лившицем и с ужасом слушал, как тот «добровольно» сознавался в своих
