В ноябре 1920 года русская эскадра под командованием генерала барона П. Н. Врангеля пришла в Константинополь. По договоренности с союзным командованием, гражданские беженцы сошли на берег. Вместе с ними ряды армии покинули те военные, кто решил записаться в гражданские беженцы. Но большинство чинов врангелевской армии предпочли остаться на военной службе.
По соглашению с союзным командованием, армейские части, сведенные в корпус, под командованием генерала А. П. Кутепова, были размещены на полуострове Галлиополи. Казачьи части под командованием генерала Ф. Ф. Абрамова — на острове Лемносе. Небольшой русский воинский контингент был размещен в турецком городе Чаталджа. Русские военные корабли под командованием адмирала М. А. Кедрова, совершив переход по Средиземному морю, встали на якорь в тунисском порту Бизерта. Русская армия оставалась достаточно внушительной вооруженной силой, находившейся непосредственно у границ Советской России. А потому большевистские спецслужбы стремились ослабить военную эмиграцию во что бы то ни стало.
В первую очередь, путем создания комитетов «Союза за возвращение». Несмотря на то, что под воздействием «Союза» ряды армии покинули несколько тысяч человек, главным образом казаков, поверив амнистии советского правительства, цель «Союза» в общем не была достигнута. Вернувшихся ждала незавидная участь. Практически все они были репрессированы (за исключением тех, кто был «предназначен» для рекламных целей проводимой акции), рядовых участников Белого движения ссылали в северные и дальневосточные губернии, младший и средний офицерский состав расстреливали, как правило без суда и следствия, генералов сначала привлекали к преподавательской работе, а затем они уничтожались, причем при загадочных обстоятельствах.
Однако к тому времени процесс «распыления» Русской армии принял необратимый характер, те небольшие средства, что имелись в распоряжении барона Врангеля иссякли, а союзники необходимой поддержки не оказали. Воинские части таяли на глазах: офицеры и рядовые оставляли расположения военных лагерей и военную службу вообще, перебираясь в различные страны Западной Европы и Американского континента, туда, где была возможность заработать себе на жизнь.
К середине 1920-х годов в военной эмигрантской среде сложилась довольно непростая ситуация. В 1921 году в Болгарии чинами 1-го армейского корпуса было создано Общество галлиполийцев, или Галлиполийский Союз, призванный объединить чинов Русской армии, служивших в Галлиополи, Лемносе и Бизерте. Командующий 1-м армейским корпусом генерал А. П. Кутепов стал первым председателем Правления общества галлиполийцев. Устав Общества был подписан генералами М. Н. Репьевым, В. К. Витковским, А. В. Фоком, А. В. Туркулом, Л. Н. Баумгартеном, полковником Сорокиным, капитанами Мащенко и Рыбинским и бароном В. Х. фон Даватцем. Устав был направлен в город Сремски Карловцы, где в то время размещался штаб генерала П. Н. Врангеля, который одобрил его [727].
Основой организации галлиполийцев, а в будущем и Русского общевоинского союза — РОВС, стали те организационные структуры, которые создавались с целью поддержки и объединения кадров войсковых частей, входивших в состав 1-го армейского корпуса, Донского корпуса, а также Кавалерийской и Кубанской дивизий. Всего около 30 подразделений. Как правило, все они признавали главенство генерала П. Н. Врангеля.
Основная масса чинов РОВС к середине 1920-х годов окончательно перешла на самообеспечение и более-менее обустроилась на новых местах, продолжая считать себя не отставниками, а находящимися в длительном отпуску. Наиболее активная часть воинской эмиграции старалась воспитывать подрастающее поколение в русском национальном духе на основе православной веры. Русские эмигранты, главным образом из военной среды, долгие годы отказывались принять гражданство страны проживания. Еще в 1925 году в специальном распоряжении РОВС говорилось: «Принятие нашими чинами иностранного подданства является совершенно недопустимым и угрожающим интересам нашего общего дела». Позднее, уже в 1930-х годах руководство РОВС было вынуждено смягчить свою прежнюю установку, выразившуюся в следующих словах: «К лицам, принявшим иностранное подданство, а также ранее вышедшим из Союза, никаких препятствий к возвращению в будущем в ряды Русской армии чиниться не будет»[728].
Многие из бывших участников Белого движения сумели найти свое место в новых эмигрантских условиях, сохраняя и связи со своими однополчанами. Так, генерал Харжевский к середине 1920 года приехал из Софии в Прагу, чтооы закончить свое образование. Из Праги он уехал в город Пшибрам, где поступил в Горную академию, которую успешно закончил, получил диплом горного инженера. Переехав в Прагу, он работал по специальности и одновременно руководил организациями галлиполийцев в Чехословакии.
Еще в 1920-х годах лекции по штабной, разведывательной и контрразведывательной работе чешским офицерам читал русский генерал П. Ф. Рябиков — в прошлом профессор Николаевской военной академии. На всем протяжении всех 1920-х годов он оставался одной из центральных фигур в структурах РОВС в Праге.
Следующий этап «распыления» Русской армии после этапа «чехословацкого» начался в 1923–1926 годах, когда из Болгарии, Сербии, Польши во Францию и Бельгию планомерно и организованно переселились около 10 тысяч чинов РОВС. Во Францию и Бельгию переехали штабы некоторых частей соединений врангелевской армии (штаб 1-го армейского корпуса, штабы Корниловского ударного, Марковского пехотного, Дроздовского стрелкового полков, Атаманское училище, Кубанское Алексеевское и некоторые другие). В Париже поселился с семьей генерал А. П. Кутепов. В 1927 году из Белграда в Париж переехало Главное правление Общества галлиполийцев во главе с генералом М. Н. Репьевым.
В Париже в 1920-е годы были открыты Высшие военные курсы генерала Н. Н. Головина, входившие в структуры РОВС. Филиалы этих курсов были открыты в Белграде и Брюсселе. Помимо курсов генерала Головина в 1920-х годах русскими военными в европейских странах были созданы и другие военно-учебные структуры — русский кадетский корпус в Югославии, стрелковые курсы князя И. И. Максутова в Белграде, школа подхорунжих в Белище и Белом Монастыре — так же в Югославии. Русская стрелковая дружина имени генерала П. Н. Врангеля в Брюсселе и унтер-офицерские курсы в Ницце на юге Франции.
Патриотическим воспитанием подрастающего поколения школьного возраста занимались «скауты- разведчики», «соколы» и «витязи». Таким образом создавался резерв для полковых и училищных объединений, входивших в РОВС.
На протяжении 1920-х годов важным центром Русского Зарубежья оставались Балканы. Даже после завершения «распыления», в Югославии военные составляли высокий процент среди русских эмигрантов. В Югославии многие русские военные были приняты на службу в королевскую армию с сохранением офицерских чинов. Это касалось в первую очередь военных топографов, генштабистов, летчиков, преподавателей высших военных учебных заведений. Первоначально были приняты на службу целые подразделения врангелевской армии, как например, кадры Крымского конного полка, Гвардейского казачьего дивизиона и бугские уланы[729].
В начале 1928 года после тяжелой и скоротечной болезни в Брюсселе скончался генерал П. Н. Врангель. В Праге сворачивалась Русская акция, многие западноевропейские государства устанавливали в Брюсселе дипломатические отношения с Советской Россией и под разными предлогами старались ликвидировать эмигрантские военные организации на своих территориях, многих бывших военных увольняли с работы или брали с них подписку о неучастии в военизированных эмигрантских структурах. Для военной русской эмиграции наступал новый этап, гораздо более сложный чем предыдущий.
Большинство эмигрантов все же оставались трезво мыслящими людьми. Они прекрасно понимали, что одними политическими спорами и дискуссиями сыт не будешь. Существовала обратная сторона медали: постоянная трескотня грозила обернуться непоправимой трагедией, культурным разрывом между «стариками» и «молодежью». Если первые ушли из России, имея за своими плечами огромное интеллектуальное наследство, то вторым из-за политических споров старших грозила опасность остаться без осознания себя частицей великой российской культуры. Именно поэтому, уже с самого начала 1920-х годов стали возникать многочисленные учебные заведения, в которых преподавательский состав был представлен лучшими педагогами дореволюционной России.