Кононова, находилась в районе Белостока. К 28 июня армия оказалась в «котле», в начале июля управление армии перестало существовать. В Главном управлении кадров НКО Кононов числился как пропавший без вести с 31 июля 1941 года. По версии самого Кононова, представленной в 1948 году, он перешел к немцам вместе с полком, добровольно, переходу предшествовала предварительная договоренность с немцами. По одной из советских версий, Кононов сдал полк, по другой – поставил полк в крайне невыгодное положение, после чего несколько десятков бойцов сдались вместе со своим командиром. В 1948 году свою версию высказал полковник власовской армии В.В. Поздняков, который августе 1941 года в качестве начальника химической службы 67-го стрелкового корпуса РККА инспектировал полк Кононова. По информации Позднякова, Кононов сдался в плен вместе с одним из своих батальонов, будучи в окружении. Приводятся сведения о том, что после 22 августа группа военнослужащих 436-го полка еще некоторое время продолжала боевые действия против немцев. По версии Кононова, переходя к немцам, он взял с собой полковое знамя. Ныне знамя 436-го полка находится в Музее Вооруженных Сил СССР. Остается неизвестным, является ли это знамя подлинным, и если да, то какова его судьба. Было ли оно отбито Красной Армией обратно в ходе боевых действий, или вообще никогда не попадало в руки противника. (Александров К. Трагедия донского казака Ивана Кононова // Посев. – 2000. — №№ 5,6; Окороков А.В. Не сотвори себе кумира… // Станица. – Март 2001. – № 2 (35).
}} . Но вне зависимости от обстоятельств перехода, Кононов сразу же заявил о своем желании принять участие в вооруженной борьбе с большевизмом. В 1948 году он напишет: «Живя непосредственно в Советском Союзе, я видел все прелести террора, нищеты, издевательства над народами, находящимися под гнетом коммунизма. Я твердо решил стать на путь открытой борьбы против коммунизма с целью освобождения нашей родины от варваров, бандитов-коммунистов во главе с проклятым, кровавым горным шакалом Джугашвили-Сталиным. Нужно прямо, отчетливо и правдиво сказать, что миллионы людей Советского Союза войну 1941 г. восприняли с большой радостью и надеждой на Германию, что она поможет, наконец, сбросить ярмо коммунизма с людей С. С. С. Р. Но тупость и беспредельная наглость нацистской политики /привела к тому, что/ народы Советского Союза не сумели получить освобождение от коммунизма» {{ Цит. по: Александров К. Трагедия донского казака Ивана Кононова // Посев. – 2000. — № 5, — С. 43.}} .
Предложение Кононова заинтересовало командующего войсками безопасности тыла Группы Армий «Центр» генерала М. фон Шенкендорфа, который был сторонником привлечения населения СССР на сторону Германии. Началось формирование 102-го казачьего эскадрона в Могилеве, которое было завершено 28 октября 1941 года. Далее последовало формирование 2-го, 3-го, 4-го и 5-го эскадронов, на основе которых в сентябре 1942 года был создан 102-й (с октября – 600-й) казачий дивизион под командованием Кононова. Общая численность дивизиона составила 1 799 человек, в том числе 77 офицеров. Дивизион комплектовался советскими военнопленными, которых Кононов лично набирал в лагерях. Первым помощником Кононова из числа белоэмигрантов стал майор Пуговичников {{ Дробязко С.И. Казачьи части в составе Вермахта. – С. 183.}} .
Став подполковником, Кононов получил в подчинение 5-й (600-тый) Донской кавалерийский полк в составе дивизии генерал-майора Гельмута фон Паннвица {{ На казачьем посту. — 15 декабря 1943. — №16, — С. 3-4. }} . Это воинское формирование принимало участие в боевых операциях в районе Бобруйска, Могилёва, Смоленска, Невеля, Полоцка, а также на Балканах, в том числе против 12, 18, 27, 28-й партизанских бригад И. Б. Тито.
В 1943 году приказом немецкого командования Кононову было присвоено очередное воинское звание – полковник. Он был награжден девятью орденами, в том числе Железным крестом 1-го и 2-го классов, Рыцарским нашейным хорватским крестом, всеми пятью существовавшими «восточными» медалями – золотой, серебряными и бронзовыми {{ Там же. — 15 ноября 1944. — № 38, — С. 11.}} .
Казачьи дивизионы формировались в составе немецких охранных дивизий, действовавших на южном участке Восточного фронта, а также при штабах немецких танковых соединений. Их назначением стала борьба с партизанами, охрана стратегически важных объектов и разведывательная служба. Летом 1942 года были образованы казачьи кавалерийские полки «Платов» и «Юнгшульц», носивший имя своего командира. Казачья часть была сформирована в составе итальянской кавалерийской группы «Савойя».
Форма одежды казачьих частей, входивших в состав Вермахта, изначально представляли собой разнородное сочетание предметов германского и советского обмундирования с элементами обмундирования традиционого казачьего: папахами, шапками-кубанками, фуражками с цветным околышем, башлыками, черкесками, бурками и брюками с лампасами. На флагах и штандартах таких частей изображалась традиционная казачья символика – подкова, шашка, скрещенная с нагайкой, шапка-кубанка {{ Дробязко С.И. Вторая мировая война 1939-1945. Восточные легионы и казачьи части Вермахта. – М.: АСТ, 1999. – С. 22.}} .
18 июня 1942 немецким командованием был издан приказ об организации центра формирования добровольческих казачьих частей в Славуте. Во всех лагерях военнопленных начали отбирать казаков и направлять их в единый лагерь. За десять дней с момента подписания приказа удалось отобрать и сконцентрировать до шести тысяч человек. Было решено формировать части по войсковому принципу, а именно: Донские, Кубанские, Терские и сводные, куда входили казаки небольших областей и представленные в сборочном лагере в небольшом количестве.
Организация полков натолкнулась на серьёзное затруднение, связанное с недостатком старшего и даже среднего командного состава. В связи с этим германское военное командование, нарушая принцип фюрера – не допускать российских эмигрантов на оккупированные территории СССР, начало привлекать белых офицеров в казачьи войска Вермахта. Из наличного состава казаков в первую очередь начали формировать 1-й Атаманский полк и Особую казачью полусотню. На подбор казаков в нее было обращено особое внимание. В полусотню отбирались казаки, которые в годы Гражданской войны в России служили в отрядах генералов А. Г. Шкуро, С. Л. Маркова и других белых военачальников. В Особую полусотню брали также репрессированные советской властью и имевших по приговорам не менее 10 лет (очевидно организаторы корпуса располагали такими кадрами). Особенность формирования полусотни объяснялась тем, что эта боевая единица была предназначена для выполнения особо важных заданий. К концу июля 1942 года было закончено формирование 2-го Лейб-казачьего, 3-го Донского, 4-го и 5-го Кубанских, 6-го и 7 -го сводно-казачьих полков. 6 августа сформированные казачьи части были переведены из лагеря в специально предназначенные для них казармы в Шепетовке, где был образован Штаб формирования казачьих войск {{ На казачьем посту. — 25 апреля 1943. — № 1, — С. 5.}} . Начиная от системы чинопроизводства и заканчивая распорядком дня, всё было введено по образцу дореволюционных казачьих полков.
Первоначально, создаваемые части использовались исключительно как вспомогательные войска по охране лагерей военнопленных. По мере того, как ширилось формирование, отдельные полки в полном составе стали отправляться на фронт, на охрану военных объектов и железных дорог, на борьбу с партизанами {{ ГАРФ. — Ф. 5796, Оп. 1, Д. 9, Л. 66. }} .
Штаб формирования казачьих войск уделял внимание не только количеству, но и качеству формирований. В сентябре 1942 было открыто Юнкерское училище, где готовились офицерские кадры, организована «Подофицерская школа» для подготовки младшего командного состава – урядников и вахмистров; открыто офицерское собрание, где ежедневно собирались штабные и строевые офицеры {{ На казачьем посту. — 25 апреля 1943. — № 1, — С. 6.}} .
Для того, чтобы дать нужную идеологическую установку казакам, был создан Культурно- просветительский взвод. Являясь центром такой деятельности, взвод организовал сеть офицеров во всех полках, на которых легла задача служить проводником в стихийную казачью массу идей и директив, исходящих из центра – Культурно-просветительского взвода. Взвод был разделён на отделы. Редакционный отдел издавал газету «Казачий клич», казачий офицерский бюллетень, «Духовный листок», военную сводку, казачью газету для немецкого персонала и практические руководства для изучения немецкого языка. Существовал также Отдел Активной Пропаганды для местного населения и военнослужащих РККА {{ Там же. — 15 августа 1944. — №32, — С. 11-12.}} .
В казачьих полках и сотнях, сформированных осенью-зимой 1942 года на Дону, Кубани и Тереке, офицеры, по возможности, носили форму казачьих частей Русской Императорской Армии, включая цветные фуражки с кокардой, шинельные петлицы и старые русские погоны {{ Дробязко С.И. Вторая мировая война