На первый взгляд создается впечатление, что к искуплению своей «вины» Алексеев приступил лишь после Октября, когда сразу после свержения Временного правительства тайно покинул Петроград и прибыл на Доп, в Новочеркасск, где начал формировать Добровольческую армию. Однако обращение к майским событиям, связанным с созданием в Ставке «Союза офицеров армии и флота», показывает, что некоторые глубинные корпи донской, новочеркасской деятельности Алексеева лежали здесь. Алексеев занимал пост Верховного главнокомандующего, и вся деятельность по созданию этого «союза», руководство которого должно было находиться при Ставке, шла через него. Он был действительно «крестным отцом» «союза».
Подготовка к созданию «союза» началась еще в середине апреля, когда в могилевской гостинице «Бристоль» собралась офицерская инициативная группа. Ее член полковник С. Ряснянский писал, что никто тут не задавал сакраментального вопроса «како веруешь?». Было известно, что почти все члены группы — монархисты. Подготовительная работа длилась довольно долго. Офицерский съезд, созванный для создания «Союза офицеров армии и флота», открылся 7 мая, а завершился 22 мая. На нем присутствовали более 300 делегатов, 80 % которых составляли фронтовые офицеры. На съезде выступили генерал Алексеев и его начальник штаба генерал А. Деникин.
Еще в процессе подготовки организаторы съезда широко рекламировали аполитичность будущего «союза», стремление превратить его в своего рода военный «профсоюз», который будет печься только об укреплении армии, содействуя в этом Временному правительству. Но это была необходимая ширма. Тот же Ряснянский писал, что хотя многие делегаты говорили о лояльности Временному правительству, по «от души это не шло». Хорошо понимая это, Алексеев и Деникин осторожно и дипломатично, насколько было возможно, подогревали контрреволюционные настроения съезда. Они говорили о «безумной вакханалии», которая врывается в армию под видом демократизации, об «опасности», которая в связи с этим нависает над армией и страной и о необходимости «спасать Россию». Смысл такого рода сентенций был ясен: будущие белогвардейские вожди призывали офицерский съезд и созданный им офицерский «союз» покончить с демократизацией армии, восстановить в ней практически старый порядок — иную армию они просто не мыслили. Съезд довольно сдержанно и прохладно встретил выступление прибывшего в Могилев Керенского, по зато с большим вниманием выслушали черносотенца В. Пуришкевича, особенно прославившегося участием в убийстве Г. Распутина.
С совещательным голосом разрешено было присутствовать на съезде и представителям войсковых комитетов — солдатам. Алексеев и оргкомитет съезда пошли на это, рассчитывая, что такой шаг будет способствовать улучшению отношений солдат и офицеров. Большое впечатление произвело выступление члена Могилевского Совета солдата Руттера, который развивал идею создания не отдельного офицерского, а общевоинского союза. «Мы — Минины, — говорил Руттер, — а вы — Пожарские, пусть мы будем вместе, но не забывайте, что пусть Минины впереди, Пожарские потом. Родина будет спасена, класть будет дана, этой власти будут подчиняться, это будет та конкретная власть, которая не остановится ни перед чем, но помните, что не Пожарские в первую голову, а Минины».
Обеспокоенный пропагандистским эффектом речи Руттера, Алексеев решил лично побеседовать с солдатскими представителями. Сам выходец из крестьян, он умел говорить с солдатом, находил нужные слова. Пешком пошел в казарму, где они остановились: сняв фуражку с седой головы, низко кланялся им, как «честным, великим русским гражданам, которые выполнили свой долг перед отечеством». Призывал их забыть о «собственных интересах», отдать все «изнемогающему отечеству». «Вы — лучшие люди ваших полков… — искренне волнуясь, говорил Алексеев, — и у меня к вам, как к лучшим людям, просьба, мольба, приказ…» Алексеев обнимался с Руттером, тронутые солдаты клялись воевать до победы и до полного «выздоровления» и «воскресения России». Тем не менее идею создания исключительно офицерского «союза» Алексеев проводил и провел твердо.