Тогда президент ИНК Ч. Р. Дас, оказавшись в меньшинстве, вместе с Мотилалом Неру создал свараджистскую партию (партию независимости). Ее члены собирались баллотироваться в Законодательные собрания, чтобы подтачивать устои колониальной политики и добиваться предоставления Индии конституции и прав доминиона.
Джавахарлал Неру не одобрил действий отца, поддержавшего свараджистов, и остался в ИНК. Сторонник свараджистов В. Дж. Патель, оправдываясь, говорил, что «их вхождение в законодательные органы будет подобно проникновению во вражескую крепость с целью одержать над неприятелем победу». А его брат Валлабхаи Патель, оставаясь лояльным к Ганди, возражал, что бастионы колонизаторов расположены не в Законодательных собраниях, а в армейских казармах и в полицейских участках, и правительство может спокойно оставаться у власти еще 100 лет и без Законодательных собраний.
В конце концов между сторонниками Ганди и свараджистами было достигнуто нечто вроде джентльменского соглашения — не мешать каждой группировке идти избранным ею путем, оставаясь при этом в конгрессе. Гандисты решили исподволь, без лишнего шума готовить всеиндийскую кампанию гражданского неповиновения на апрель 1923 года. Обстановка в стране складывалась, однако, не в их пользу. Число конгрессистских волонтеров катастрофически падало. Их осталось лишь 8 тысяч человек на всю страну. Без Ганди кампанию гражданского неповиновения было не провести. А политический вес свараджистов возрастал.
Только что вышедший из тюрьмы Мухаммед Али неожиданно высказался в поддержку свараджистов, сказав, что, по его мнению, Махатма, будь он на свободе, предоставил бы конгрессу возможность внести в программу несотрудничества необходимые коррективы. На самом деле Ганди по-прежнему был против сотрудничества с правительством.
Джавахарлал Неру писал об этом трудном периоде, что, сохранив веру в Ганди как в руководителя, он начал более критически относиться к некоторым его установкам и взглядам. Ни одна из существующих в ИНК основных групп — ни сторонники участия в Законодательных собраниях, ни противники ревизии политической линии Ганди — не привлекала Джавахарлала Неру. Первая, как он считал, откровенно сворачивала в сторону реформизма; представители второй, объявляя себя горячими последователями Махатмы, на самом деле «подобно большинству учеников великих людей, придавали больше значения букве учения, нежели его духу. В них не было активного начала, и на практике большинство из них были безобидными и благочестивыми социал-реформистами». Единственным преимуществом гандистов было их стремление поддерживать связь с крестьянскими массами; свараджисты же всецело были поглощены парламентской тактикой, живого общения с народом они избегали. Многие просто хотели получить теплые местечки на государственной службе. Мотилал Неру, узнав о корыстных мотивах и политически интригах свараджистов, пригрозил «отсечь больную ветвь».
В конгрессе сложилось центристское руководство, которое могло существовать, лишь маневрируя между двумя основными фракциями. В декабре 1923 года в Коконаде, на юге Индии, состоялась очередная сессия ИНК. Председательствовал Мухаммед Али. Он уговорил Джавахарлала Неру занять пост секретаря Исполнительного комитета конгресса. Али и молодой Неру неплохо сработались. Тяжелый характер Али отталкивал людей, тогда как Неру, наоборот, противников умел обращать в своих сторонников. Оба безоговорочно соглашались с Ганди в том, что главная опасность для освободительного движения заключалась в общинно-кастовой замкнутости и религиозной нетерпимости. Поэтому конгресс должен остаться единой партией. И важнее всего не допустить разделения его членов по религиозной принадлежности. С этой задачей новые лидеры ИНК в отсутствие Ганди в целом справились.
Однако Али, как воинствующий мусульманин, прилагал огромные усилия, чтобы не навязывать коллегам идею о превосходстве ислама над другими религиями. Пробыв год на посту председателя ИНК, он стал постепенно отходить от конгресса. Это было с огорчением встречено Ганди, который возлагал на Али большие надежды в создании индусско-мусульманского политического единства. Вопреки усилиям конгресса английским властям удалось в некоторых районах Индии разжечь индусско-мусульманские распри. Повсюду в провинциях одна за другой стали возникать религиозные партии.
В начале 1924 года у Ганди случился острый приступ гнойного аппендицита, и его жизнь оказалась в опасности. 12 января 1924 года заключенного спешно перевезли из тюрьмы Еравда в больницу Пуны. Нужна была срочная операция. Врачи и власти боялись, что в случае неудачной операции и смерти Ганди возмущение вспыхнет по всей Индии. Председатель ИНК Мохаммед Али призвал всех индийцев молиться за выздоровление Ганди. По всей стране раздавались требования об его освобождении.