Учитывая партийный состав IV Думы, А.М. Колюбакин не видел необходимости в ее «бережении» и убеждал однопартийцев, что кадеты не должны идти «ни на какие комбинации, рассчитанные на длительную работу в Думе». Он возглавил временную комиссию для предварительной разработки законоположений в начале работы IV Думы. Доказывал, что кадетской фракции следует вносить в Думу только «демонстративные и принципиальные» законопроекты, т. е. использовать думскую трибуну прежде всего в пропагандистских целях. В частности, он был сторонником внесения в Думу законопроекта о всеобщем избирательном праве как имеющего большое общественно-воспитательное значение. Колюбакин предлагал развернуть борьбу с Государственным советом, блокирующим все попытки нижней палаты принять прогрессивные законопроекты, и объединить на решении этой задачи значительную часть Думы. Главное – показать стране, что Госсовет – одно из ключевых препятствий на пути обновления России. В качестве первого шага он видел повторное внесение на рассмотрение Думы всех законопроектов, которые были отвергнуты Государственным советом, а также отклонение поправок, вносимых им в думские законопроекты.
Разочарование партии в результатах парламентской деятельности нарастало, и Колюбакин все чаще говорил о «безнадежности положения в Думе». Не видя поля для реальных действий, он выступил против положения ЦК о полезности законодательной работы в имеющемся составе Думы. Колюбакин заявил, что единственная задача оппозиции в Думе – продемонстрировать стране полное отсутствие возможностей для проведения реформ посредством парламента. Он призывал бороться с «вредными иллюзиями» местных партийных групп, которые, возлагая на Думу несбыточные надежды, уклоняются от активной деятельности. В связи с этим Колюбакин считал первостепенной задачей партии не выработку думской тактики, а «возрождение партийных организаций на местах». С горечью он отмечал: «Что же это за партия, следы существования которой видны только на дне баллотировочных ящиков!..» При этом он твердо стоял на позициях конституционного пути развития страны, подчеркивая: «Радикальные вывески нам не нужны». Кадетов он расценивал как «единственную ответственную конституционную партию», которая составляет главный оплот эволюционного пути развития страны.
А.М. Колюбакин не склонен был предаваться пессимизму, отрицал рассуждения о партии как о «рассыпавшейся храмине». Его натура жаждала действий, борьбы. Он был готов впрягаться в повседневную, тяжелую организационную работу, чтобы снова вытягивать из застойного болота застрявший там воз партийного строительства. По поручению ноябрьского пленума ЦК (1912) он подготовил доклад для весенней партийной конференции 1913 года. Главными задачами момента он ставил восстановление и укрепление партийных организаций в губернских центрах, которые, в свою очередь, должны заняться организацией партийных групп в уездах; установление более тесных связей с широкими трудовыми слоями населения. Кроме того, он рекомендовал местным кадетам активнее входить в земские и городские органы самоуправления, участвовать в работе общественных структур (например, кооперативов), организовывать сельскую интеллигенцию, издавать печатные органы для приказчиков и других трудовых групп населения. Тезисы доклада были разосланы для предварительного обсуждения в местные партийные группы. В дальнейшем Колюбакин конкретизировал эти положения, предложив план организационного возрождения партии: местные комитеты воссоздаются не в первоначальном многочисленном составе, когда регистрировалось внушительное число членов, а в форме структуры из пяти-семи человек, отличающихся работоспособностью и «приспособленностью к нуждам момента». Колюбакин был избран в комиссию для руководства работой Бюро провинциальной печати (февраль 1913 года).
Большое значение Колюбакин придавал скорейшему созыву партийного съезда, который откладывался из года в год, и обновлению состава ЦК. Основные тезисы доклада, составленного им по этому вопросу, были заслушаны на заседании ЦК 24 мая 1913 года. Он доказывал необходимость расширения представительства на съезде местных партийных организаций (число их уполномоченных должно, по его мнению, превышать число членов думской фракции не менее чем в 1,5 раза). Эта мера предлагалась им, дабы не создавалось впечатление, будто фракция руководит работой партии.
Еще из своей земской деятельности Колюбакин вынес убеждение в необходимости децентрализации управленческой сферы, самого широкого развития местного самоуправления. Он ратовал за участие женщин в земском самоуправлении наравне с мужчинами. Сторонник единства и неделимости России («против отделения хотя бы единой пяди русской земли»), он тем не менее признавал, что единство не может удерживаться насилием. Колюбакин поддерживал право каждого народа на национальное самоопределение, видя в этом необходимое выражение свободы личности. С 1906 года он входил в Союз автономистов и в феврале 1907-го был выбран товарищем его председателя.