А.М. Колюбакин стал автором устава кадетской фракции, вошел в ряд комиссий: продовольственной, по исполнению государственной росписи доходов и расходов, по выработке всеподданнейшего адреса. Возглавлял временную комиссию при фракции для предварительной разработки законоположений, вносимых кадетами. Выступал по вопросам снабжения населения неурожайных местностей, народного образования, по сметам Военного и Морского министерств.
По боевому темпераменту, способности отстаивать свою позицию ярко, смело и убежденно Колюбакин как нельзя лучше подходил для роли депутата. Однако его парламентская деятельность, как в недавнем прошлом и земская, вскоре насильственно оборвалась. В 1908 году Колюбакин вновь был привлечен к следствию, на этот раз по обвинению в пропаганде лозунгов Выборгского воззвания на Саратовском губернском кадетском съезде, состоявшемся в августе 1906 года. По приговору Саратовской судебной палаты 1 февраля 1908 года он был осужден на шесть месяцев тюрьмы, которые провел в петербургских «Крестах» после окончания первой сессии III Думы. Следствием этого стало исключение Колюбакина из состава Думы и лишение его избирательных прав. Такое постановление, по требованию министра юстиции И.Г. Щегловитова, было принято закрытым голосованием большинством голосов (192 против 143) на думском заседании 27 апреля 1909 года.
Это был, несомненно, тяжелый удар для Колюбакина – оказаться выключенным из общественной жизни, – однако товарищи по партии пришли на помощь. Кадетская фракция III Думы избрала его секретарем своего комитета (май 1909 года); эта должность сохранялась за ним и в период работы IV Думы. Колюбакин взвалил на себя большую организационную работу по сбору материалов и подготовке законопроектов, вносимых кадетской фракцией в Думу, участвовал в работе фракционных комиссий. По поручению фракции и ЦК партии он собрал и обработал материалы по важнейшим выступлениям и законопроектам «враждебных партий» – октябристов, националистов и правых – в целях издания справочного пособия для избирательной агитации. В 1910 году Колюбакин возглавил Петербургский городской комитет кадетской партии, став неким соединительным звеном фракции с одним из главных партийных центров.
Основной задачей своей общественной деятельности А.М. Колюбакин считал объединение демократических сил. На заседании ЦК в ноябре 1909 года он настаивал на создании в Думе умеренной оппозиции. Среди «сплачивающих» вопросов выдвигал следующие: о неприкосновенности личности, о земском самоуправлении и всеобщем обучении. Он полагал, что только путем формирования «умеренно-прогрессивного большинства» партия может добиться реальных результатов в своей парламентской деятельности и выйти за рамки простой критики курса правительства. Выступая против блока с «Союзом 17 октября» на выборах в IV Думу, он предлагал одновременно не стеснять местные партийные группы в отношении временных соглашений с октябристами, считая, что перед лицом главной опасности – «черной сотни» – не следует бояться бросить «тень на партию» вступлением в блок с умеренными элементами. Многие полагали, что личные качества Колюбакина, его искренность и доброжелательность помогали ему становиться «соединительным мостом» между кадетами и широкими кругами демократии.
Одной из возможных площадок объединения прогрессивных общественных сил Колюбакин считал Вольное экономическое общество. Поэтому он посвятил немало сил и времени работе в ВЭО. При его активном участии был организован Совет ВЭО, представлявший все работающие в рамках общества течения. Колюбакин возглавил продовольственную комиссию и в ходе организации помощи нуждающимся неустанно налаживал связи с органами местного самоуправления, стараясь привлекать к работе общественные силы.
В преддверии выборов в IV Думу партия снова активно задействовала организаторский талант Колюбакина: он был введен в рабочую комиссию, созданную для решения текущих вопросов и руководства деятельностью партийного Справочного бюро, а затем – ив само Справочное бюро. Вновь он колесил по стране (летом 1912 года объехал Нижний Новгород, Пермь, Казань) для мобилизации сил местных партийных групп на активное участие в думских выборах.