Рамки семейного дела становятся тесны для энергичной натуры предпринимателя, стремившегося воплотить в жизнь свои идеалы на общегосударственном уровне. С начала 1900-х он постоянно проживал в Москве, а техническое управление фабриками передал директорам-менеджерам. В 1905 году костромской купец избирается старшиной Московского биржевого комитета, становится одним из создателей Торгово-промышленной партии. С 1906-го он представляет Москву в созданном по почину петербургских кругов Совете съездов представителей промышленности и торговли. Кроме того, входит в редакционный комитет издаваемой П. П. Рябушинским газеты «Утро России», а также в состав наблюдательного совета Московского банка Рябушинских, созданного в 1912 году.
Коновалова сближала с Рябушинским общая система ценностей, в основе которой лежали либеральные идеи об утверждении правового конституционного строя, способного смягчить накал социальной напряженности и обеспечить развитие страны по пути рыночной экономики и демократии. В Московском биржевом комитете он активно занимался подготовкой законопроекта о введении торгово-промышленных палат – порайонных предпринимательских организаций, призванных объединить представительство интересов буржуазии во всероссийском масштабе. Хотя из-за бюрократических проволочек и столкновения интересов различных региональных групп проект не был реализован, имя его фактического автора в деловых кругах приобрело известность. В 1908 году Коновалов избирается заместителем (товарищем) председателя Московского биржевого комитета Г. А. Крестовникова, входит и в число гласных Московской городской думы.
Вместе с П. П. Рябушинским он участвует в организации и проведении «экономических бесед», на которых в 1908–1912 годах представители промышленности и науки обсуждали насущные вопросы экономического развития страны. Некоторые «беседы» проходили в его московском особняке на Большой Никитской. «Александра Ивановича в Москве любили, – вспоминал П. А. Бурышкин, – на приглашение его откликнулись, и тогда и начались „беседы“». В правительственных кругах предприниматель и общественный деятель имел высокую репутацию, о чем свидетельствует присуждение ему в 1910 году почетного звания мануфактур-советника.
Всероссийскую известность имя Коновалова приобрело в 1911-м, когда он вместе с С. И. Четвериковым выступил инициатором так называемого «письма 66-ти», подписанного выдающимися представителями делового мира и опубликованного либеральной прессой (газетами «Русские ведомости», «Утро России»). В нем был заявлен решительный протест против репрессивной политики царского правительства в отношении высшей школы. В связи с реакционными мерами министра народного просвещения Л. А. Кассо Московский университет покинула группа профессоров во главе с самим ректором А. А. Мануйловым. Либеральная профессура не могла смириться с правительственным распоряжением, согласно которому запрещались всякие собрания в университетских зданиях, а на администрацию возлагалась обязанность немедленно сообщать полиции о сходках студентов. В ответ студенты начали всероссийскую забастовку.
«В общественных кругах Москвы, – вспоминал П. А. Бурышкин, – это вызвало сильное волнение, и отдельные группы стали резко и определенно реагировать против действий правительства по отношению к университету. Московские промышленники не остались безучастными к разгрому старейшего русского университета». Непосредственным инициатором протеста стал А. И. Коновалов, на одной из «экономических бесед» предложивший выступить с публичным заявлением. Подготовленный им текст подписали ведущие деятели торгово-промышленного и финансового мира Москвы. Авторы послания подчеркивали, что не сочувствуют студенческим забастовкам, но из-за них нельзя «рушить все существование нашей высшей школы», превращать университет «в объект возмездия». Либеральные деловые круги недвусмысленно осудили систему полицейского произвола и дали понять, что правительство не может в этом случае рассчитывать на поддержку со стороны предпринимателей. Письмо заканчивалось многозначительно: «Плохую услугу оказывает общество правительству и стране, когда в моменты их духовного разлада оно своим молчанием дает правительству повод думать, что за ним моральная поддержка страны».