Ефремов видел реальную угрозу в том, что «теперь, с одной стороны, возможны попытка восстановить старый строй полицейского абсолютизма, а с другой – стремление немедленно осуществить мечты радикальнейшей политической и социальной революции; и там, и тут не хотят считаться ни с уроками истории, ни с действительными воззрениями большинства, ни с правом и законностью, а средством борьбы признают насилие». Он призывал всех, «кому претит всякий гнет и произвол», «идти на защиту России – от всякого деспотизма под общим флагом полного обновления ее на началах свободы и законности», объединиться с этой целью вокруг союза партий демократических реформ и мирного обновления, которые, по его убеждению, наиболее последовательно «выступали за укрепление законности, права и свободы» и являлись «носительницами этих принципов во всей их чистоте».
Он был избран выборщиком во II Думу, но, по его словам, «в этот период общего полевения оказался недостаточно левым» и не прошел в Думу. Продолжая жить в Петербурге, Ефремов участвовал в собраниях столичного Клуба общественных деятелей, был близок по взглядам братьям С.Н. и Е.Н. Трубецким и московским предпринимателям-промышленникам, которые примыкали к мирнообновленцам (П.П. Рябушинский, С.Н. Третьяков, Н.Д. Морозов, А.И. Коновалов, П.А. Бурышкин и др.). В феврале 1907 года, накануне открытия II Думы, он признавал, что «относительная слабость прогрессивного центра и сила обеих крайних групп представляют соотношение сил, невыгодное для мирной созидательной работы». Ефремов полагал, что «передвижение влево оппозиционных элементов» и, соответственно, ослабление оппозиционного центра являлись «в значительной мере следствием насильственного прекращения работы первой Думы и последующей деятельности правительства, закрывавшего умеренной оппозиции законные пути и толкавшего ее в подполье, где, конечно, должны были иметь перевес крайние партии». «Резкая оппозиционность большинства новой Думы… с очевидностью показывает, что правительственным террором нельзя более успокоить страну, что законодательством, идущим вопреки обещаниям верховной власти, духу правового государственного строя и даже букве основных законов, нельзя удовлетворить население». Признавая, что Думе предстоит «упорная борьба за утверждение принципов права и свободы», Ефремов продолжал настаивать на том, что «борьба эта должна быть закономерной, выдержанной, борьбой конституционными средствами», направленной на формирование «глубоко сознательного общественного мнения, объединяющего весь народ и требующего изменения не одной формы, а всего духа общественного и государственного строя на началах права и социальной справедливости…».
Ефремов считал, что «при оценке конкретных действий правительства или политических партий следует исходить из соответствия этих действий основным идеям нового строя», т. е. «началам законности и самоуправления», «осуждать всякое насилие, всякое попрание прав человека, всякое незакономерное действие, хотя бы оно и казалось целесообразным для данного момента с утилитарной точки зрения». По мнению Ефремова, «вся деятельность министерства Столыпина, начиная с условий, в которых оно произвело роспуск Думы, продолжая суровыми репрессиями и казнями без суда и по решениям упрощенных военно-полевых судов, спешным законодательством без участия народных представителей и кончая вопиющими небрежностью, бесконтрольностью и самовластием в продовольственном деле… – вся эта деятельность исполнена преступными пережитками старого произвола и служит вредным тормозом для развития в народном правосознании начал законности и свободы».
По мнению Ефремова, «террористическая тактика» революционеров, так же как и «реакционная правительственная деятельность», равно задерживают «воспитание в народе чувства законности и свободы, без чего народ, меняя форму государственного устройства, может только менять деспотов, но не может пользоваться действительной свободой и самоуправлением». Он предупреждал, что торжество насилия «может привести лишь к поклонению грубой силе… и создать почву для новых насилий», в то время как «характер желательных преобразований» должны были определять «этические начала права, справедливости и равенства взамен старого бесправия, произвола и классовых привилегий».