В 1860 г. он был выбран на три года в члены шестигласной распорядительной Думы, как представитель от московского гильдейского купечества, в 1864 г. — в Комиссию по пересмотру правил о мелочном торге, а в 1867 г. стал кандидатом в депутаты Городского депутатского собрания и членом Коммерческого суда. В 1871 г. П. М. Рябушинский являлся членом учетного и ссудного комитетов Московской конторы Государственного банка, а с 1870 по 1876 гг. состоял выборным Московского биржевого общества.
Всю свою жизнь Павел Михайлович был по преимуществу фабрикантом, и промышленное производство интересовало его больше, чем вопросы торговли и финансов. Он с удовольствием принимал участие во всероссийских промышленных выставках, демонстрируя там продукцию своих мануфактур. В 1865 г. Рябушинский получил серебряную медаль на выставке в Москве, а спустя пять лет, в Санкт-Петербурге, «за хорошую бумажную пряжу и доброкачественные при умеренных ценах разнообразные бумажные ткани, а также за туаль-де-норд хорошей выработки и отделки» — золотую. «За совмещение всех операций по переработке хлопка в готовые ткани, а также за постоянное стремление к улучшению производства своих ткацких изделий» он был награжден правом употребления на вывесках и изделиях изображения Государственного герба Российской империи.
Большую часть семейного капитала П. М. Рябушинский стремился поместить в развитие производства. Однако в решении этих вопросов нередко наталкивался на сопротивление брата Василия. Тот, в отличие от него, не любил фабрику и недоверчиво относился ко всем затратам на улучшение и расширение производства. Когда Павел Михайлович решил приняться за бумагопрядильное дело и приобрести в Тверской губернии продававшуюся на выгодных условиях фабрику «А. Шилов и сын», Василий Михайлович был настолько против, что брат решил купить ее на свои личные средства.
Также восставал Василий и против приобретения земельной собственности, в результате чего некоторые лесные массивы были куплены Товариществом позднее по значительно более высокой цене, чем предлагались ранее. В. М. Рябушинский считал, что спокойнее, а потому и выгоднее использовать капитал, помещая его в процентные бумаги. В дальнейшем Павел Михайлович прислушался к мнению брата и расширил вексельные операции фирмы, доведя их в последние годы своей жизни до 9 млн рублей.
Разнообразная деловая и общественная деятельность не только поглощала кипучую энергию П. М. Рябушинского, но и помогала ему справиться с неудачами в личной жизни. Женившись в 23 года на Анне Семеновне Фоминой, которая была старше его на несколько лет, Павел Михайлович не нашел семейного счастья. Брак этот был не по любви, а скорее по сословным убеждениям и взаимной договоренности родителей молодоженов. Первый ребенок в молодой семье — сын, умер в младенчестве. После этого каждый год рождались дочери. На этой почве в доме были постоянные ссоры, которые, в конце концов, закончились судом. В 1859 г. брак был расторгнут. На руках у Павла Михайловича осталось 6 дочерей от шести до тринадцати лет, которых он в соответствии с возрастом помещал на воспитание в пансион, а после его окончания выдавал замуж.
Неудача, постигшая его в первом браке, не способствовала желанию П. М. Рябушинского вторично заводить семью. Тем временем его младший брат Василий решил жениться. Ему сосватали невесту из старинной старообрядческой семье петербургского хлебного торговца Степана Овсянникова. В 1870 г. Павел Михайлович поехал в столицу устраивать эту свадьбу. И тут случилось то, чего он уже и не ждал. Увидев будущую жену Василия, старший брат влюбился в нее с первого взгляда и, недолго думая, попросил у родителей благословения на брак. И поскольку юная Александра, не успевшая еще к тому времени даже окончить пансион, ответила взаимностью 50-летнему бизнесмену, родителям ничего не оставалось, как дать согласие. Тем же летом они обвенчались. Этот, на первый взгляд, «неравный» брак оказался по-настоящему счастливым. В нем родилось 16 детей, последний из которых появился на свет в 1893 г., когдаП. М. Рябушинскому было уже 72 года.
Уделяя много внимания воспитанию многочисленного потомства, Александра Степановна находила время и для влияния на торгово-промышленные дела мужа. Оно проявлялось в том, что со времени женитьбы Рябушинского установилась более прочная связь хозяев со служащими. Всякие шероховатости во взаимоотношениях, неизбежные во всяком живом деле, на которые Павел Михайлович по своему характеру реагировал очень горячо, Александра Степановна всегда умела смягчить, умиротворяя затронутое самолюбие.