Павел Рябушинский родился в 1820 г. вМоскве. По сохранившимся описаниям, он был очень общительным, подвижным и энергичным человеком. Его отличало огромное трудолюбие, выработанное напряженным трудовым режимом, созданным и неуклонно поддерживаемым его отцом. Учился Павел дома, но, будучи очень живым и любознательным от природы, не ограничивался только «познанием науки жизни и стремился самостоятельно уже взрослым пополнить свои знания в области того промышленного дела, в котором работал». Благодаря энергии и деловитости Павла Михайловича торговый и промышленный семейный бизнес приобрел качественно новый характер. Ведущую роль в нем стало играть крупное фабричное производство, а быстро растущий капитал послужил основой будущей банковской деятельности его потомков.
С 14-летнего возраста Павел служил «мальчиком» в лавке отца, постигая тайны купеческой бухгалтерии, ездил вместе с матерью и братьями по деревням, продавая и покупая ткани. Со своими обязанностями он справлялся хорошо и даже ежегодно составлял к Пасхе опись всего торгового имущества, которая служила финансовым отчетом. С традиционными формами торгового бизнеса Рябушинский-младший разобрался довольно быстро и заинтересовался организацией фабричного дела, а также устройством станков и всевозможных технических приспособлений. Поэтому все свободное время он проводил у дяди, Артемия Яковлевича, устроившего в 1830 г. небольшую бумаготкацкую фабрику на Яузе, а затем пропадал на собственной фабрике Рябушинских в Голутвино.
До 25 лет Павел Рябушинский числился купеческим сыном и был освобожден от рекрутской повинности. Однако в это время вышел царский указ, запрещающий принимать старообрядцев в купечество, и он автоматически лишился этой привилегии. Отказаться от веры молодому предпринимателю не позволял отец, а перспектива провести 25 лет в солдатах не вызывала восторга. Выручил случай. Узнав о том, что в только что основанном крымском городе Ейске можно легко и быстро записаться в купцы, Павел спешно на перекладных отправился в дальний путь за гильдейским свидетельством. Оттуда он вернулся «ейским 3-й гильдии купцом» и привез такие же свидетельства брату Василию и зятю Евсею Капусткину.
К 1850-м гг. Павел Михайлович досконально изучил у себя и на других московских фабриках технику ткацкого и бумагопрядильного дела. Он стал незаменимым помощником отца, затрачивая массу энергии на устройство новой мануфактуры в Новонасонове, Медынского уезда, где прежде была только контора по раздаче кустарям пряжи. Затем молодой купец провел два лета на строительстве в Чурикове Калужской губернии ткацкой фабрики и кирпичного завода. В результате под его руководством в 1856 г. здесь был выстроен каменный двухэтажный корпус на 200 станков, здание красильни и сушильня. На фабрике было занято 600–700 сменных рабочих, которые ежедневно вырабатывали около 250 кусков миткаля, демикотона, канифасы, кашемира и саржи. Павел Михайлович каждый месяц приезжал в Чуриково контролировать работу.
После смерти отца Павел вместе с братом Василием организовал «Торговый дом П. и В. братья Рябушинские», официальное учреждение которого состоялось только в 1867 г. К тому времени дела его настолько разрослись, что братьям пришлось увеличить персонал служащих в Москве. Однако самую ответственную работу — прием тканей от мастеров — производил в Голутвинском доме сам П. М. Рябушинский. Зная хорошо всю технику производства, он отмечал все недостатки принимаемого товара и указывал мастерам на технические причины дефектов. Он лично устанавливал цены на ходовые образцы продукции, а стоимость других товаров предоставлял право определять приказчикам, имевшим непосредственные отношения с покупателями.
Набиравшее обороты торгово-промышленное дело братьев Рябушинских содействовало расширению круга общества, в котором вращался Павел Михайлович. Его деятельную натуру давно уже не удовлетворял замкнутый патриархальный строй жизни, с детства установленный родителями. Еще при жизни отца молодой предприниматель заводил знакомства в музыкальном и литературном мире, а затем в 1860-х гг. у него нередко собирались артисты любимого им Малого театра.
По своему внешнему облику Рябушинский-младший совершенно не походил на купцов-старообрядцев старшего поколения. Он выглядел деловитым, подтянутым и аккуратным человеком, всегда безукоризненно и по последней заграничной моде одетым. Несмотря на запреты отца, он потихоньку занимался музицированием и хорошо играл на гитаре. Не получив достаточного образования, Павел Михайлович, тем не менее, всю жизнь учился самостоятельно, много читал и общался с интеллигенцией, в отличие от отца и брата активно занимался общественной деятельностью.