Еще до этих событий в Петрограде стало известно о намерении Временного правительства расформировать ряд большевизированных воинских частей петроградского гарнизона и отправить их солдат на фронт. В этих частях особенно активно вели пропаганду анархисты, призывая к немедленному свержению правительства и передаче власти Советам.
Поэтому весть об отставке трех министров была воспринята в пулеметном полку, который собирались расформировать, как свидетельство крушения буржуазного правительства. На состоявшемся 3 июля митинге пулеметчики приняли решение послать своих делегатов в другие части петроградского гарнизона, на предприятия Петрограда и в Кронштадт и в 17 часов того же дня выступить против Временного правительства.
За два часа до намеченного выступления два представителя пулеметчиков явились в ЦК РСДРП(б) и заявили, что полк решил свергнуть правительство и передать власть Советам. В «июльских событиях» Сталину суждено было сыграть одну из важнейших ролей. Именно ему пришлось предпринимать меры для того, чтобы сдерживать революционную стихию, вести переговоры с властями, а затем обеспечивать организованное отступление партии, спасая ее от полного разгрома.
Состоявшееся 3 июля в 16.00 совещание ЦК, ПК и Военной организации большевиков при участии Сталина приняло решение не поддерживать выступление пулеметчиков. (В этом совещании не принимал участия Ленин.) Предотвратить распространение возможных провокационных инсинуаций было поручено Сталину. В 17.00 Сталин уведомил Бюро ЦИК о решении ЦК большевиков.
Пока Сталин вел переговоры с руководством Советов, к особняку Кшесинской, в котором располагались ПК и ЦК, прибыло несколько полков со знаменами и лозунгами «Вся власть Советам!» Попытки большевиков Лашевича и Кураева уговорить собравшихся разойтись были встречены гневным протестом. Одновременно у Таврического дворца, где заседал ЦИК, собралась огромная толпа людей, которые требовали передачи власти Советам. Люди в форме матросов насильно схватили члена ЦИК Чернова, требуя от него, чтобы он немедленно провозгласил Советскую власть. (Позже, оказавшись в петроградских «Крестах», Троцкий узнал в заключенном, сидевшем за грабеж, одного из «матросов», удерживавших Чернова 3 июля. Не исключено, что подобных переодетых провокаторов в толпе искренних сторонников Советской власти было немало.)
Руководство большевиков, с одной стороны, старалось не допустить преждевременного антиправительственного восстания, а с другой – желало поддержать накал оппозиционных страстей. В этом духе перед собравшимися у Таврического дворца до глубокой ночи выступали Зиновьев и другие ораторы от большевистского руководства. Тем временем Сталин вел переговоры с ЦИК. Как отмечал И. Дейчер, «очевидно, что Сталин вызывал доверие, потому что, когда правительство распорядилось арестовать большинство руководителей большевиков, его не тронули, хотя он был членом Центрального комитета».
Прозаседав всю ночь, ЦК большевиков принял решение провести мирную демонстрацию под лозунгом «Вся власть Советам!» Эта демонстрация, в которой приняло участие полмиллиона человек, состоялась 4 июля. С балкона особняка Кшесинской, где размещался ЦК большевиков, выступил Ленин. 90 делегатов от 54 крупнейших заводов Петрограда вручили ЦИК их требования, включая немедленное взятие власти Советами, заключение демократического мира, передачу земли крестьянам. Между тем пока эту депутацию принимали в ЦИК, демонстрация была обстреляна. Были убитые и раненые. Как позже сообщал Сталин съезду партии, «провокаторы не дремали. Тем не менее демонстранты не выходят из рамок необходимой самообороны… Ни одного случая захвата правительственных или общественных учреждений не наблюдалось, ни одной попытки такого захвата, хотя демонстранты при колоссальных вооруженных силах, которыми они располагали, вполне могли бы захватить не только отдельные учреждения, но и весь город».