В июне 1892 года Пилсудский вернулся в Вильну. Появились новые друзья В тесном кругу обсуждались социалистические книги и брошюры. Из классиков в его «социалистическую эпоху» Пилсудскому ближе всех был Ф. Энгельс. В «русском социализме» Пилсудского привлекала критика капиталистического строя, его борьба против царизма — «главного врага польского рабочего класса». «Глубокая ненависть к России» стала основным пунктом его политической программы и главной темой его пропаганды. Членом Польской социалистической партии Пилсудский стал в 1893 году, членом ее ЦИК — с 1894-го, а вскоре и возглавил партию.
Пилсудский взял на себя ключевые (не только для подпольной партии) посты управление ее финансами («В наше время без денег нет власти») и издательскую деятельность. Став профессиональным революционером, он основное внимание уделял прессе, Центральному органу партии газете «Работник» в особенности. Им лично отредактированы 37 первых номеров газеты.
Именно раскрытие типографии повлекло за собой арест Пилсудского в феврале 1900 года в Лодзи. Пилсудскому вновь грозила ссылка на 10 ле. т Он симулировал сумасшествие и пять месяцев провел в сумасшедшем доме в Петербурге, пока не совершил побег.
Восстановив действительно расшатавшееся здоровье, осенью 1901 года Пилсудский вернулся к партийной работе, первоначально по соображениям безопасности в Лондоне (до 10 апреля 1902 года). Там, однако, дела не нашел, прочел одну лекцию, участвовал в дискуссии на собрании Бунда.
Уже в ходе революции 1905–1907 годов изменялся круг интересов Пилсудского. Он все более отходил от политико-партийной деятельности, превращаясь в военного вождя боевой организации ППС. Для пополнения казны в сентябре 1908 года Юзеф лично возглавил нападение на кассу почтового вагона у Бездан (под Вильной). Добыча составила 200 000 рублей. Акцией в Безданах почти кончился период деятельности Пилсудского, который он назвал «криминальным».
Начинался период полулегальный, период постепенного отхода от социализма. Пилсудский загорелся идеей создания полувоенных антирусских организаций в Галиции, и в 1910 году Стрелецкий союз был создан. Его военные отряды к 1914 году насчитывали 6449 человек. В стрельцы пошли немногие, меньше, чем ожидал Пилсудский и надеялись венские власти. Затея в задуманных масштабах провалилась. В годы Первой мировой войны три империи — Россия, Германия и Австро-Венгрия, в XVIII веке разделившие Польшу, противостояли друг другу. Фронт проходил по польским и украинским землям.
Пилсудский, объявивший, что на чашу весов войны должна быть брошена и польская сабля, объявил себя главнокомандующим и главой польского национального правительства в Варшаве. В начале августа несколько сот стрельцов перешли границу Царства Польского, но вскоре были отброшены. Пилсудский убедился во враждебности населения русской Польши своим идеям и провале стрелецкой затеи. Юзефу, «с войны не вспоминавшему о своем социалистическом прошлом», снова повезло. Его политические соперники, если не противники, И.Дашиньский, В. Витос, С. Строньский и другие, создали в Кракове Главный национальный комитет, приступивший к формированию польских легионов в составе австро-венгерской армии под командованием австрийского офицера. Пилсудскому предложили полк. Впоследствии его повысили до командира (коменданта) бригады. Пилсудский участвовал в боях против русских войск в Подгалье, на Буковине и Волыни, как ему «тогда казалось, слегка пьяный от своей смелости». Русские войска разбили австрийские, да и все прославленные пилсудчиковскими легендами бои с участием легионеров по сути были поражениями, ударами по самолюбию Пилсудского.
В 1915 году германские войска оккупировали Царство Польское, поделив его на австрийскую и германскую части. Кризис системы оккупации заставил губернаторов одновременно в Варшаве и Люблине 5 ноября 1916 года издать прокламации о создании польского государства — наследственной монархии с конституционным строем, находящейся в военном союзе с Центральными державами. До избрания короля во главе государства был поставлен Регентский совет.
Пилсудскому немецкие власти оказали предпоследнюю «услугу»: летом 1917 года заключили в крепость Магдебург. Поводом стал призыв не принимать присягу, содержащую клятву верности военному союзу с Германией и Австро-Венгрией, следствием был роспуск легионеров. Так из коллаборанта он превратился в противника и жертву оккупантов. В Магдебурге Пилсудский жил с полным комфортом. В конце июля 1918 года Пилсудский направляет письмо регенту князю 3юбомирскому с двумя приложениями: о своей и своих сторонников военной деятельности. Он оправдывался по поводу сотрудничества с оккупантами, перечислял свои заслуги, доказывал, что только он пекся о национальной безопасности и независимости.