Родился Василий Михайлович в 1894 году в Москве в рабочей семье. По окончании 2-классного училища был «отдан в мальчики» в торговую фирму, затем был рабочим, конторщиком, одновременно учился. С 1914 по 1917 год служил в царской армии рядовым, во время февральской революции был ранен, с 1918 по 1920 год служил в Красной Армии, в 1920 году был принят на службу в органы госбезопасности.
В разведке Зарубин начал работать в 1925 году. Однако первая поездка за границу была осуществлена в Китай в 1924 году по линии контрразведывательных органов в период его работы во Владивостоке. В дальнейшем его деятельность за кордоном проходила по линии Иностранного отдела.
В 1926 году он был направлен руководителем «легальной» резидентуры в Финляндию. Но уже в 1927 году выехал в Данию в качестве нелегального резидента. С этого периода начинается его работа с нелегальных позиций. Вот как он характеризует ее: «Труд советского разведчика-нелегала сложный и тонкий… На этапе оседания в капиталистической стране ему приходится затрачивать много усилий на перевоплощение и «шлифовку» взятой на себя роли, от которой он ни при каких обстоятельствах не должен отходить, ибо в противном случае он будет иметь дело со специальными органами противника».
В командировку Василий Михайлович выехал вместе с женой. Елизавета Юльевна была человеком с необычной биографией. Она уже была опытной разведчицей, выезжала за границу с разведывательными заданиями. Состояла в первом браке с Я.Г. Блюмкиным, левым эсером, совершившим в 1918 году в Москве теракт против германского посла Мирбаха. По политическим соображениям порвала с Блюмкиным.
Роль, которую предстояло играть Василию Михайловичу и Елизавете Юльевне, была непростой. Они выдавали себя за выходцев из одного из государств Восточной Европы, бизнесменов, прибывших в данную страну по делам. Чтобы осесть в Дании, необходимо было создать надежное прикрытие, то есть найти занятие, которое соответствовало бы их статусу и оправдывало бы пребывание в стране. Положение осложнялось еще и тем, что они имели на руках фиктивные паспорта и практически не знали языка своей «родины». Вот в таких условиях им предстояло работать.
Большая собранность и колоссальные усилия потребовались для того, чтобы решить эту задачу. Василию Михайловичу после долгих поисков наконец удалось стать компаньоном владельца небольшой местной фирмы по экспорту текстильных товаров. Прикрытие оказалось удачным, и разведчики приступили к разведывательной работе.
Однако в 1929 году последовало указание руководства внешней разведки перебазироваться во Францию, которая представляла несравненно больший интерес, чем та страна, где работали Зарубины. В тот период в Париже, Лондоне и Берлине вершились судьбы Европы и поэтому разведывательное освещение происходящих там политических процессов имело огромное значение для нашего государства.
Перед разведчиками стояла задача организации нелегальной резидентуры в Париже. Для этого было необходимо наладить линии связи с Центром, подобрать курьеров, подыскать конспиративные квартиры, принять на связь имевшихся источников информации и продолжить работу по их приобретению.
Одним из важнейших являлся вопрос создания прикрытия и получения разрешения на проживание в стране. На руках они имели те же фиктивные паспорта, но они уже были «обжиты», и разведчики чувствовали себя более уверенно.
Времени на раскачку не оставалось, и они приступили к поискам возможностей для трудоустройства. Дело осложнялось еще и тем, что в страну Зарубины въехали как туристы, сроком на два месяца. Для того, чтобы оформить разрешение на проживание, было необходимо за этот срок найти соответствующее занятие, дающее право на длительное или постоянное пребывание в стране. В противном случае по истечении двухмесячного срока они должны были покинуть страну.
После настойчивых поисков Зарубины наконец закрепились в Париже, создали фирму, сняли небольшую квартиру и приступили к решению других неотложных вопросов. Занимаясь созданием прикрытия, разведчики одновременно вели и разведывательную работу, встречались с источниками информации, подбирали конспиративные квартиры, подыскивали людей, которые могли бы использоваться как связники, содержатели почтовых адресов и т. д. Более подробно о работе Зарубиных во Франции изложено в третьем томе «Истории российской внешней разведки». Здесь же мы отметим лишь два момента, которые способствовали успешному решению поставленных перед ними задач.
Во-первых, успешному развертыванию деятельности резидентуры во многом способствовало благоприятное развитие обстановки по линии прикрытия. Зарубин по этому поводу писал: «Приобретенная нами добрая репутация, как самих, так и фирмы, немало способствовала прикрытию нашей разведывательной деятельности и расширению наших разведывательных возможностей. Наша солидность помогла мне поступить в члены одного ведущего спортивного клуба Франции, обеспечить лучшие условия для ведения разведки, провести ряд вербовок».