Выбору компоновочной схемы самолета предшествовала большая совместная работа ОКБ А.С.Яковлева и институтов МАП (ЦИАМ, ЦАГИ, ЛИИ. ВИАМ и НИИАТ). Основной проблемой был выбор силовой установки. Для вертикального взлета необходимо, чтобы самолет имел тяговооруженность больше единицы, то есть тяга двигателя должна превышать вес самолета. В то время в СССР двигателей типа Pegasus, как на английском СВВП Harrier, не было. Поэтому пришли к выводу, что проблему можно решить создав комбинированную силовую установку (СУ), состоящую из уже существовавшего ТРД Р27В-300 КБ С.К.Туманского (ведущим конструктором по этому двигателю был Ю. Гусев) с доработкой — установкой двух поворотных насадок на сопло — и двух подъемных двигателей (ПД) РД36-35ФВ разработки КБ П.А.Колесова (ведущий конструктор А.Дынкин).
Эскизное проектирование самолета с комбинированной силовой установкой, получившего обозначение Як-36М, вел отдел общих видов во главе с Л.М.Шехтером. Ведущим конструктором был О.А.Сидоров, а общее руководство возложили на заместителя главного конструктора С.Г.Мордовина. Ведущим инженером в это время был В.Н.Павлов, который впоследствии стал главным конструктором СВВП.
В процессе рабочего проектирования машины в ОКБ создавалось большое количество стендов для отработки различных систем СВВП. Основными из них были: стенд силовой установки, «кабелькран» и стенд сил и моментов.
Стенд силовой установки представлял собой фюзеляж натурного самолета с размещенной в нем комбинированной СУ, системой управления ею и системами, обеспечивавшими ее работу. Первые испытания проводились в аэродинамической трубе Т-102 в филиале ЦИАМ Тураево. В ходе их отрабатывалась совместная работа всех трех двигателей, производились запуски СУ до скоростей воздушного потока порядка 300 км/ч. Затем стенд подвесили под летающую лабораторию — самолет Ту-16 Ns 1002 — для отработки двигателей на скоростях более 300 км/ч. Испытания проходили в ЛИИ. На стенде силовой установки регулировалась и кинематика управления совместной работой ПД и ПМД.
Испытание первого экспериментально-опытного Як-36М № 01, построенного 15 апреля 1970 г. проводились на стенде «кабель-кран» в ЛИИ. Самолет на «кабель-кране» подвешивался на расстояниях 0–5 м от земли на двух мачтах с растяжками. При этом проверялись температурные поля при работающей силовой установке, регулировалась работа двигателей, отрабатывалось струйное управление. Затем на этом же самолете летчик-испытатель В.Г.Мухин 22 сентября 1970 г. выполнил первое свободное висение на 0,5 м от земли.
Испытания второго опытного экземпляра — N? 02, построенного 27 ноября 1970 г., проходили сначала на стенде сил и моментов для снятия характеристик управления и исследования влияния рециркуляции газов и подсоса выхлопных струй из-за влияния земли, проявляющегося на высотах менее 2 м. Сделанные замеры показали, что неблагоприятная газодинамическая картина вызывает потери тяги двигателей порядка 800 кг. Для уменьшения рециркуляции вдоль фюзеляжа были установлены газоотводящие направляющие ребра, а сопло переднего подъемного двигателя было повернуто на угол 15° от вертикали против направления полета. Выявилась также необходимость повышения эффективности струйного управления, особенно в поперечном канале. Пришлось увеличить отбор воздуха от двигателя и изменить направление струйных рулей на концах крыла (вверх и вниз на каждой консоли). В результате доработок эффективность рулей возросла вдвое.
24 ноября 1970 г. Мухин на втором Як 36М выполнил скоростную рулежку, а через три дня — подлет. Затем состоялся методический совет МАП, и 2 декабря 1970 г. был выполнен полет по-самолетному. Из-за большой посадочной скорости и отсутствия тормозного парашюта на пробеге летчик-испытатель В.Г.Мухин повернул сопла ПМД в вертикаль.
Расширению фронта работ помешала авария самолета Як-36М № 03 (построен 16 июня 1971 г.) На пробеге машина, пилотируемая летчиком-испытателем Ю.А.Шевяковым опрокинулась. Ее передали в ремонт, а вся нагрузка легла на Ns 02. Летчики-испытатели М.С.Дексбах и О.Г.Кононенко помимо своей основной работы занимались подготовкой летчиков-испытателей В.П.Хомякова (НИИ ВВС) и А.М.Исаева (Саратовский авиационный завод). Руководителем летной программы был первый заместитель Генерального конструктора К.Б.Бекирбаев.