Самолёт Як-38 – одноместный цельнометаллический среднеплан клёпаной конструкции нормальной аэродинамической схемы со стреловидным крылом, хвостовым оперением, убирающимся в полёте трёхопорным шасси и комбинированной силовой установкой.
Фюзеляж – стрингерный полумонокок переменного овального сечения с силовым набором из 40 шпангоутов, стрингеров и лонжеронов. Фюзеляж состоит из головной и хвостовой частей. В головной расположены гермокабина и отсеки оборудования, двигателей и передний топливный бак. Под кабиной находится ниша передней опоры шасси, за ней – воздухозаборники и воздушный канал ПМД.
В хвостовой части расположены поворотные насадки ПМД и второй топливный бак.
Крыло состоит из центральной части (ЦЧК) и двух складывающихся частей (СЧК). Каждая СЧК крепится к ЦЧК двумя шарнирными узлами и в полётном положении запирается двумя штырями. Для удобства размещения в самолётном ангаре СЧК с помощью гидропривода поворачиваются относительно ЦЧК вверх на 102 град. Площадь крыла составляет 18,7 м
Крыло оборудовано выдвижными закрылками щелевого типа, установленными на роликах в двух направляющих рельсах в неотъёмной части крыла, перемещаемых гидроцилиндрами. Закрылки имеют только два положения: 0 и 35 град. Выпущенные закрылки обеспечивают приросткоэффициента подъёмной силы крыла до 0,26.
В хвостовой части каждой СЧК самолёта Як-38 на трёх узлах подвешиваются элероны. Правый элерон снабжён триммером.
Хвостовое оперение самолёта Як-38 однокилевое с низкорасположенным стабилизатором. Каждая половина руля высоты подвешена к стабилизатору в трёх точках. Правая половина руля высоты снабжена триммером.
Шасси самолёта трёхопорное. Передняя нога с нетормозным самоориентирующимся в пределах до 110 град, в каждую сторону колесом. Главные ноги рычажного типа с тормозными колёсами. В процессе разработки самолёта колею шасси после аварии в 1971 г. не только увеличили на 50 см, но и изменили конструкцию основных стоек.
Парашютно-тормозная система предназначена для сокращения длины пробега и состоит из контейнера и тормозного парашюта ПТК-36, створок, замка и др. деталей. Тормозной парашют площадью 13 м
По принятой схеме двигатели установлены в разных отсеках фюзеляжа.
Подъёмно-маршевый Р27В-300 расположен в задней части фюзеляжа, имеет однорежимные воздухозаборники по бортам фюзеляжа за кабиной лётчика и работает в течение всего времени полёта. Двигатель выполнен по двухвальной схеме. Двигатель снабжён криволинейным полусферическим реактивным соплом с двумя поворотными сужающимися насадками для изменения направления вектора тяги, приводимыми во вращение гидромоторами. Перевод сопла из вертикального положения в горизонтальное занимал по времени 6 с. Из горизонтального положения в вертикальное сопло переводилось бесступенчато, при обратном перемещении – с фиксацией на 25 и 45 град, от вертикали по вектору тяги, что обеспечивалось электрической блокировкой. Одновременно с изменением тяги ПМД на этих режимах в целях сохранения продольной балансировки самолёта автоматически изменялась тяга ПД.
Подъёмно-маршевый двигатель обеспечивал питание сжатым воздухом струйной системы управления самолётом и раскрутку роторов ПД при их запуске. На ПМД установлены стартёр-генератор, два гидронасоса, генератор переменного тока.
Тяга ПМД на взлётном режиме 5900 кгс.
Два подъёмных двигателя РД36-35ФВ размещались в отсеке передней части фюзеляжа за кабиной лётчика по схеме "тандем" и использовались только на вертикальных и переходных режимах полёта. Воздухозаборники ПД находились в верхней части фюзеляжа и закрывались сверху створкой. Благодаря применению титановых и алюминиевых сплавов двигатель имел относительно небольшой вес. Подъёмный двигатель по сравнению с ПМД проще и состоит из шестиступенчатого компрессора, прямоточной камеры сгорания, одноступенчатой турбины и нерегулируемого реактивного сопла. Продольные оси ПД наклонены вперёд на 10 град, от вертикали, причём сопло первого развёрнуто назад на 15 град (25 град, от вертикали)., а заднего – вперед на такой же угол (5 град, от вертикали). Допустимое время работы ПД не более 2 мин (за ресурс допускалось использовать 20 продлённых циклов по 5 мин). Тяга каждого двигателя – 2900 кгс; ресурс – 1030 циклов, вес 199 кг.