В 1950-е — 1960-е годы, в связи с появлением новых авиационных двигателей, работы по самолётам с вертикальным взлётом и посадкой (СВВП) начались во многих странах мира, но до стадии серийного производства СВВП довели только в Великобритании и СССР. Созданию Як-38 предшествовали работы над СВВП Як-36, совершившим первый полёт в 1964 году. 27 декабря 1967 года вышло Постановление ЦК КПСС и СМ СССР № 1166—413 о создании лёгкого штурмовика вертикального взлёта и посадки Як-36М. Этим же Постановлением предусматривалось создание учебно-боевого варианта и, в перспективе, истребителя. В соответствии с тактико-техническими требованиями, самолёт был предназначен (дословно): для авиационной поддержки боевых действий сухопутных войск в тактической и ближайшей оперативной глубине расположения противника (до 150 км от линии фронта), а также при базировании самолёта на кораблях проекта 1123 для уничтожения надводных кораблей и береговых объектов в морских операциях и ведения визуальной воздушной разведки. Основной задачей самолёта является уничтожение подвижных, неподвижных наземных и морских объектов противника в условиях визуальной видимости. Кроме того, самолёт должен использоваться для борьбы с воздушными целями типа военно-транспортных самолётов и вертолётов, а также для борьбы с самолётами и вертолётами ДРЛО и противолодочными самолётами. Ввиду принципиальной новизны и большой технической сложности предусматривалось изготовление натурных стендов для отработки изделий. 15 мая 1970 года первая машина с бортовым № 05 была доставлена в ЛИИ, где прошла испытания на разработанном там кабель-кране. Самолёт подвешивали на высоте от 0 до 5 м и запускали двигатели. При этом проверялись температурные поля, регулировалась работа автоматики, отрабатывалось струйное управление. 22 сентября на этом же самолёте лётчик-испытатель ОКБ В. Г. Мухин выполнил первое свободное висение в полуметре от земли. Испытания второго опытного экземпляра за номером «25», построенного к 15 октября 1970 года, проходили сначала на стенде сил и моментов, служившем для снятия характеристик струйного управления, исследования явлений рециркуляции и подсоса выхлопных газов, имеющих место на высотах менее 2 метров. 24 ноября 1970 года испытатель Мухин выполнил на нём скоростную рулежку, а ещё через три дня — подлёт «по-самолётному». 2 декабря Мухин выполнил первый полёт на самолёте № 25, в сопровождении МиГ-21. Третья машина борт № 55 передана на испытания 17 мая 1971 года. 21 февраля 1972 года впервые выполнен вертикальный взлёт, переходный режим, полёт по кругу и посадка по-самолётному, а уже 25 февраля выполнен полёт по полному профилю, с вертикальным взлётом, полётом по кругу и вертикальной посадкой. В апреле 1972 года заводские испытания были закончены, и на базе в/ч 15650 в г. Ахтубинске начат этап «А» Государственных совместных лётных испытаний (ГСИ), продолжавшийся до сентября 1974 года. По результатам испытаний было рекомендовано допустить самолёт к эксплуатации в строевых частях и начать корабельные испытания на ТАКР пр. 1143. Одновременно начинаются работы совместно с кораблестроителями и ВМФ. Для проверки возможности базирования СВВП на тяжёлых крейсерах типа «Киев» сотрудники Черноморского судостроительного завода построили на аэродроме ЛИИ натурный отсек корабля с участком полётной палубы. На ней установили Як-36 борт № 37 и проводили гонки двигателей с целью определения температурного влияния реактивной струи и замера уровня шума в подпалубных помещениях. ВИАМ разработал теплостойкое покрытие АК-9Ф, которое в дальнейшем использовалось на авианесущих крейсерах в виде плит размером 550×550 мм и толщиной 10 мм. Для проведения морской фазы лётных испытаний нового самолёта флот выделил противолодочный крейсер «Москва». В центре его вертолётной палубы смонтировали площадку размером 20×20 метров, покрытую теплостойкими панелями. Первая экспериментальная посадка Як-36М № 02 на ПКР «Москва» состоялась 18 ноября 1972 года. Пилотировал самолёт лётчик-испытатель М.