Другое большое направление исследований в области оптимизации — нелинейное программирование, в частности, недифференцируемая оптимизация. Первая работа по субградиентным методам появилась уже в 1962 г. (Н.Э. Шор). На Западе эти методы были переоткрыты лишь в 1974 году. Их разработка стала ключом к решению задач большой размерности с использованием схем декомпозиции. Первые приложения были связаны с решением транспортных задач и были инициированы А.А. Бакаевым, перешедшим в ИК АН Украины из Госплана Украины. Субградиентные методы фактически стали математической основой многих исследований в области транспорта, выполненных в отделе А.А. Бакаева.
В эти же годы субградиентные методы были применены для оптимизации загрузки прокатных станов СССР. В дальнейшем В.М. Глушков, В.С. Михалевич вместе с академиком Л.В. Канторовичем приложили огромные усилия для организации внедрения систем оптимальной загрузки трубных станов СССР, математической основой которых служили алгоритмы, разработанные в ИК АН Украины.
Среди видных представителей киевской оптимизационной школы — академик АН Украины Б.Н. Пшеничный и его ученики (нелинейный и выпуклый анализ, дифференциальные игры, оптимальное управление, нелинейное программирование, динамические модели экономики); Ю.М. Ермольев и его ученики (нелинейное и стохастическое программирование, негладкая оптимизация, моделирование и оптимизация сложных стохастических систем).
Серьезные исследования по разработке приближенных методов дискретной оптимизации выполнены под руководством академика АН Украины И.В. Сергеенко.
Доктор ф.-м. н. В.А. Трубин выполнил ряд работ в области создания алгоритмов в задачах дискретно-непрерывного типа (синтез сетей, размещение производства и др.), а также провел ряд тонких исследований по анализу вычислительной сложности задач дискретной оптимизации.
Развивая концепцию ОГАС, анализируя работы по диалоговой системе балансовых расчетов (ДИСПЛАН), В.М. Глушков в последние годы своей жизни написал работы по системной оптимизации, связанные с оптимизацией многокритериальных систем в диалоговом режиме. Это направление получило продолжение в многочисленных работах В.Л. Волковича и его учеников.
В 1981 году группа ученых Института кибернетики им. В.М. Глушкова за разработку комплекса методов оптимизации получила Государственную премию Украины (B.C. Михалевич, А.А. Бакаев, Ю.М. Ермольев, Т.П. Марьянович, И.В. Сергиенко, В.Л. Волкович, Б.Н. Пшеничный, В.В. Шкурба, Н.Э. Шор).
В начале 60-х годов заместителем Глушкова по работам, проводимым в Москве в оборонных министерствах по созданию систем управления предприятиями, был А.И. Китов. Я уверен — имей Глушков больше времени, он обязательно рассказал бы об этом замечательном человеке. Познакомились они заочно. Еще до приезда в Киев, живя в Свердловске, Глушков в 1956 году прочитал его книгу „Цифровые вычислительные машины“ — первую книгу-учебник по вычислительной технике.
Участник Великой Отечественной войны, один из немногих уцелевших двадцатилетних, Китов в 1950 году окончил Военную артиллерийскую академию им. Ф.Э. Дзержинского (с золотой медалью) и был направлен в Академию артиллерийских наук, где получил задание работать в СКБ-245 Министерства машиностроения и приборостроения СССР для изучения электронной вычислительной техники и возможностей ее использования в Министерстве обороны.
В 1952 году в его руки попала книга Винера „Кибернетика или управление и связь в животном и машине“. Изучение этой книги, а также беседы с Алексеем Андреевичем Ляпуновым, которого А.И. Китов считал своим учителем, привели его к убеждению, что принятая в нашей стране официальная трактовка кибернетики как буржуазной лженауки является неправильной. Он подготовил статью о содержании и значении новой науки. После длительного (трехлетнего) процесса обсуждения статьи на различных совещаниях и семинарах она была доработана с участием А.А. Ляпунова и С.Л. Соболева и опубликована под названием „Основные черты кибернетики“ в августе 1955 года в журнале „Вопросы философии“ вместе со статьей Э. Кольмана „Что такое кибернетика“, что привело к признанию и дальнейшему развитию кибернетики.
В 1954 году его назначили руководителем Вычислительного центра Министерства обороны СССР. Занимаясь автоматизацией управления в военном деле, он много думал об автоматизации и рационализации управления народным хозяйством страны и в январе 1959 года послал в ЦК КПСС на имя Хрущева письмо о необходимости развития вычислительной техники. Оно попало Брежневу и возымело большое действие. Была создана межведомственная комиссия под председательством А.И. Берга, подготовившая постановление ЦК КПСС и Совета Министров СССР об ускорении и расширении производства вычислительных машин и их внедрении в народное хозяйство, которое было принято и сыграло очень важную роль.