Душа машины. Радикальный поворот к человекоподобию систем искусственного интеллекта

Но по прошествии нескольких лет инновации как будто повернулись к нам темной стороной. Беспилотные авто оказались смертельно опасными. Крупное научное исследование показало, что системы распознавания лиц, внедренные в полицейскую практику США, в отношении азиатов и африканцев ошибаются в сто раз чаще, чем при идентификации белых. Социальные сети оказались благодатной средой для политических манипуляций и вмешательства в выборы.

Компания Cambridge Analytica без труда получила доступ к персональным данным 87 миллионов интернет-пользователей. К концу десятилетия системы распознавания лиц и анализа цифровых данных применялись властями во всем мире для слежки за миллиардами собственных граждан. В 2020 и 2021 годах хакеры взломали сайты важнейших государственных структур США. Вирусы-вымогатели создавали проблемы в логистических цепочках, поставках газа, работе мясоперерабатывающих предприятий и заставили весь мир задуматься о продовольственной безопасности. И это лишь факты и события, получившие широкую огласку!

Другие проблемы, порожденные ходом технологической эволюции, не попали в пространство публичных дискуссий. Но и несенсационные события ощутимо влияют на жизнь частных лиц, организаций и общества в целом.

ИИ-алгоритмы, внедренные в работу общественных и финансовых организаций, не раз выдавали необъяснимые или предвзятые решения, непосредственно влиявшие на одобрение кредитов, наем сотрудников, судебное разбирательство. «Большой взрыв» цифровых технологий поставил под вопрос равенство возможностей и в деловой среде: инновации в IT-архитектуре привели к ежегодному десятикратному росту вычислительных мощностей, доступных далеко не всем предприятиям, – по сравнению с 2012 годом они увеличились в 300 000 раз. Но стартапам, мелким компаниям и научным лабораториям непосильны затраты на обучение ИИ-систем: им требуется огромное количество данных.

Устаревшие IT-системы не в состоянии угнаться за новыми технологиями, и руководителям многих предприятий теперь сложнее делать грамотные инвестиции в технологическое развитие. «Да, – нередко говорили директора, – мы знаем, что наша компания должна стать технологичной. Но какую именно технологию выбрать?»

Итак, назрели очередные перемены в сфере цифровых инноваций. Двигаться по пути увеличения технологических мощностей и сокращения роли человека уже невозможно. Поэтому траектория технологического прогресса резко изменилась, а новые условия обещают возможную полную гармонию человека и машины.

Радикальное очеловечивание – инновации вверх тормашками

Принципы взаимодействия человека с «умными» технологиями сейчас выходят на третий этап эволюции. На первом этапе искусственный интеллект применялся для автоматизации рутинных задач: люди обслуживали машины, которые заменяли людей. Такая ситуация порождала мрачные прогнозы: машины скоро вытеснят человека и начнется тотальная безработица.

К счастью, второй этап опроверг опасения пессимистов. Как мы показали в книге «Человек + машина», многие организации стали использовать ИИ, чтобы расширить возможности, а не рассчитать сотрудников.

Руководители таких компаний не согласились, что технический прогресс должен сократить потребность в живой рабочей силе, и в полной мере раскрыли потенциал взаимодействия человека с машиной, превратили механические процессы в творческие, легко масштабируемые и корректируемые операции. Это, в свою очередь, отразилось на структуре бизнеса и финансовых показателях.

Этап сотрудничества, уравнявший возможности человека и машины, теперь сменяется третьей стадией: ключевую роль станет играть человек. Лидеры делового мира не просто обгоняют конкурентов по части инноваций – они совершают решительный разворот к человекоориентированным технологиям: к человеку. И это переворачивает все представления о прогрессе последнего десятилетия.

Этот разворот можно назвать революционным, но вообще он является органичным. Его радикальность заключается в резком изменении условий конкуренции. А органичность – в том, что на первый план выводятся чисто человеческие качества и способности: мышление, понимание, эмоциональный отклик. «Умные» технологии уже давно подарили нам сверхчеловеческие возможности, однако теперь к ним добавляется человеческое измерение, содержащее не только наши таланты, но и ошибки.

Поведенческая экономика включила в сферу интересов когда-то сухой науки плохо предсказуемый человеческий фактор – инновации предполагают поправку на предвзятость и прочие человеческие несовершенства, которыми оказались заражены предыдущие поколения искусственного интеллекта и связанных с ним технологий.