Искусственный интеллект – надежды и опасения

Такой сценарий кажется вполне правдоподобным, но это не то направление развития, в котором мы сегодня движемся. Наши мощнейшие и быстро совершенствуемые системы искусственного интеллекта контролируются коммерческими организациями. Налицо сценарий «корпоративного ИИ», по которому баланс сил между национальными государствами и корпорациями кардинально изменяется в пользу последних. Сегодня наиболее мощной группой интеллектуальных машин обладает, вероятно, компания «Гугл», но от нее вряд ли значительно отстают «Амазон», «Байду», «Майкрософт», «Фейсбук», «Эппл» и «Ай-би-эм». Все эти компании осознают необходимость разработки собственного искусственного интеллекта. Легко представить себе будущее, когда корпорации самостоятельно создают собственные компьютерные системы, защищенные файрволлами, которые не позволяют «чужим» машинам воспользоваться объемом знаний конкретной корпорации. Эти машины будут проектироваться и разрабатываться исключительно для реализации целей конкретной корпорации. Если такие разработки окажутся эффективными, национальные государства станут отставать все сильнее в проектировании и внедрении систем искусственного интеллекта, вследствие чего им придется полагаться на добрую волю своих «корпоративных» граждан. Чем увереннее корпорации будут добиваться поставленных целей, тем могущественнее и автономнее они станут, решительно оттесняя национальные государства.

Третий сценарий – возможно, тот, которого люди сильнее всего опасаются, – заключается в том, что искусственный интеллект не будет привязан ни к людям, ни к гибридным сверхразумам; он станет действовать исключительно в своих собственных интересах. Такие машины могут даже объединиться в единый машинный суперинтеллект, поскольку машинам нет технической необходимости сохранять отдельные «личности». Отношение же эгоистичного супер-ИИ к гибридным системам может перерасти в острую конкуренцию. Людей подобная система может воспринимать как досадную помеху, вроде муравьев на месте пикника, а вот гибридные суперинтеллекты – корпорации, мировые религии и национальные государства – могут трактоваться как угроза существованию ИИ. Подобно гибридному суперинтеллекту, новый ИИ может посчитать людей полезным инструментом для достижения своих целей, этакими пешками в конкурентной борьбе с другими суперинтеллектами. Или же сочтет нас попросту ненужными. Не исключено, что машинный интеллект уже возник, но мы пока не опознали его как таковой. Возможно, он не хочет быть замеченным – или настолько нам чужд, что мы не способны его осознать. В общем, сценарий эгоистичного ИИ наиболее труден для понимания. Полагаю, что доступные нашему воображению версии – скажем, интеллектуальные человекоподобные роботы – наименее вероятны. Наши сложнейшие системы, взять хотя бы интернет, уже вышли за пределы понимания индивида, а их поведение в будущем и подавно превзойдет все человеческие возможности к пониманию.

Последний сценарий состоит в том, что машинный интеллект не предусматривает комбинирования мощностей в корыстных целях; он будет развиваться на пользу человечества в целом. В этом оптимистичном сценарии ИИ поможет нам восстановить баланс между индивидом и корпорацией, между гражданином и государством. Он поможет справиться с проблемами, порожденными гибридным суперинтеллектом, который преследует собственные цели. Согласно этому сценарию, новый ИИ расширит наши возможности, предоставит доступ к вычислительным мощностям и знаниям, которые в настоящее время доступны лишь корпорациям и государствам. По сути, он способен стать продолжением наших индивидуальных умственных возможностей в достижении человеческих целей. Он может изрядно усилить наш слабый индивидуальный разум. Эта перспектива выглядит одновременно захватывающей и правдоподобной. Она правдоподобна потому, что мы вольны выбирать, что именно разрабатывать, а за плечами у нас богатая история использования технологий для расширения человеческих возможностей. Самолеты, образно говоря, дали нам крылья, двигатели дали мышцы для сворачивания гор, а компьютерная сеть может укрепить и расширить наш разум. Да, мы вряд ли полностью поймем и сможем контролировать свою судьбу, но у нас есть шанс изменить ее соответственно нашим ценностям. Грядущее – не то, что с нами случится; оно есть то, что мы сами создадим.

Почему Винер заметил то, что упустили другие