Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Это стало для меня делом чести или по крайней мере самолюбия. Сидя в Калифорнии, я набрался храбрости и окончательно уничтожил свои учетные записи в фейсбуке и твиттере, решившись более туда не возвращаться. Вот тогда-то я и почувствовал эффект зависимости, в особенности от твиттера, который использовал ежедневно, ежечасно, практически ежеминутно, то есть в любой свободный момент. Когда я обедал с семьей, в любую секунду мог прозвучать сигнал уведомления. Когда я работал на компьютере, аккаунт был открыт в фоновом режиме и любое сообщение тут же отвлекало меня от работы. Я подсел, сам того не осознавая, на поток лайков и ретвитов, потерял способность жить, не получая все чаще и чаще определенную дозу любви и ненависти. Твиттер поддерживал меня в искусственном состоянии перевозбуждения. Изучив мои вкусы, ИИ предлагал мне в самый подходящий момент такие посты, на которые я непременно должен был среагировать[91]. То есть именно в то время, когда я тешил себя иллюзией, будто отстаиваю свободу, я стал своего рода лабораторной крысой, чьи реакции на посылаемые ей сигналы точно просчитаны, – и все для того, чтобы обогатить теневые венчурные фонды. Разве это не идиотизм?

Отвыкнуть, впрочем, оказалось непросто. Внезапно я остался наедине с самим собой, лишенный постоянного потока взаимодействий, которые, по сути, были совершенно предсказуемы. Я осознал, что добровольно замкнулся в «племенной» логике: потерял способность выйти из своего либерального заповедника, высказывать сомнения и уточнения, чтобы не разочаровать ими своих фолловеров, алчущих твердых мнений. Некоторые называют такой феномен «политической гомофилией»[92]: благодаря игре данных интернет стал пространством, которое, не приветствуя различия, усиливает сходства. Больно осознавать это добровольное рабство, странную манипуляцию, источником и одновременно жертвами которой мы стали…

Постепенно я приучился записывать свои впечатления в блокнот, а не постить их у всех на виду, общаться с друзьями, а не поддразнивать их, радоваться собственной жизни, а не хвалиться ею. Прошло нескольких сложных недель (когда, признаюсь, я часто бывал на грани рецидива), и мой мозг вернулся к нормальной работе, восстановив три важнейших интеллектуальных функции: концентрацию, плотность, сложность. Вскоре я обнаружил, что снова смог читать часами, не отрывая глаз от книги, вернулся к внутреннему диалогу, который давно прервался, и начал следить за мыслями, идущими вразрез с моими привычными навязчивыми идеями. Сегодня искусственный рай социальных сетей внушает мне лишь глубокое отвращение. Подобно Рентону из фильма «На игле», я решил вернуться к трезвой и счастливой жизни, без троллей и перестрелок твитами.

Так я на собственной шкуре понял, какой поразительной силой манипуляции обладает ИИ. Чтобы выйти из-под ее власти, требуется железная дисциплина. А вот вернуться к ней можно за один клик…[93]

Но все-таки, если ИИ помогает нам принимать ежедневные решения, от выбора маршрута до занятий фитнесом, может быть, он позволит нам сэкономить интеллектуальные ресурсы для более важных в нашей жизни решений? Что, если применять nudge только в той сфере, которая ограничивается мелочами?

Однако мелочи – это и есть жизнь. Токвиль когда-то сформулировал глубокую мысль: «Именно в мелочах опаснее всего порабощать людей». Когда нас постепенно избавляют от привычки самостоятельно выбирать музыку, которую мы слушаем, или ресторан, где мы обедаем, – как можно свободно выбрать профессию или партнера? В недавнем нейрологическом исследовании изучалось влияние GPS на наш мозг[94]. Сравнивались две группы, которые должны найти дорогу в Лондоне: одной помогает приложение геолокации, а другая обходится без таких приложений. Исследователи пришли к выводу, что упражнение памяти и чувства ориентации повышает активность гиппокампа, причем эта активность растет пропорционально сложности маршрута. И наоборот: ученые опасаются, что постоянное применение GPS может привести к атрофии определенных зон мозга, что повышает риск болезни Альцгеймера. Каждый видел, как водители такси сервиса Waze колесят по Парижу по десять часов подряд, совершенно не осознавая ни места, в котором они оказались, ни географии города. Конечно, нельзя заставить себя вернуться к дорожным картам. Но нужно понимать, что за комфорт, предоставляемый ИИ, приходится платить определенную когнитивную цену. Если мы полагаемся на машину, когда надо повернуть налево или направо, не начнем ли мы в конце концов спрашивать у нее, с кем заключать брак? На что же будет похоже общество без гиппокампа?