Лондонский Senate House, прототип Министерства правды из «1984»
Мыслители и писатели прошлого оставались в рамках гуманистической парадигмы. Они верили, что человек, его сознание, его воля и его искренняя лояльность — это главный приз для любой власти. Мы ждали антиутопию в её классическом, грязном и страшном обличии — с колючей проволокой, бараками и марширующими солдатами. Такая наступила в менее развитых странах. Свидетели прав человека верили, что если европейцев, американцев и скандинавов не бьют дубинкой за неправильные мысли, то они свободны. Цифровой тупик стал внезапным открытием.
По оруэлловскому сценарию власть должна была ломать людей через колено, выжигать инакомыслие пытками, страхом и тотальной пропагандой, требуя фанатичной любви к вождю.
В утопиях Азимова, Ефремова и Бэнкса искусственный интеллект и глобальные сети создавались с одной-единственной целью — сберечь, защитить и развить внутренний мир человека. Роботы у Азимова запрограммированы Тремя законами, защищающими ценность человеческой жизни и душевного покоя, а доброжелательные Разумы у Бэнкса берут на себя рутину администрирования, чтобы предоставить человеческому духу абсолютную свободу для творчества, любви и экзистенциальных поисков.
Во всех этих сценариях человек оставался центром вселенной. Воображаемая Система будущего тратила гигантские ресурсы на то, чтобы так или иначе взаимодействовать с внутренним миром каждого. Присутствие человека в этой схеме было обязательным.
В Океании велась яростная, тотальная война за человеческое сознание. Партийному функционеру О’Брайену было мало просто заставить Уинстона Смита подчиниться или замолчать. Системе требовалось выпотрошить его внутренний мир, сломать его интеллектуальное сопротивление и заставить его искренне, всей душой полюбить Большого Брата. Это был мир ручного, глубоко человеческого по своей природе тоталитаризма. Личность, пусть и растоптанная, оставалась главной ценностью, центром вселенной и конечной целью власти. Антиутопия не исключала диалога. Попытки уничтожить личность требовали признания того, что у человека есть личность.
Теперь же выяснилось, что душу можно игнорировать. Системе вообще не интересна ваша душа. Ей достаточно контролировать ваши поведенческие маркеры и оптимизировать ваши цифровые следы.
Система распознавания лиц не спрашивает, любите ли вы правительство. Ей всё равно. Она сравнивает ваши параметры с базой данных и решает, пропустить вас или вызвать полицию. ИИ-алгоритм в медицине не интересуется вашими экзистенциальными страхами перед болезнью — он просто калькулирует ваши шансы на выживание в рамках выделенного бюджета.
Раньше думали, что антиутопия — это когда человека заставляют думать правильно. Сегодняшняя антиутопия — это когда то, что вы думаете, вообще ни на что не влияет.
Человек стал объектом администрирования, который нужно эффективно и, желательно, бесконтактно распределять, маркировать и, если нужно, изолировать от системы одним кликом мыши. Читать далее
