Автор статьи: Дыдров А. А., доктор философских наук, профессор кафедры философии, Южно-Уральский государственный университет
Статья посвящена широко обсуждаемой теме искусственного интеллекта и интегрированным в литературно-художественный, публицистический и научный дискурсы представлениям о саморегуляции роботизированных систем на основе т. н. «законов робототехники». В качестве иллюстрации перверсивных реакций, выражающих демонтаж человека как субъекта, используется короткометражный научно-фантастический фильм «Blinky™».
Ключевые слова: робот, роботизация, искусственный интеллект, законы робототехники.
История робототехники и искусственного интеллекта неразрывно связана не только с операционально-технологическими аспектами, но и с нормативностью, кристаллизующейся в контексте права и этики. Причем определяющие положения формулировались для научного сообщества и фиксировали границы допустимого в исследованиях, а также (и это, на первый взгляд, парадоксально) имплицитно для самой технологии. Разумеется, наиболее известным и широко обсуждаемым случаем технологической нормативности были и остаются т. н. «законы робототехники». По оценке многих исследователей, формирование нормативной базы для high-tech актуализировалось в связи с тем, что мы живем в «эпоху нарастающей роботизации» (Era of Increased Robotisation [2]), все сильнее «переплетающейся» с жизнью и телом человека [3]. Наряду с научными исследованиями, робототехника, что общеизвестно, обрабатывалась литературно-фантастической дискурсивной машиной, обострившей вопрос об имплицитной регуляции (в определенном смысле, «саморегуляции») роботизированных систем. Автономизация роботов ограничивалась репрезентированным на страницах книг и в кинематографе действием трех общеизвестных законов (а также фундаментального нулевого).
Философская оптика позволяет интерпретировать эти законы в качестве конструктов, первоначально принадлежавших литературно-художественному тексту, а позднее публицистическому и научному дискурсам. Они носят тотализирующий характер, конституирующийся категорическим ограничением (may not) и долженствованием (must). В плане выражения законы близки к категорическому императиву, так как имплицитно не содержат никаких ссылок на условия и не отсылают к контекстам или ситуациям. По существу, в литературно-художественном дискурсе Азимова без особого труда можно увидеть пролонгированную аналитику коллизий, то есть критически не координируемых частностей. Аналитика, разумеется, велась уже в плане содержания и осуществлялась персонажами типа Элайджа Бейли («Стальные пещеры», «Обнаженное солнце», «Роботы зари» и др.). По мере развертывания художественного мира число коллизий критически возрастало, а законы робототехники сохраняли свое положение только в качестве элемента литературного дискурса.
«Нарастающая» роботизация способствовала возвращению к формулировкам законов в социально-гуманитарных науках, традиционно выполняющих критическую и сдерживающую функции в отношении к технико-технологическому инновационизму. Алармистские настроения на Западе и в России провоцировали многочисленные дискуссии о рисках и негативных последствиях развития робототехники и искусственного интеллекта. В частности, аналитика поисковых запросов с инструментарием Google Trends и WordStat показала, что рядовой пользователь браузера регулярно вводит в поисковые строки запросы «злой искусственный интеллект», «искусственный интеллект убьет» и подобные. Эта матрица обслуживается фантастической литературой и кинематографом, в которых роботы автономизируются и буквально угрожают человечеству, ставя под вопрос все прежние способы существования и bios как таковое («Я, робот», 2004; «Hardware», 1990 и т. д.).
Социально-гуманитарный и даже инженерно-технический дискурсы в значительной степени поддерживают панические настроения, прогнозируя, что роботизированные системы превзойдут человека (традиционная мифологизированная маркировка – «будут умнее») и станут флагманами эры технологической сингулярности. Последний термин (сингулярность), позаимствованный из естественно-научного тезауруса, содержательно преломляется и популяризируется за счет трансгуманизма (Юдковский [5], Bostrom [1]). В исследовательской среде уже не одно десятилетие звучат призывы отказаться от привычной субъект-объектной оппозиции, характерной для устаревшего гуманистического дискурса. Законы робототехники в соответствующей «постгуманистической» оптике возможно подвергнуть критике как формулы гуманистической парадигматики с имманентным первенством субъекта по отношению к заведомо «вторичному» объекту. Предлагается основываться на презумпции невиновности и принципе равноправия разумных существ, в числе которых оказывается и машина [4]. Золотое правило морали тем самым экстраполируется на всех без исключения актантов, за которыми (и здесь еще тянется шлейф старой парадигмы) признается разумность или, напротив, «машинность». Последняя оговорка принципиально важна в контексте набирающей популярность «машинной антропологии», перекликающейся с шизоанализом Делеза – Гаттари, и акцентирующей внимание не на человеческом, а на машинном в человеке. Между тем, в классической гуманистической парадигматике субъектность связана отнюдь не только с разумностью, возможностью и правом, но также с ответственностью и виной. В этой оптике утрата рациональности и рефлексивности суть непосредственные условия для демонтажа субъекта и его мира. Нерефлексивные, истерические отношения с машиной прямо угрожают нарушению ее функционала. Ценой такого рода отношений является не преступление против абстрактного морального императива, а фактически конкретная жизнь самого актанта.
Иллюстрацией последствий превращения человека в перверсивную истерическую машину является короткометражный фильм «Blinky™», имеющий вполне закономерный финал «horror movie». Сцена подростковой истерики, сопровождавшейся выкриками смертоносных «команд» позиционируется как переломная и разделяющая миры идиллического (утопического) существования и формирующегося (реалистичного) машинного насилия, в корне отличающегося от апокалипсиса в духе «Терминатора».
Литература
1. Bostrom N. The Future of Humanity. URL: https://www.nickbostrom.com/papers/future.pdf (дата обращения: 25.05.2022).
2. Danaher, John. Robots, law and the retribution gap // Ethics and Information Technology. 2016. V. 18. I. 4. PP. 299–309.
3. Koops, Bert-Jaap, Di Carlo, Angela; Nocco, Luca; Casamassima, Vincenzo; Stradella, Elettra. Robotic technologies and fundamental rights: Robotics challenging the european constitutional framework // International Journal of Technoethics. 2013. V. 4. I. 2. PP. 15–35.
4. Гришин Е. А. Законы робототехники: новая парадигма // Искусственные общества. 2018. Т. 13. № 3. С. 3.
5. Юдковский Э. Вглядываясь в сингулярность. URL: http://2045.ru/ar/29280.html (дата обращения: 25.05.2022).
Работа выполнена при поддержке Российского научного фонда Конкурс «Проведение фундаментальных научных исследований и поисковых научных исследований отдельными научными группами» (региональный конкурс) 22-18-20011 «Цифровая грамотность: междисциплинарное исследование (региональный аспект).