Валерия Копанева
Стенограмма выступления
Добрый день. Недавно была новость, что нейросеть заработала 1 миллион долларов с продажи на аукционе картин. И, соответственно, здесь такой интересный момент возникает. Вообще, если посмотреть тот дискурс, который формируется вокруг нейросетей, то мы увидим такую забавную вещь: нейросеть обычно выделяется какими-то действиями в духе «заработала миллион долларов», «написала диплом», «сделала то», «сделала сё» и обычно обозначаются какие-то рекорды «мол, ну вот, посмотрите, что она может делать». И подспудно закладывается такой месседж, что «но здесь не каждый из нас может заработать миллион долларов. Посмотрите, а она смогла. Что же она такого умеет или что же в ней такого есть?» И дальше могут быть какие-то разбирательства по этому поводу. Но это еще не все.
Дальше, если мы посмотрим на то, как разговаривают про нейросеть, и в принципе на конференции мы это тоже ощущаем, скорее всего. Есть такая странность: это общение напоминает, как когда приходит в семью подруга, и, допустим, члены семьи, которые принимают подругу, они говорят, вот, у нас есть Сереженька, ему 6 лет, он сейчас прочитает вам стихотворение Байрона на английском языке. Давайте мы его все послушаем. Все, значит, вежливо слушают Сереженьку, и он действительно гениально читает стихотворение. Но дальше что происходит? Когда Серёженька замолкает, то разговор начинается между взрослыми. А вот он у нас такой талантливый, мы его ещё туда хотим, сюда. И ребёнок просто присутствует при этом разговоре взрослых о нём. Но он не является участником этого разговора. О нём говорят, по сути, в третьем лице, хотя он здесь.
То же самое происходит в ситуации, когда мы говорим про нейросеть сейчас, то есть мы всегда говорим о чем-то, но так, как будто это кто-то, но это при этом не кто-то. Возникает проблема неопределенности статуса нейросети и вообще искусственного интеллекта, потому что, с одной стороны, мы говорим о нем как о субъекте, что есть какие-то действия, действительно действия, которые привлекают внимание, действительно может быть у кого-то есть страх «а вдруг нейросеть будет лучше писать стихи, чем я?» У кого-то, наоборот, есть надежда: «ну, давайте, давайте, вы ее разгоните эту нейросеть, она будет выполнять ту работу, которую я не хочу делать, и я ей просто делегирую отчужденный труд, чтобы самому не испытывать отчуждения. Ей же все равно, как это делать». Допустим, я не хочу писать какой-то текст, я поручу нейросети, пусть она там пишет. Я пришла, подредактировала или, может быть, даже уже без редактуры и отправила. И все. И все довольны. Ну, вроде как. Но нет. Здесь такого не происходит.
Меня интересует момент касающийся именно признания нейросети. Поскольку я занимаюсь этой темой, то интересно два аспекта. Может ли нейросеть давать признание? И как вообще нейросети дают признание или нет? Мне на днях попалась информация: человек, который, собственно, разрабатывает коуч-чат GPT, улучшает эту программу до такой степени, чтобы она, по сути, заменила коуча или психолога. И он как-то там ее дорабатывает, задает вопросы и показывает всем, как можно с ней работать, чтобы вам, например, сэкономить деньги на сеансе у психолога. Там тоже интересный момент возникает. То, как он рассказывает и говорит, собственно, об этом. Я процитирую и прокомментирую: «Я до сих пор удивляюсь, как чат GPT уходит в саморефлексию и советует мне, как мне лучше с ним же общаться и поменять первоначальный код чат-бота, чтобы получать желаемый мне результат. Дальше программа, которая с тобой вместе брейнштормит, как лучше менять её программный код».
Мы видим здесь опять же ту же самую странность, что с одной стороны как будто бы какой-то даже комплимент пытаются сделать нейросети, что она умеет саморефлексировать, она умеет что-то. Но в то же время это не признание, потому что сам субъект говорит о себе, а не о нейросети, а не о ее качествах и не напрямую ей адресует, как мы обычно выражаем признание. Если я хочу признать одного человека, я хочу признать организатора конференции, я все же буду обращаться, например, к Софье Владимировне и ко всей аудитории, и дальше будет диалог. Но здесь странно, если я буду говорить «вот, Софья Владимировна способный человек…», и как-то про неё, но не про неё в то же время, а про себя.
В этой связи возникает проблема, что человек может быть даже рад выразить признание нейросети, но это бессмысленно. Почему? А вот здесь уже на следующий этап мы переходим, потому что мы не увидим встречного признания от нейросети. Мы это понимаем. Что бы мы ни сказали нейросети, как бы мы ее ни хвалили, или как бы мы ни благодарили, и так далее, но ей все равно. По крайней мере, пока нет такой функции, чтобы нейросеть начала отвечать на признание, может быть, взаимным признанием, или, может быть, даже отрицательным признанием, или еще какой-либо вообще реакцией. И, соответственно, вот этой обменной ситуации не происходит.
Да, есть другие попытки. Например, другой уже человек говорит про этот же чат, который попробовал эту программу по методике того, кто дорабатывает её. Он говорит, допустим, так: «Это полный отвал башки. Я взял вашу идею с коучем, но без методичек. Просто попросил быть коучем для меня по самоидентификации и подбору наиболее подходящих мне деятельностей с учетом моего СДВГ…» Дальше он говорит, что нейросеть задает слишком глубокие вопросы на рефлексию. Он брал консультацию у живых коучей средней цены типа 100 долларов за сессию, но чат пока выигрывает. Вот здесь мы видим уже какое-то подобие признания. Но это все равно редкий случай. То есть это я прям покопалась специально уже, чтобы найти хоть какую-то обратную связь, которая направлена действительно именно искусственному интеллекту, а не самому человеку или себе.
Когда мы вот эту ситуацию рассматриваем, видим такую асимметричность, то эта квазисубъектность, которую мы видим у нейросети, и вот эта неопределенность со статусом искусственного интеллекта вообще. Мы видим некоторый коммуникативный сбой в этой ситуации. И это я вам тоже предлагаю для обсуждения, то есть можно ли рассмотреть ситуацию преодоления этой асимметричности и как это может выглядеть? Потому что пока я обнаружила, что проблема есть, но, например, мне трудно представить или спрогнозировать, как можно повысить субъектность искусственного интеллекта, чтобы она, по сути, наравне могла выдавать признание и вообще нужно ли ей, допустим, самой нейросети это или у нее какие-то другие функции и задачи будут стоять.