Доклад Юрия Ветютнева
Дорогие друзья, у меня есть такая практика время от времени проводить в онлайне занятия по сократическому диалогу. Эта практика, с одной стороны, приятная, с другой стороны, она утомительная. Приятная она потому, что по сократическому диалогу, а утомительная, потому что онлайн. В один прекрасный день там произошло событие, которое, в общем, косвенным путем меня, наверное, привело на это обсуждение. Я заметил, что один из участников группы стал как-то очень интересно, необычным образом участвовать. Я стал от него слышать нечто, с одной стороны, как будто бы знакомое и родное, а с другой стороны, непохожее на то, что я от него слышал раньше.
Довольно-таки быстро выяснилась эта загадка. Оказалось, что он стал ходить с нейросетью на занятия. И иногда на те вопросы, которые обсуждаются, он отвечал от себя, а иногда он задавал эти вопросы нейросети и стал транслировать ответы нейросети. Потом он стал уже говорить: «вот это сейчас я, а сейчас мы спросим нейросеть». Потом нейросеть начала писать стихи. Я стал отправлять их одному своему знакомому поэту, который тоже этим интересуется. Мы стали с ним сравнивать качество стихов на разные темы. Кстати, маленький интересный факт. Оказалось, нейросеть по-английски пишет стихи гораздо лучше, чем по-русски, потому что по-русски она пока рифму не освоила, а по-английски почему-то уже освоила и очень даже на хорошем уровне. В общем, я даже стал испытывать некоторую симпатию к ней, я говорю к ней, понимая, что нейросеть — это обобщающее выражение, и что существуют самые разные внутри нее варианты, и какие-то разные технологии, но я ее вижу как все-таки нечто единое, и как что-то, как мне кажется, знакомое. Я, наверное, потом попытаюсь определить, на что она похожа, что она мне напоминает.
Специально для нашей сегодняшней конференции я задал два запроса одной очень уважаемой нейросети, которую я не буду называть, чтобы не делать ей ни рекламу, ни антирекламу. Первый запрос был с учетом темы круглого стола: «Основные тенденции в истории права». А второй, зная увлечение наших уважаемых модераторов, «реформы Петра Первого». Я расскажу те, интересные для меня, особенности ответов, которые я обнаружил. В целом это были гладкие, довольно уверенные, стандартные ответы. Немножко, может быть, абстрактные, но абстрактность ответа на вопрос о тенденциях развития права можно объяснить абстрактностью самого запроса. Но что касается реформ Петра Первого, может быть, тоже можно было конкретизировать запрос и получить какие-то более детализированные, какие-то более фактологичные ответы.
То, что меня заинтересовало, три момента отмечу. Первый момент, тот, о котором уже сегодня говорилось, это, назовем условно так, фантазматические следы в ответах нейросети. То есть какие-то неточности и искажения, которые на самом деле не всегда легко объяснить. Потому что, насколько я понимаю, нейросеть не обладает воображением как таковым, она же все-таки комбинирует какие-то более или менее известные в культуре элементы. Иногда эти неточности можно объяснить, допустим, неудачной формулировкой. Например, в одном из пунктов про реформы Петра I нейросеть написала так: «Частью реформ было принятие законов, установление прокуратуры и судов». Допустим, установление прокуратуры, как мы знаем, это действительно заслуга Петра I, но установление судов, мягко говоря, нет, потому что нет такого, что до Петра I судов не было, а при Петре I они появились. То есть, вероятно, что-то другое тут имеется в виду, но просто несовершенство языковой формы изложения. Но дальше там был момент, который меня просто удивил, и я до сих пор не знаю, что имелось в виду, оставлю открытым вопрос. Может быть, у кого-то из вас будет гипотеза, что происходит и что она имеет в виду? Потому что в пункте о военной реформе она написала следующее: «Были созданы новые воинские формирования, военно-морской флот, регулярная армия и, внимание, рыцарские ордена». Я не стал специально гуглить, положился на свою память, мне очень сильно сдается, что, наверное, Петр I не основывал рыцарские ордена. Да, то есть здесь надо расшифровывать, что имеется в виду.
Вторая особенность, уже, на мой взгляд, более концептуальная, это то, что у нейросети обнаружились проблемы с причинно-следственными связями. То есть она сплошь и рядом меняет причину и следствие местами и, например, считает причиной событий то, что произошло на самом деле после этих событий. Например, в качестве одной из основных тенденций развития права нейросеть выделяет глобализацию, что естественно. И пишет так: «Глобализация привела к развитию международного права, появлению международных организаций, в том числе ООН». Но вообще, как правило, считается, что глобализация началась немножко позже, чем возникла ООН. И это не единичный случай. Например, развитие гуманизма как одна из тенденций развития права, по мнению нейросети, развитие гуманизма было обусловлено тем, что произошло признание права человека на жизнь и достоинство. Но, опять же, можно высказать смелую догадку, что, видимо, наоборот, что, видимо, развитие гуманизма было причиной того, что было закреплено право на жизнь и развитие достоинства, а не наоборот. Или, например, по поводу того же Петра Первого, такая формулировка бросилась в глаза: «Налоговая реформа, основанная на увеличении доходов государства». Но конструкция А основана на Б, видимо предполагает, что Б была раньше. Потому что нельзя же, чтобы что-то было основано на чем-то будущем. Видимо, здесь-то имеется в виду, что она была направлена на увеличение доходов государства. Или увеличение доходов государства было основано на налоговой реформе. Здесь перевернуто все. Есть у меня гипотеза, почему так происходит.
И последний любопытный момент, это, кстати, тоже неожиданно для меня, и опять вопрос к тем, кто лучше разбирается в матчасти. Оказывается, у нейросети есть мировоззренческие пресуппозиции, то есть установки, на которые она опирается. Может ли такое быть? Может ли ннйросеть иметь свои собственные скрытые установки, которыми она руководствуется? С некоторым удивлением я обнаружил очень ярко выраженный европоцентризм у нейросети. Например, в том же пункте про гуманизм, в том же пункте про глобализацию, которая сейчас уже под большим вопросом оказалась. Скорее мейнстрим-то русскоязычный не так безусловно продолжает настаивать на том, что идет глобализации. Но нет, ни про какой особый путь развития России нейросеть не знает, и особенно применительно к реформам Петра I настаивает на том, что реформы Петра I позволили приблизить Россию к европейскому уровню развития. То есть, что Россия отставала от Европы и нужно было каким-то образом Европу догонять, это по-прежнему с точки зрения нейросети не подлежит сомнению. Это какая-то очень глубинная ее убежденность. Что это отставание, оперирование устаревшими данными или что-то еще, пока вопрос открытый.
Таким образом, к каким выводом я прихожу? Историко- правовой нарратив нейросеть выстраивать может. Более того, она может его выстраивать на достаточно высоком уровне. Вот Софья как раз украла идею, больше всего нейросеть похожа на добросовестного студента уровнем чуть выше среднего. Вот такие гладкие, в целом грамотные тексты с некоторыми странными сомнительными фантазмами как раз обычно пишут студенты сами. Когда они компилируют, у них как бы все более точно, когда они пишут сами, у них проскальзывают вот эти непонятно откуда взявшиеся информационные сбои. Я это объясняю тем, что и студенты, и нейросети обладают одним общим свойством. Это свойством, как правило, невовлеченности в материал. Ну, то есть, как студентам, грубо говоря, все равно, в основном, какие там реформы сделал Петр Первый, какие тенденции в развитии права, глубоко все равно, они могут имитировать заинтересованность, но это не касается их лично.
(реплика из зала) — Обижаете студентов.
А? А ничего обидного в этом нет. А почему они обязаны? Они не обязаны. Никто не обязан вовлекаться в тот материал. Более того, невозможно вовлечься в весь материал, который они перерабатывают, учитывая количество, допустим, на юридическом факультете изучаемых отраслей права. Это не подлежит сомнению. Я говорю из своего опыта, тоже достаточно большой опыт работы со студентами, вовлечение студента по крайней мере на юрфаке в изучаемый материал — это патология. Или похожа нейросеть похожа на очень грамотного обывателя. То есть она рассуждает, в принципе, как средний обыватель с интеллектом чуть выше обычного. Потому что обычный нормальный обыватель, конечно, он не выстроит такую логическую систематизацию по пунктам, как это умеет делать нейросеть.
И остались два вопроса у меня открытыми. Первый вопрос. Все-таки откуда берутся мировоззренческие установки у нейросети? Она их сама вырабатывает? Или это установки тех, кто ей управляет? Или это вопрос отбора материала, которым она оперирует? Второй вопрос, самый главный. Какие же такие все-таки рыцарские ордена основал Петр I?