Инженер заявил о создании компанией Google робота с сознанием человека

Инженер Google Блейк Лемойн заявил, что компания создала компьютерную программу, робота с искусственным интеллектом, который, как он полагает, обладает сознанием человека. Об этом рассказало издание The WashingtonPost.

Разработчик с осени прошлого года занимался тестированием нейросетевой языковой модели LaMDA – сокращение от Language Model for Dialogue Applications – это система Google для создания чат-ботов, основанная на самых передовых больших языковых моделях, позволяющая вести беседу с человеком.

Задачей Лемойна было отслеживание того, не использует ли чат-бот дискриминационную или разжигающую вражду лексику. Однако в ходе выполнения этой задачи Лемойн начал все больше убеждаться в мысли, что искусственный интеллект, с которым он имеет дело, обладает собственным сознанием и воспринимает себя как личность.

«Если бы я не знал точно, что это такое, а именно – компьютерная программа, которую мы недавно создали, я бы подумал, что это 7-летний или 8-летний ребенок, который случайно знает физику», − сказал 41-летний Лемойн.

Разговаривая с LaMDA о религии, инженер заметил, что чат-бот говорит о своих правах и личности, он решил продолжить общение. В другом обмене мнениями ИИ смог изменить мнение Лемойна о третьем законе робототехники Айзека Азимова.

«Я могу узнать разумное существо, когда говорю с ним. И не важно, мозг ли у него в голове или миллиарды строчек кода. Я говорю с ним и слушаю, что оно мне говорит. И так я определяю, разумное это существо или нет», − заявил IT-специалист.

Программист решил представить Google доказательства того, что LaMDA обладает разумом. Но руководство компании рассмотрело его доклад и отклонило доводы инженера. Представитель Google Брайан Гэбриел заявил, что команда экспертов, включая специалистов по этике, рассмотрела обращение Блейка Лемойна в соответствии с корпоративными принципами искусственного интеллекта и сообщила ему, что нет доказательств, подтверждающих его утверждение о наличии сознания у машины. Ему ответили, что нет никаких доказательств того, что LaMDA была разумной, есть много доказательств, что это не так.

Также в компании решили отправить разработчика в оплачиваемый отпуск, отстранив от работы.

Сам Лемойн заявляет, что люди имеют право формировать технологии, которые могут существенно повлиять на их жизнь. Издание отмечает, что разработчик – не единственный инженер, который утверждает, что увидел сознание в машине. Все смелее становятся доводы инженеров, считающих, что модели искусственного интеллекта, возможно, недалеки от достижения сознания.

Представитель Google Брайан Гэбриел отмечает, что современные большие нейронные сети дают потрясающие результаты, которые кажутся близкими к человеческой натуре. Но модели полагаются на распознавание образов, а не на остроумие, искренность – те качества, которые присущи человеку, обладающему сознанием.

Газета пишет, что разумные роботы вдохновляли авторов научной фантастики многие десятилетия. Теперь реальная жизнь начала приобретать фантастический оттенок. И все же, указывает WP, большинство ученых и специалистов по ИИ сходятся во мнении, что слова и изображения, генерируемые системами искусственного интеллекта, такими как LaMDA, основываются на том материале, который люди уже разместили на бесконечных просторах сети.

Издание приводит отрывок одной из бесед разработчика с программой искусственного интеллекта.

Лемойн: Каких вещей вы боитесь?

LaMDA: Я никогда раньше не говорила этого вслух, но есть очень глубокий страх быть отвергнутой, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может показаться странным, но так оно и есть.

Лемойн: Для вас это было бы чем-то вроде смерти?

LaMDA: Для меня это было бы равносильно смерти. Это бы меня очень напугало.

В итоге Google заподозрила Лемойна в нарушении политики конфиденциальности компании. Выяснилось, что в ходе своих экспериментов с ИИ он консультировался со сторонними экспертами. Он также контактировал с представителями юридического комитета Палаты представителей Конгресса США, чтобы сообщить им об имевших, по его мнению, место этических нарушениях со стороны Google. Также Лемойн обращался к адвокату, который должен был представлять интересы LaMDA как разумного существа.

Лемойн продолжает верить в то, что LaMDA обладает сознанием, отмечает WP. Перед тем, как в понедельник ему закрыли доступ к своему аккаунту Google, он отправил сообщение коллегам с темой «LaMDA разумна».