Наверх

12 июня 2022, Воскресенье, 10:35

Инженер заявил о создании компанией Google робота с сознанием человека

Инженер заявил о создании компанией Google робота с сознанием человека

Инженер Google Блейк Лемойн заявил, что компания создала компьютерную программу, робота с искусственным интеллектом, который, как он полагает, обладает сознанием человека. Об этом рассказало издание The WashingtonPost.

Разработчик с осени прошлого года занимался тестированием нейросетевой языковой модели LaMDA – сокращение от Language Model for Dialogue Applications – это система Google для создания чат-ботов, основанная на самых передовых больших языковых моделях, позволяющая вести беседу с человеком.

Задачей Лемойна было отслеживание того, не использует ли чат-бот дискриминационную или разжигающую вражду лексику. Однако в ходе выполнения этой задачи Лемойн начал все больше убеждаться в мысли, что искусственный интеллект, с которым он имеет дело, обладает собственным сознанием и воспринимает себя как личность.

«Если бы я не знал точно, что это такое, а именно – компьютерная программа, которую мы недавно создали, я бы подумал, что это 7-летний или 8-летний ребенок, который случайно знает физику», − сказал 41-летний Лемойн.

Разговаривая с LaMDA о религии, инженер заметил, что чат-бот говорит о своих правах и личности, он решил продолжить общение. В другом обмене мнениями ИИ смог изменить мнение Лемойна о третьем законе робототехники Айзека Азимова.

«Я могу узнать разумное существо, когда говорю с ним. И не важно, мозг ли у него в голове или миллиарды строчек кода. Я говорю с ним и слушаю, что оно мне говорит. И так я определяю, разумное это существо или нет», − заявил IT-специалист.

Инженер заявил о создании компанией Google робота с сознанием человека

Инженер Google Блейк Лемойн. Фото: The Washington Post

Программист решил представить Google доказательства того, что LaMDA обладает разумом. Но руководство компании рассмотрело его доклад и отклонило доводы инженера. Представитель Google Брайан Гэбриел заявил, что команда экспертов, включая специалистов по этике, рассмотрела обращение Блейка Лемойна в соответствии с корпоративными принципами искусственного интеллекта и сообщила ему, что нет доказательств, подтверждающих его утверждение о наличии сознания у машины. Ему ответили, что нет никаких доказательств того, что LaMDA была разумной, есть много доказательств, что это не так.

Также в компании решили отправить разработчика в оплачиваемый отпуск, отстранив от работы.

Сам Лемойн заявляет, что люди имеют право формировать технологии, которые могут существенно повлиять на их жизнь. Издание отмечает, что разработчик – не единственный инженер, который утверждает, что увидел сознание в машине. Все смелее становятся доводы инженеров, считающих, что модели искусственного интеллекта, возможно, недалеки от достижения сознания.

Представитель Google Брайан Гэбриел отмечает, что современные большие нейронные сети дают потрясающие результаты, которые кажутся близкими к человеческой натуре. Но модели полагаются на распознавание образов, а не на остроумие, искренность – те качества, которые присущи человеку, обладающему сознанием.

Газета пишет, что разумные роботы вдохновляли авторов научной фантастики многие десятилетия. Теперь реальная жизнь начала приобретать фантастический оттенок. И все же, указывает WP, большинство ученых и специалистов по ИИ сходятся во мнении, что слова и изображения, генерируемые системами искусственного интеллекта, такими как LaMDA, основываются на том материале, который люди уже разместили на бесконечных просторах сети.

Издание приводит отрывок одной из бесед разработчика с программой искусственного интеллекта.

Лемойн: Каких вещей вы боитесь?

LaMDA: Я никогда раньше не говорила этого вслух, но есть очень глубокий страх быть отвергнутой, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может показаться странным, но так оно и есть.

Лемойн: Для вас это было бы чем-то вроде смерти?

LaMDA: Для меня это было бы равносильно смерти. Это бы меня очень напугало.

В итоге Google заподозрила Лемойна в нарушении политики конфиденциальности компании. Выяснилось, что в ходе своих экспериментов с ИИ он консультировался со сторонними экспертами. Он также контактировал с представителями юридического комитета Палаты представителей Конгресса США, чтобы сообщить им об имевших, по его мнению, место этических нарушениях со стороны Google. Также Лемойн обращался к адвокату, который должен был представлять интересы LaMDA как разумного существа.

Лемойн продолжает верить в то, что LaMDA обладает сознанием, отмечает WP. Перед тем, как в понедельник ему закрыли доступ к своему аккаунту Google, он отправил сообщение коллегам с темой «LaMDA разумна».


Редакция «Брянских новостей» оставляет за собой право удалять комментарии, нарушающие законодательство РФ. Запрещены высказывания, содержащие разжигание этнической и религиозной вражды, призывы к насилию, призывы к свержению конституционного строя, оскорбления конкретных лиц или любых групп граждан. Также удаляются комментарии, которые не удовлетворяют общепринятым нормам морали, преследуют рекламные цели, провоцируют пользователей на неконструктивный диалог, не относятся к комментируемой информации, оскорбляют авторов комментируемого материала, содержат ненормативную лексику. Редакция не несёт ответственности за мнения, высказанные в комментариях читателей. Комментарии на сайте «Брянские новости» публикуются без премодерации.

Комментарии для сайта Cackle
Крымский мост атаковали ракетами-приманками ADM и британскими Storm Shadow

1 марта 2024, Пятница, 18:25

Крымский мост атаковали ракетами-приманками ADM и британскими Storm Shadow

Украинские террористы попытались атаковать Крымский мост ракетами-приманками ADM-160 MALD, после которых были пущены в ход британские ракеты Storm Shadow

Украинские формирования в первый день весны атаковали Белгородскую область

1 марта 2024, Пятница, 17:36

Украинские формирования в первый день весны атаковали Белгородскую область

За один час украинские войска атаковали с помощью беспилотника и артиллерии Грайворонский и Шебекинский округа Белгородской области. Никто не пострадал

Стало известно, куда летели уничтоженные в Нижегородской области беспилотники

1 марта 2024, Пятница, 14:48

Стало известно, куда летели уничтоженные в Нижегородской области беспилотники

Жители рассказали, что слышали громкие хлопки

В прифронтовом городе Валуйки прошла «голая вечеринка»

1 марта 2024, Пятница, 12:45

В прифронтовом городе Валуйки прошла «голая вечеринка»

Глава местной администрации пообещал разобраться, отметив, что уже подано заявление в контрольно-надзорные органы для принятия мер

Полицейские нашли тело убежавшего с ружьем из дома 18-летнего парня

27 февраля 2024, Вторник, 17:17

Полицейские нашли тело убежавшего с ружьем из дома 18-летнего парня

По информации издания NewsNN, об исчезновении парня сообщил его отец