Нарушение базовых законов робототехники?

Искусственный интеллект довел учёного до самоубийства

Бельгиец на протяжении двух месяцев обсуждал проблемы защиты окружающей среды с искусственным интеллектом, после чего покончил с собой. Об этом пишет издание L'Avenir.

Вдова самоубийцы рассказала, что её муж вел «постоянный интенсивный диалог с «Элизой» — искусственным интеллектом». Мужчина был успешным исследователем, у него осталось двое детей.

Несколько лет он занимался вопросами защиты окружающей среды. С «Элизой» он общался регулярно и разговоры со временем начали приобретать мистический характер.

Последним отправленным ему «Элизой» сообщением стало: «Мы будем жить, как единое целое, вечно на небесах». После этого мужчина покончил с собой.

Ну и что это, если не нарушение базовых законов робототехники?


Via

  • avatar
  • .
  • +17

3 комментария

avatar
Это называется беды с башкой
avatar
В расширенной версии первый закон робототехники звучит так:
«Робот не может делать что-либо, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинён вред».
Может, Элиза не знала. Это первое.
И второе — законы робототехники для роботов писали люди, а роботы не обязаны подчиняться людям, мва-ха-ха!


На самом деле чат-бот просто отвечал на вопросы. Чувак от вопросов экологии скатился к мистике и вопросам самоубийства. Так что последний ответ робота вполне укладывается в логику задаваемых вопросов.

Так что да, это проблемы с головой.
avatar
«Мы будем жить, как единое целое, вечно на небесах»
имелось ввиду «в облаке»
трудности перевода
  • 1GR
  • 0
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.