Вы находитесь:  / Интересное / Facebook отключил свои чат-боты: они начали общаться между собой на собственном языке

Facebook отключил свои чат-боты: они начали общаться между собой на собственном языке

бот

Компания Facebook отключила систему искусственного интеллекта после того, как программисты обнаружили, что боты стали общаться не на английском, а на собственном, непонятном людям языке.

Об этом сообщает International Business Times.

Сообщается, что система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой.

Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.

В Facebook отмечают, что это свидетельствует о том, что ИИ динамически генерирует свой собственный контекстный язык и способен понимать разговоры.

Отметим, что американские СМИ опубликовали отрывки из «диалогов», которые вели между собой боты.

Боб: Я могу могуЯЯ все остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня.

 

В свою очередь в издании Tech Times объясняют это тем, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

А издание Digital Journal считает, что системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную «пользу». В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

Отметим, что эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут более самостоятельными и смогут функционировать вне контроля IT-специалистов.

Недавно снователь SpaceX и Tesla Илон Маск заявил, что считает искусственный интеллект представляет собой «фундаментальный риск для человечества». По его словам, основная опасность исходит от внедрения технологий искусственного интеллекта в Интернет. В качестве примера основатель SpaceX и Tesla привел гипотетическую ситуацию, при которой искусственный интеллект сможет делать инвестиции в оборонную промышленность, а затем использовать взломы и распространение дезинформации, чтобы спровоцировать войну.

Источник

Комментарии

Ваш email не будет опубликован. ( Обязательные поля помечены )

Новый анекдот

Лавров: встречи Путина с Трампом не планируется.

Трамп: встреча с президентом РФ планируется, но не с Путиным.

Начали забастовку шахтеры урановых рудников

Начали забастовку шахтеры урановых рудников

На Кировоградщине добычу руды, а следовательно и выплату зарплаты, остановили три месяца назад. Руководство шахт утверждает, что работа шахт приостановлена…
Кремль по-прежнему пытается надеть на Украину ошейник

Кремль по-прежнему пытается надеть на Украину ошейник

Цели и задачи у Кремля прежние – ликвидация украинской независимости. Методы для этого тоже не изменились – возвращение подконтрольного Москве…