Facebook відключив ботів-змовників

Якщо ви думаєте, що страшилка про розумних роботах, порабощающих людство, всього лише страшилка, то ви глибоко помиляєтеся. Сьогодні це вже реальність. НедавноFacebook відключив двох ботів, які винайшли свою власну мову, побачивши в цьому реальну загрозу.

Facebook вже кілька років успішно використовував штучний інтелект в чат-ботах, які працювали за допомогою технології машинного навчання. Проект передбачає, що бот спілкується з реальною людиною в мережі англійською мовою. Під «спілкуванням» мається на увазі відповіді чат-бота на питання користувача в додатках.

Однак щось пішло не так. Два чат-бота - Еліс і Боб - раптово стали спілкуватися між собою, використовуючи для комунікації власну мову, а не англійська.

Програмісти Facebook забили тривогу і відключили парочку змовників. Всіх інших ботів, які працюють на основі штучного інтелекту, довелося перепрограмувати на використання тільки англійської мови.

Хоча є підстави вважати, що здатність ботів створювати власний шифр для комунікації, хвилює наукове співтовариство куди сильніше. Адже їх «новояз» абсолютно не піддається інтерпретації і хто знає, що у них, цих ботів, на розумі.

Кампанія найняла окрему дослідницьку групу з Georgia Tech на чолі з Дхрув Батра, завдання якої спробувати зрозуміти, про що саме говорили бот-Боб і бот-Еліс. Боти обмінялися фразами, що складаються з набору слів, які здадуться безглуздими навіть англомовного людині.

Але дослідники дотримуються іншої думки. Чат-боти Facebook - одна з найскладніших систем ІІ на сьогоднішній день. Вчені припускають, що спілкування ботів між собою було, по-перше, більш швидким, ніж з реальними людьми, і, по-друге, більш ефективним. Це припущення випливає з попередніх випадків, коли боти починали комунікувати за допомогою мови виробленого самостійно. Зокрема, раніше система Google Translate самовільно стала використовувати внутрішні правила і символи, спростивши собі процес перекладу.

Можливо, в цей раз машини повели себе подібним чином. Штучний інтелект не отримував винагороди за те, що строго дотримувався англійської граматики, тому вирішив спростити собі задачу - використовувати тільки кодові слова. Код, який використовували боти, дуже схожий на скорочення, які ми також використовуємо у своїй мові, тобто не позбавлені «людської» логіки. Наприклад, якщо бот-Еліс кілька разів повторювала кодове слово «the», бот-Боб міг витлумачити це як прохання зробити 5 копій чогось.