ИИ от инженеров Facebook научился обманывать и торговаться

Стало известно, что ИИ от инженеров Facebook научился обманывать и торговаться. Результаты проекта новой системы-бота были опубликованы в Сети.


Итак, разработчики новой программы, которая способна обманывать и торговаться, использовали во время обучения ИИ порядка 6 тысяч реальных диалогов людей, ведущих переговоры. Все эти данные были собраны с помощью онлайн-платформы Amazon Mechanical Turk.

ИИ проанализировав все разговоры смог обучиться не только успешно проводить переговоры, но и обманывать. Более того, бот способен имитировать интерес к предмету, который собеседнику на самом деле не нужен. Когда искусственный интеллект выигрывает преференции во время переговоров, он автоматически возвращает внимание к их объекту.

Разработчики полагают, что ИИ научился врать не в ходе анализа разговоров людей, по их мнению, вероятнее всего бот наткнулся на тактику совершенно случайно, в процессе самообучения.

Новый алгоритм в настоящее время еще недостаточно популярен, и требует финансирования. А чтобы работа с этим механизмом продвигалась быстрее, лаборатория Facebook открыла исходный код, и все итоги проведенной работы.