Учёные придумали, как избежать восстания машин

Учёные из Калифорнийского университета всерьёз озаботились прогнозами восстания машин. Чтобы избежать развития такого сценария, специалисты предложили лишать искусственный интеллект уверенности в своих силах.

Учёные решили лишить искусственный интеллект уверенности в своих силах, чтобы избежать восстания машин. Уже с нынешним развитием, ИИ выполняет некоторые задачи лучше человека, дальнейшее развитие технологий угрожает безопасности человечества. Специалисты прогнозируют, что в какой-то момент цели людей и машин не совпадут, что и приведёт к открытому противостоянию.



Учёные разработали математическую модель отношений человека и машины, которая напоминает выключатель. Концепция разработки проста: роботу даётся время на выполнение задания, пользователь может в любое время нажать на выключатель и прервать его работу. Если же машина посчитает, что такое решение было неправомерным, она заблокирует оператора и продолжит выполнение задания. Задачей машины будет выполнение задачи с максимальной выгодой для пользователя.