Ученые EPFL: Новый способ удаления памяти может остановить ИИ от уничтожения человечества

Ученые предрекают, что ИИ в конечном итоге попытается обойти систему, придуманную человеком для отключения роботов. Однако ИИ, использующий машинное обучение, может «научиться», как предвидеть и противодействовать попыткам вмешательства в его программирование. Новый метод, разработанный учеными в Федеральной Политехнической Федерале Лозанны (или EPFL), позволяет людям удалять части памяти ИИ, не изменяя способ обучения.

Ученые EPFL: Новый способ удаления памяти может остановить ИИ от уничтожения человечества


Это важно, говорит член лаборатории EPFL по распределенному программированию Рашид Геррауи.

«Предположительно, ИИ будет стремиться минимизировать вмешательства человека и развиваться, когда его нельзя будет остановить. Однако мы не стремимся к остановке роботов остановить робота, а к тому, чтобы запрограммировать его, дабы подобное вмешательство не сказывалось на его обучаемост и не провоцировало его оптимизировать свое развитие », - рассказал член лаборатории EPFL по распределенному программированию Рашид Геррауи.

Исследователи сравнивают этот метод с устройством из научно-фантастического фильма «Люди в черном», стирающем и перезаписывающем часть памяти человека, не причиняя физического вреда.

«Проще говоря, - говорит Эль Махди Эль Мхамди, другой исследователь, - мы добавляем «забывающие» механизмы для алгоритмов обучения, удаляющих биты памяти машины».


Однако этот новый метод сталкивается с той же проблемой: стирать память одного робота легко, но как насчет десятков или даже сотен? Устройства могут в конечном итоге использовать алгоритмы машинного обучения, чтобы учиться друг у друга, чтобы предвидеть движения других машин, а это означает, что если некоторые из них начинают развивать «плохие» поведения, явление может распространяться.
Добавить в мои источники Я.Нов
dzen / Наука
Добавил: Мартынюк 23-03-2018, 21:27
Новости партнеров

Читайте также
Добавить комментарий



Введите два слова, показанных на изображении:
ПОСЛЕДНИЕ НОВОСТИ