Компания MIT создала первого ИИ-«психопата» в истории
После киборгов-собак от Boston Dynamics, открывающих двери, чипов эмпатии Omron Automation для роботов компания MIT Media Lab создала робота - «психопата» - искусственный интеллект Норман (названным в честь Нормана Бейтса, убийцы психолога Альфреда Хичкока).
Команда сотрудников MIT взяла обычный ИИ с изображениями (предназначенный для просмотра изображений и предоставления письменного описания того, что он видит) и накормила его постоянным потоком изображений с неназванной платы Reddit, где люди исключительно постят ужасающие, болезненные образы убийства и смерти.
После этого команда показала этот ИИ (теперь называемый Норман) серию чернильных пятен Роршаха, которые используют психиатры и психоаналитики, чтобы судить о психическом состоянии пациента. Затем команда сравнила подписи Нормана с «нормальным» ИИ, который не был травмирован изображениями смерти и обнаружили довольно тревожную картину.
Например, Норман назвал одну чернильную кляксу «человек убит пулеметом средь бела дня», в то время как другой ИИ назвал одно и то же изображение «черно-белой фотографией бейсбольной перчатки». Красочная чернильница, которая похожа на «черно-белое фото красного и белого зонтика» - именно так интерпретировал пятно Роршаха «нормальный» ИИ, от Нормана выглядит так: «человек получает электричество, пытаясь пересечь улицу».
Эксперимент того, что Норман, ничего, кроме ужасных образов не видит, показывает, как процесс машинного обучения ИИ может усвоить предубеждения и в конечном итоге привести к искаженным восприятиям мира.
Команда сотрудников MIT взяла обычный ИИ с изображениями (предназначенный для просмотра изображений и предоставления письменного описания того, что он видит) и накормила его постоянным потоком изображений с неназванной платы Reddit, где люди исключительно постят ужасающие, болезненные образы убийства и смерти.
После этого команда показала этот ИИ (теперь называемый Норман) серию чернильных пятен Роршаха, которые используют психиатры и психоаналитики, чтобы судить о психическом состоянии пациента. Затем команда сравнила подписи Нормана с «нормальным» ИИ, который не был травмирован изображениями смерти и обнаружили довольно тревожную картину.
Например, Норман назвал одну чернильную кляксу «человек убит пулеметом средь бела дня», в то время как другой ИИ назвал одно и то же изображение «черно-белой фотографией бейсбольной перчатки». Красочная чернильница, которая похожа на «черно-белое фото красного и белого зонтика» - именно так интерпретировал пятно Роршаха «нормальный» ИИ, от Нормана выглядит так: «человек получает электричество, пытаясь пересечь улицу».
Эксперимент того, что Норман, ничего, кроме ужасных образов не видит, показывает, как процесс машинного обучения ИИ может усвоить предубеждения и в конечном итоге привести к искаженным восприятиям мира.
