Историк Юваль Харари предупредил о появлении алгоритмов-расистов
Историк Юваль Харари из Израиля рассказал, что в ближайшее время может появиться большое количество алгоритмов-расистов. По его словам, программные составляющие многих современных приложений, оценивающих поведение людей, являются предвзятыми.
По словам Харари, алгоритмы должны адаптироваться ко многим факторам. Кроме того, их создатели при желании могут вложить в программу любые ограничения. Ничто не мешает разработчику сделать утилиту не доступной для женщин, геев или афроамериканцев.
В качестве примера Харари привел алгоритм просчета снижения неплатежей по кредитам. Он идентифицирует документ и фото человека, после чего определяет его расовую принадлежность. Специалисты считают, что представители определенных этнических групп реже других возвращают кредиты. Распространение таких программ приведет к появлению алгоритмов-расистов.
«Программы, которые многие из нас используют в быту, функционируют на основе предубеждений своих разработчиков. Особенно это касается так называемого искусственного интеллекта, который обрабатывает последовательность действий человека и реагирует на них. Разработчики часто руководствуются лишь собственными мыслями и связью активности с побуждениями. Из-за этого AI функционируют не адаптивно», - рассказал историк.
По словам Харари, алгоритмы должны адаптироваться ко многим факторам. Кроме того, их создатели при желании могут вложить в программу любые ограничения. Ничто не мешает разработчику сделать утилиту не доступной для женщин, геев или афроамериканцев.
В качестве примера Харари привел алгоритм просчета снижения неплатежей по кредитам. Он идентифицирует документ и фото человека, после чего определяет его расовую принадлежность. Специалисты считают, что представители определенных этнических групп реже других возвращают кредиты. Распространение таких программ приведет к появлению алгоритмов-расистов.