Многие системы искусственного интеллекта, разработанные для беспилотных автомобилей, столкнулись с проблемой распознавания лиц темнокожих пешеходов.
Это может привести к большому количеству ДТП с их участием.
![Искусственный Интеллект,автомобиль,негры ,Искусственный Интеллект,автомобиль,негры](https://img2.safereactor.cc/pics/post/Искусственный-Интеллект-автомобиль-негры-5060175.png)
Этот факт может поставить под угрозу жизнь и безопасность пешеходов с более темной кожей, став тревожным признаком того, как ИИ способен непреднамеренно воспроизводить предрассудки из мира людей.
Сотрудники Технологического института Джорджии (США) исследуют восемь моделей искусственного интеллекта, используемых в современных системах обнаружения объектов, каждая из которых обучалась по стандартному набору данных. Эти системы позволяют автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты. Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе их оценок по шкале Фитцпатрика — числовая шкала, обычно использующаяся для классификации цвета кожи человека, согласно которой существует шесть фототипов кожи (где I — самый светлый, VI — самый темный).
Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами с тремя самыми темными оттенками кожи. В среднем точность моделей снизилась на пять процентов при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи, даже когда исследователи учитывали такие переменные, как, например, время суток, когда была сделана фотография, или объекты, которые заслоняли пешехода.
![Искусственный Интеллект,автомобиль,негры ,Искусственный Интеллект,автомобиль,негры](https://img2.safereactor.cc/pics/post/Искусственный-Интеллект-автомобиль-негры-5060176.jpeg)
Cистема, позволяющая автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты.
Исследования, проведенные командой Georgia Tech, показывают, что при отсутствии адекватных мер, мы можем быть на пути к будущему, в котором мир с автономными автомобилями не так безопасен для людей с темным цветом кожи. Кроме того, алгоритм основывается только на тех данных, что присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет. К сожалению, отмечают ученые, зачастую в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.
В прошлом году сотрудники MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.