Исследование показало, что автономные автомобили хуже распознают детей-пешеходов.
Research shows autonomous vehicles have difficulty recognizing child pedestrians.
Искусственный интеллект имеет печальную историю предубеждений, от систем распознавания лиц, неправильно определяющих чернокожих людей, до чат-ботов, восхищающихся Гитлером. В некоторых случаях результаты могут быть смертельными.
Этой неделей был выявлен один из таких случаев. Согласно новым исследованиям, используемые в исследованиях автономных транспортных средств системы обнаружения пешеходов имеют серьезные предубеждения по возрасту и расе.
Это исследование добавляет еще одно препятствие к внедрению беспилотных автомобилей. Оно также раскрывает тревожную возможность ухудшения безопасности на дорогах.
Данные результаты основаны на систематическом обзоре восьми популярных систем обнаружения пешеходов. Исследователи из Королевского колледжа Лондона (KCL) протестировали программное обеспечение на более чем 8000 изображений пешеходов.
Они обнаружили, что средняя точность обнаружения пешеходов была почти на 20% выше для взрослых, чем для детей. Системы также были точнее на 7,5% для светлокожих пешеходов, чем для темнокожих.
- Бюджетный Райан Рейнольдс’ ведет Bitcoin FC в большую лигу
- Первый в мире саммит по безопасности искусственного интеллекта прой...
- Google усиливает безопасность Gmail с помощью новой проверки подлин...
Эти расхождения являются результатом общей причины предубеждений искусственного интеллекта: непредставительных данных для обучения.
“Есть старая поговорка в инженерии и науке о данных: ‘Говно внутри, говно снаружи’. ИИ-системы должны быть обучены большим количеством данных для обучения, и недостатки этих данных неизбежно отражаются в ИИ”, – сказал доктор Джи Чжан, преподаватель компьютерных наук в KCL, журналу TNW.
“В этом случае открытые галереи изображений, используемые для обучения этих систем обнаружения пешеходов, не представляют всех пешеходов и сконцентрированы на светлокожих взрослых. С меньшим количеством данных для обучения ИИ становится менее точным при обнаружении недостаточно представленных групп”.
Еще одна проблема возникла в условиях освещения. При низком контрасте и низкой яркости предубеждения в отношении детей и темнокожих людей усиливались. Это указывает на то, что обе группы будут находиться в повышенной опасности во время ночного вождения.
Хотя производители автомобилей не публикуют подробности о своем программном обеспечении для обнаружения пешеходов, оно обычно основано на тех же открытых системах, используемых в исследовании. Поэтому Чжан уверен, что они сталкиваются с теми же проблемами.
Для снижения рисков он хочет большей прозрачности и более строгих регуляций в отношении систем обнаружения пешеходов.
“Разработчики должны начать с большей прозрачности в отношении того, как обучаются их системы обнаружения, а также их производительности, чтобы они могли быть измерены объективно – последствия отсутствия этого могут быть страшными”, – сказал он.
“Но помимо этого, производители должны работать над тем, чтобы их системы ИИ были справедливыми и представительными, и часть стимула для этого должна прийти от политиков и более строгого регулирования в области справедливости искусственного интеллекта”.
Вы можете прочитать исследовательскую статью здесь.
