Крошечная разноцветная пятно может «свести с ума» систему Автопилот (видео)

Крихітна різнокольорова пляма може "звести з розуму" систему Автопілот (відео)

Комбинация цветов, способна «ослепить» систему Автопилот

/ Spiegel

Ученые из Института интеллектуальных систем Макса Планка установили, что систему автоматического управления автомобиля может «ослепить» определенная комбинация цветов, чем вызывает хаотическую реакцию искусственного интеллекта.

Магическое сочетание цветов делает объекты на дороге и вокруг невидимыми для системы Автопилот. Для того, чтобы “ослепить” электронику, достаточно, чтобы в объектив попала пятно площадью менее 1% от изображения.

“Ослепленный” автомобиль может выполнять непредсказуемые и неконтролируемые маневры, резко повернуть или затормозить, что, в свою очередь, может привести к аварии. Чтобы найти нужную комбинацию цветов группе ученых из Института интеллектуальных систем Макса

Планка понадобилось лишь несколько часов, после чего свое открытие они подтвердили экспериментально, надев нескольких мужчин в футболки с нанесенным на них изображением цветового пятна.

Обнаруженная уязвимость является поводом для беспокойства, поскольку с распространением беспилотного транспорта такая системная ошибка может стать инструментом для злоумышленников. Ученые обнародовали все данные своих исследований, чтобы о слабости знали разработчики софта, и уже работают над решением проблемы самостоятельно.