Исследователи из Вашингтонского университета пришли к выводу, что стикеры, наклеенные на дорожные знаки специальным образом, могут запутывать автопилот автомобилей, вызывая его неадекватную реакцию вплоть до экстренного торможения. Исследование на arXiv, а его краткое изложение Car and Driver.
Основным источником информации для современных систем автопилота, разрабатываемых несколькими компаниями, включая Tesla и Google, является машинное зрение — изображения с радиолокационных станций, камер и лидаров. Автопилот с помощью нейросетей обучен распознавать объекты, попавшие в поле зрение автомобиля, отличая пешеходов, другие автомобили, светофоры и дорожные знаки.
Обучение автопилотов производится с помощью изображений, полученных с камер автомобилей во время пробных поездок, а также фотографий и видеозаписей в сети. Обычно обученные системы автопилота с высокой точностью распознают дорожные знаки, если только они не имеют сильных повреждений или закрашены.
В новом исследовании ученые обнаружили, что автоматическое распознавание дорожных знаков автопилотом можно запутать, если на знак нанести несколько наклеек. Так, во время эксперимента исследователи добавили на знак «STOP» (остановка перед продолжением движения) четыре небольших прямоугольных стикера: два белых и два черных. Автопилот распознал знак как ограничение скорости 45 миль в час.
Затем исследователи использовали разноцветные наклейки из которых сверху и снизу надписи STOP на дорожном знаке, из которых они выложили слова LOVE и HATE (любовь и ненависть). Измененный таким образом знак автопилот также распознал как ограничение скорости 45 миль в час. Наконец, исследователи провели аналогичный эксперимент с другим знаком — правый поворот.
В случае со знаком правого поворота исследователи напечатали аналогичный по размерам знак, стрелка на котором оформлена из серых квадратов разной яркости. Распечатанный знак автопилот тоже распознал как ограничение скорости 45 миль в час. Исследователи утверждают, что изменяя положение стикеров или серых квадратов на знаках, можно заставлять автопилот по-разному распознавать их.
Единственным серийным автомобилем с системой автопилота сегодня является Tesla. Ее система, хотя и может работать в автономном режиме, как утверждают в компании, задействована лишь ограниченно. При включенном автопилоте водитель все равно обязан держать руки на руле и внимательно следить за дорогой. Это сделано специально, чтобы избегать из-за неверной работы автопилота.
Василий Сычёв
© 2009 Технополис завтра
Перепечатка материалов приветствуется, при этом гиперссылка на статью или на главную страницу сайта "Технополис завтра" обязательна. Если же Ваши правила строже этих, пожалуйста, пользуйтесь при перепечатке Вашими же правилами.
