Недавно Google представила API для распознания объектов на видео. Разработчики выпустят приложения на базе инструмента, а пользователи придумают им практические применения: быстро искать нужный фрагмент на видео с камер наблюдения, найти момент с голом в записи футбольного матча, отследить запрещённый контент. Но учёным из Вашингтонского университета уже удалось обмануть технологию. Для этого в видео о животных некоторые кадры были заменены на фотографии автомобилей Audi. Инструментарий определил, что на ролике изображены машины, а не звери.

Ранее эта же команда исследователей “сломала” AI-платформу для распознания комментариев с нарушениями правил сайта. Система не смогла справиться с текстом с опечатками и лишними знаками препинания. Профессор Раджа Пувендран заявил, что системы машинного обучения пока что подвержены атакам, но работа над ними важна для распространения искусственного интеллекта.