Знаменитый канадский скрипач, лауреат премии Juno Award Эшли МакИсаак оказался пострадавшей стороной из-за неточности в работе системы Google. Показанная нейросетью компании сводка информации ошибочно указывала на его виновность в преступлении сексуального характера.
Суть и последствия ошибки
МакИсаак сообщил, что в сгенерированной информации говорилось о его будто бы состоявшемся осуждении за тяжкие преступления, включая нападение на женщину и попытку нападения на несовершеннолетнего. Нейросеть также ошибочно заявила, что он зарегистрирован как сексуальный преступник. Скрипач опроверг все эти данные как абсолютно ложные.
Позже выяснилось: искусственный интеллект некорректно скомпилировал данные о человеке с похожей фамилией из различных сетевых публикаций. Венди Мэнтон, представитель Google в Канаде, пояснила, что алгоритмы ИИ-обзоров платформы постоянно эволюционируют и адаптируются для предоставления наиболее релевантных сведений.
Итог инцидента и извлеченные уроки
Публикация недостоверных данных оказала прямое влияние: объединение коренных народов отменило запланированное выступление музыканта из-за окружавшей его неразберихи. Организация уже принесла Эшли МакИсааку извинения. Однако сам артист выразил серьезную обеспокоенность: появление схожих ложных данных при взаимодействии с пограничными службами теоретически могло бы привести к крайне неприятным последствиям, вплоть до задержания.
Этот случай ярко показывает важность совершенствования механизмов контроля и верификации данных ИИ-системами во избежание серьезных последствий ошибок.
Источник: naked-science.ru
