ИИ настолько «умный», насколько «умна» информация, которую ему дают, и мы видели недостатки того, что большая часть этой информации сканируется из интернета. Но что происходит, когда ИИ натыкается на статьи, которые намеренно являются фейковыми? Ну, больше того же самого.
Не секрет, что в Интернете полно ложной информации, которой может питаться ИИ. Например, много. Однако не вся эта ложная информация выдается за истинные факты. Такие публикации, как Лук специализируются на написании сатиры и намеренно нелепых фейковых статей. В День дурака интернет наводняется еще большим количеством такого контента, и это представляет проблему для ИИ.
Журналист Бен Блэк написал статью в День смеха в 2020 году о Кумбране, его городе в Южном Уэльсе, установившем мировой рекорд Гиннесса по количеству кольцевых развязок на квадратный километр. Позже в тот же день Бен добавил оговорку, чтобы пояснить, что история была шуткой, но это не помешало другому изданию подхватить ее как новостную статью. Несмотря на попытки удалить статью, она все еще доступна онлайн сегодня.
Перенесемся на пять лет вперед, в День смеха 2025 года, и Бен отправляется в Google, чтобы найти свою старую историю. И вот, он обнаруживает, что его шутка была выдана Google AI Overview за реальный факт, цитируя выдуманные расчеты выдуманного жителя города.
Очевидно, это представляет ряд чрезвычайно тревожных проблем. Как уже упоминалось, Бен добавил явный отказ от ответственности в статье, заявив, что это история на День дурака. Но этот отказ от ответственности так и не попал в публикацию, которая освещала оригинальную историю, и именно оттуда ИИ Google извлек информацию.
В этом конкретном примере нет ничего опасного, но он показывает, как легко можно обмануть ИИ, заставив его думать, что что-то является правдой. ИИ не способен понять разницу между правдивой историей и фейковой историей, представленной как правда ради шутки. Конечно, можно внести в черный список сатирические и пародийные сайты, но они никогда не получат их все, и это не учитывает, что настоящие издания веселятся в День дурака.
Вот что сказал Бен о ситуации:
Действительно страшно, что кто-то в Шотландии может загуглить «дороги в Уэльсе» и наткнуться на историю, которая просто не соответствует действительности. Это не опасная история, но она показывает, как легко распространяются фейковые новости, даже если они из надежного источника новостей. Хотя я изменил все в тот же день, это показывает, что в конечном итоге интернет может делать свое дело. Это просто безумие.
Еще в марте Центр цифровой журналистики Tow провел исследование, в ходе которого восемь популярных поисковых систем на основе искусственного интеллекта подверглись всесторонним испытаниям. В целом они обнаружили, что они ссылаются на неверные источники новостей более чем в 60% случаев. Самые злостные нарушители были «уверенно неправы» и «частично неправы», до колоссальных 76%. Некоторые ошибались в ошеломляющих 90% случаев, даже когда имели дело с изданиями, с которыми у них были формальные партнерские отношения.
Все это накладывается на то, что Google советует людям наносить клей на пиццу и фабрикует информацию о жизни людей. Независимо от того, сколько раз эти компании говорят, что эти ситуации — лишь малая часть результатов, мы не можем игнорировать тот факт, что они случаются.
Источник: TechSpot
