ИИ может оказаться недостаточным для решения всех наших интернет-проблем
Недавно Google объявила, что включит ИИ в поиск, что облегчит вам поиск нужной информации без необходимости сначала продираться через кучу мусорных результатов поиска. Однако есть несколько причин, по которым это не сработает.
Видение Google будущего поиска основано на искусственном интеллекте
На Google I/O 2024 компания представила «Поиск в эпоху Gemini» — это ее способ сказать, что она интегрирует ИИ в Поиск. Этот шаг не был неожиданным, поскольку Google уже некоторое время играет с идеей поиска ИИ через Search Generative Experience.
На конференции Google продемонстрировала некоторые новые экспериментальные функции ИИ, такие как планирование в поиске, организованные ИИ страницы и поиск видео. Однако особенностью, которая затмила всех, стали обзоры ИИ.
Идея AI Overviews заключается в том, что вместо сканирования нескольких веб-страниц, чтобы собрать воедино необходимую вам информацию, Google будет гуглить за вас. Он вытащит самую важную информацию из верхних результатов Google и предоставит вам аккуратный обзор. Вы даже можете настроить представление этих ответов, чтобы сделать их более понятными или разбить их пошагово.
Поиск на основе искусственного интеллекта — стратегия Google по борьбе со спамом в Интернете
Одна из главных причин, по которой Google погружается в поиск на основе искусственного интеллекта, заключается в том, что компания видит в нем решение одной из своих давних проблем: интернет-спама.
На протяжении большей части своего существования Google находится в постоянной гонке с интернет-спамерами, которые постоянно пытаются обмануть систему, чтобы перенаправить часть интернет-трафика. Каждый раз, когда Google улучшает свои алгоритмы, эти спамеры находят новые способы их эксплуатации.
Однако в конце 2022 года что-то изменилось, что изменило баланс сил. Open AI представила свою генеративную модель ИИ ChatGPT и тем самым невольно передала ядерные коды этим интернет-спамерам, позволив им быстро и дешево штамповать статьи. Эти спам-статьи, возможно, не занимают высоких позиций, но они мутят воду, делая Google качественно худшим опытом для всех. Это также может объяснить, почему постоянное мнение о том, что «Google умирает», усилилось в последние месяцы.
Google надеется, что AI Search решит эту проблему, но у этого плана есть некоторые проблемы.
Проблема поиска на основе искусственного интеллекта в том, что он создает галлюцинации и подрывает доверие
Когда Google впервые объявила о запуске обзоров на основе ИИ, моей первой мыслью было: «Что они собираются делать с проблемой галлюцинаций?»
Оказывается, ответ был: не очень. Через некоторое время после анонса AI Overviews люди заметили, что одно из предложений в демонстрационном видео в ответ на вопрос о том, как починить сломанную пленочную камеру, скорее испортит все ваши фотографии, чем поможет решить проблему.
Но на этом все не закончилось. Вскоре после того, как обзоры ИИ начали выкладываться, люди заметили, что некоторые из его ответов были нелепыми или даже вредными. Например, он предлагал использовать бензин для приготовления спагетти и выпивать не менее 2 литров мочи в день.
Ну и что? Все знают, что не стоит верить всему, что видишь в интернете, да и другие чат-боты тоже выдумывают всякую ерунду, так почему же это так важно?
Вот в чем дело: галлюцинации ИИ в поиске поднимают проблему доверия. Одно дело, когда новый экспериментальный чат-бот ИИ время от времени лжет вам и фальсифицирует информацию. Совсем другое дело, когда Google делает это, потому что люди доверяют Google.
Google говорит, что он устранил странные результаты AI Overviews и ввел дополнительные меры безопасности, но я все еще настроен скептически. Некоторые эксперты даже считают, что галлюцинации не могут быть исправлены и являются фундаментальной частью LLM. Если это правда, мы можем вступить в эпоху Интернета, когда вы действительно не сможете доверять ничему в сети, даже своей поисковой системе.
Потеря нюансов с обзорами ИИ
Обзоры ИИ от Google не генерируют ответы, основанные только на данных обучения. Он также консультируется с главными веб-страницами Google. Предполагается, что это поможет избежать галлюцинаций, но также поднимает новую проблему контекста и нюансов.
Мы уже видели эту игру в вирусном запросе «Как предотвратить соскальзывание сыра с пиццы?», где ИИ предложил добавить клей в пиццу. Он взял этот ответ из поста Reddit 11-летней давности, который любой мог бы легко проигнорировать как шутку или комментарий тролля, если бы рассматривал его в исходном контексте. Однако обзоры ИИ Google лишают его этого нюанса и представляют его как неопровержимый факт в той же авторитетной манере, в которой он предлагает другие варианты.
Другим примером является рекомендация ИИ съедать по крайней мере один небольшой камень в день. Опять же, обзоры ИИ Google вырвали эту информацию из источника — в данном случае из сатирической статьи Onion, лишив ее контекста и представив как неопровержимый факт.
Это очевидные промахи, и их легко отмести как безобидные. Но что произойдет в следующий раз, когда AI Overviews тонко истолкует что-то важное, что не так-то просто заметить?
Обзоры ИИ могут убить открытый Интернет
Обзоры ИИ угрожают всей бизнес-структуре Интернета. Веб-сайты полагаются на доход от рекламы, чтобы получать прибыль, а этот доход от рекламы зависит от трафика. Поэтому у веб-сайтов есть стимул создавать отличный контент, который удерживает людей, посещающих сайт.
Обзоры ИИ вносят разлад в эту структуру, когда они извлекают информацию напрямую с веб-сайтов. Теперь вам не нужно посещать веб-сайт, тем самым сокращая его трафик и доход от рекламы. Естественным развитием событий может стать то, что веб-сайты будут вынуждены закрывать свой контент за платными экранами, чтобы оставаться в бизнесе.
Google утверждает, что ссылки в обзорах AI получают больше кликов, чем традиционные списки, но они не предоставили данных, подтверждающих это. Это также кажется маловероятным, учитывая, что эти ссылки зарыты в самом низу результатов обзора AI. Даже если это верно для страниц с низким рейтингом, трудно поверить в то, что они окажутся в верхних результатах.
Если контент будет заблокирован платными доступами, чтобы выжить, что произойдет с Интернетом? Некоторые говорят, что это может привести к теории мертвого Интернета, где все, что останется от открытой сети, — это куча LLM, бесконечно перерабатывающих контент друг друга, пока Интернет не превратится в неузнаваемую мешанину из предсказаний слов.
В конце концов, люди хотят человеческого опыта и контента.
У Google хорошие намерения с AI Overviews. Проблема, однако, в том, что они в корне не понимают, чего люди хотят от поиска: подлинности.
Люди устали от общего контента. Они хотят реального человеческого опыта, а не просто отрепетированных советов. Вот почему все больше людей ищут на Reddit мнения реальных людей, которые действительно разбираются в их проблемах.
Вместо большего количества искусственного интеллекта будущее поиска может быть лучше обеспечено алгоритмом, который поощряет аутентичный контент и реальный опыт.
