Ссылки на веб-форумы и доски обсуждений могут помочь пользователям найти ответы на более узкие вопросы, однако такой подход может привести к хаосу. Два года назад Google обновила свой поисковый интерфейс, сделав искусственный интеллект центральным элементом — при поиске информации Google часто предлагает "Обзор ИИ", что вызвало неоднозначные отзывы пользователей. Люди быстро заметили, что эту функцию можно использовать в корыстных целях, так как она не распознает сарказм и может ссылаться на сомнительные источники. Например, она сослалась на The Onion, когда рекомендовала кому-то съедать "один маленький камень в день", и использовала Reddit, чтобы посоветовать кому-то нанести клей на пиццу, чтобы сыр лучше держался. Хотя Обзоры ИИ от Google значительно улучшились, они, как и все, что работает на основе языковых моделей, склонны к "галлюцинациям". Недавний анализ New York Times показал, что Обзоры ИИ были точны в девяти случаях из десяти. Однако для компании, обрабатывающей триллионы запросов в год, такой уровень успеха означает, что сотни тысяч поисков каждую минуту выдают неточные результаты.

Конечно, не каждый запрос имеет однозначный ответ, и именно поэтому Google может захотеть привлекать мнения с веб-форумов, где люди обсуждают подобные вопросы — не зря многие пользователи добавляют "Reddit" в конец своих поисковых запросов в Google. "Для многих поисков люди все чаще ищут советы от других," объясняет Google. "Чтобы помочь вам найти наиболее полезные идеи для дальнейшего изучения, ИИ-ответы теперь будут включать предварительный просмотр мнений из публичных онлайн-дискуссий, социальных сетей и других первоисточников. Мы также добавляем больше контекста к этим ссылкам, например, имя создателя, ник или название сообщества, чтобы помочь вам решить, какие обсуждения вы хотите прочитать или в которых участвовать."

Однако теперь Google усложняет роль своих Обзоров ИИ. Должен ли Обзор ИИ отвечать на вопрос, или он должен предоставлять разнообразие источников, которые могут содержать искомую информацию? Разве это не просто обычный поиск в Google? По крайней мере, Google добавит больше контекста к тому, откуда берутся комментарии Обзора ИИ, что может помочь пользователям определить, получают ли они информацию из надежного источника. Это похоже на то, как ChatGPT или Claude иногда предоставляют ссылки, которые должны подтверждать их утверждения. Тем не менее, мы рекомендуем перепроверять, не "галлюцинирует" ли ИИ, подтверждая достоверность этих ссылок.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *