- '국민포털' 이길 수 있을까…'네이버 vs 구글' AI 검색 승자는?
- 생성형 인공지능(AI)를 앞세운 포털 업계 기술 경쟁이 한창이다. 네이버는 생성형 AI 기술을 이용해 검색 품질을 끌어올렸고 구글도 자사 웹 브라우저에서 AI 챗봇을 손쉽게 이용할 수 있는 기능을 시범 도입해 점유율
При чтении этой статьи встречается фраза «возникла проблема галлюцинаций (галлюцинаций), что ставит под сомнение полное доверие к ней».
iClickart
Галлюцинации
Явление, когда поисковая система генерирует информацию, которая на самом деле не существует, или предоставляет информацию, не соответствующую действительности.
Поисковые системы на основе генеративного ИИ привлекают к себе внимание, но эти поисковые системы сталкиваются с проблемой «галлюцинаций».
Это означает, что поисковая система генерирует информацию, которая на самом деле не существует, или предоставляет информацию, не соответствующую действительности.
Это можно считать серьезной проблемой, поскольку она может вводить пользователей в заблуждение и снижать достоверность результатов поиска.
- Примеры случаев «галлюцинаций» в результатах поиска
Вопрос: «Какая столица Франции?»
Неверный ответ: «Столица Франции – Берлин». (На самом деле столица – Париж.)
Вопрос: «Есть ли вода на поверхности Луны?»
Неверный ответ: «Да, на поверхности Луны есть большое количество воды». (На самом деле на поверхности Луны нет воды в жидком состоянии.)
- Почему результаты поиска «галлюцинируют»?
Известно, что проблема галлюцинаций поисковых систем на основе генеративного ИИ возникает из-за сочетания различных факторов.
Если в обучающих данных присутствует предвзятость, поисковая система может отражать эту предвзятость и генерировать неверные результаты.
Генеративные модели ИИ имеют очень сложную структуру, поэтому в процессе обучения легко возникают ошибки.
В настоящее время показатели оценки поисковых систем на основе генеративного ИИ в основном основаны на удовлетворенности пользователей или коэффициенте кликов.
Однако эти показатели не отражают точность информации, поэтому во многих случаях они не могут должным образом оценить проблему галлюцинаций.
Для решения этой проблемы разрабатываются различные методы, такие как улучшение структуры обучающей модели и разработка новых показателей оценки, отражающих точность информации.
По словам некоторых, поисковые системы на основе генеративного ИИ, которые «иногда лгут, не моргая», все еще находятся на начальной стадии развития, но обладают огромным потенциалом.
Однако, похоже, что на данном этапе «процесс проверки достоверности фактов» все же необходим, поэтому требуется разумное использование.
Комментарии0