- '국민포털' 이길 수 있을까…'네이버 vs 구글' AI 검색 승자는?
- 생성형 인공지능(AI)를 앞세운 포털 업계 기술 경쟁이 한창이다. 네이버는 생성형 AI 기술을 이용해 검색 품질을 끌어올렸고 구글도 자사 웹 브라우저에서 AI 챗봇을 손쉽게 이용할 수 있는 기능을 시범 도입해 점유율
Ao ler este artigo, encontramos a passagem "O problema da alucinação (alucinação) foi levantado, tornando difícil confiar completamente nele".
iClickart
Alucinação
Fenômeno em que o mecanismo de pesquisa gera informações que na verdade não existem ou fornece informações incorretas.
Embora os mecanismos de pesquisa de IA generativa estejam recebendo muita atenção, esses mecanismos de pesquisa enfrentam o problema da "alucinação".
Isso se refere ao fenômeno em que o mecanismo de pesquisa gera informações que na verdade não existem ou fornece informações incorretas.
Pode ser considerado um problema grave que fornece informações enganosas aos usuários e reduz a confiabilidade dos resultados da pesquisa.
- Exemplos de casos reais de 'alucinação' nos resultados da pesquisa
Pergunta: "Qual é a capital da França?"
Resposta incorreta: "A capital da França é Berlim." (A capital real é Paris.)
Pergunta: "Existe água na superfície da lua?"
Resposta incorreta: "Sim, existe água abundante na superfície da lua." (Na verdade, não existe água líquida na superfície da lua.)
- Por que os resultados da pesquisa estão alucinando?
Acredita-se que o problema da alucinação dos mecanismos de pesquisa de IA generativa seja causado por uma combinação de vários fatores.
Se houver viés nos dados de treinamento, o mecanismo de pesquisa pode refletir essas informações tendenciosas e gerar resultados incorretos.
Os modelos de IA generativa têm uma estrutura muito complexa, tornando-os propensos a erros durante o processo de aprendizado.
Atualmente, os indicadores de desempenho dos mecanismos de pesquisa de IA generativa são baseados principalmente na satisfação do usuário e na taxa de cliques.
No entanto, esses indicadores não refletem a precisão das informações, portanto, muitas vezes não conseguem avaliar adequadamente o problema da alucinação.
Para resolver esse problema, estão sendo exploradas várias soluções, como melhorar a estrutura do modelo de aprendizado e desenvolver novos indicadores de desempenho que reflitam a precisão das informações.
Parafraseando alguém, os mecanismos de pesquisa de IA generativa, que "às vezes mentem sem piscar", ainda estão em estágio inicial de desenvolvimento, mas possuem um potencial tremendo.
No entanto, ainda é necessário um "processo de verificação para confirmar a precisão das informações", portanto, é necessário o uso inteligente.
Comentários0