- '국민포털' 이길 수 있을까…'네이버 vs 구글' AI 검색 승자는?
- 생성형 인공지능(AI)를 앞세운 포털 업계 기술 경쟁이 한창이다. 네이버는 생성형 AI 기술을 이용해 검색 품질을 끌어올렸고 구글도 자사 웹 브라우저에서 AI 챗봇을 손쉽게 이용할 수 있는 기능을 시범 도입해 점유율
Amikor ezt a cikket olvassuk, találkozunk egy olyan résszel, amelyben "felmerült a hallucináció (téveszme) problémája, így nem volt indokolt feltétel nélkül elhinni a tartalmát".
iClickart
Hallucináció
Amikor a keresőmotorok olyan információkat hoznak létre, amelyek valójában nem léteznek, vagy téves információkat jelenítenek meg.
Bár a generatív mesterséges intelligencia alapú keresőmotorok egyre nagyobb figyelmet kapnak, ezek a motorok szembesülnek a "hallucináció" nevű problémával.
Ez azt jelenti, hogy a keresőmotorok olyan információkat generálnak, amelyek valójában nem léteznek, vagy téves információkat jelenítenek meg.
Ez komoly probléma lehet, mivel félrevezető információkat nyújthat a felhasználóknak, és csökkentheti a keresési eredmények megbízhatóságát.
- A "keresési eredmények hallucinációjának" néhány konkrét példája
Kérdés: "Hol található Franciaország fővárosa?"
Hibás válasz: "Franciaország fővárosa Berlin." (A valódi főváros Párizs.)
Kérdés: "Van-e víz a Hold felszínén?"
Hibás válasz: "Igen, a Hold felszínén bőséges mennyiségű víz található." (Valójában nincs folyékony halmazállapotú víz a Hold felszínén.)
- Miért hallucinálnak a keresési eredmények?
A generatív mesterséges intelligencia alapú keresőmotorok hallucinációs problémáját számos tényező együttes hatása okozza.
Ha a betanítási adatok elfogultak, a keresőmotorok is elfogult információkat tükrözhetnek, és ezáltal helytelen eredményeket generálhatnak.
A generatív mesterséges intelligencia modellek nagyon összetett struktúrájúak, ezért a betanítási folyamat során könnyen előfordulhatnak hibák.
A jelenleg használt generatív mesterséges intelligencia alapú keresőmotorok értékelési mutatóit főként a felhasználói elégedettség és a kattintási arány határozza meg.
Ezek a mutatók azonban nem tükrözik az információk pontosságát, ezért gyakran nem képesek megfelelően értékelni a hallucinációs problémát.
A probléma megoldására számos megoldást keresnek, például a betanítási modellek struktúrájának fejlesztését, valamint olyan új értékelési mutatók kidolgozását, amelyek figyelembe veszik az információk pontosságát.
Valaki azt mondta, hogy a generatív mesterséges intelligencia alapú keresőmotorok "néha vakon hazudoznak", de ez a technológia még mindig kezdeti fázisban van, és hatalmas potenciállal rendelkezik.
De jelenleg még mindig szükség van arra, hogyellenőrizzük a kapott információk pontosságát, ezért bölcsen kell használni őket.
Hozzászólások0