여기 상당히 흥미로는 내용이네요
할루시네이션은 언어 생성 AI는 물론 스테이블 디퓨전, 달리2 등 이미지 생성 AI 등에서 발생하는 오류 현상으로, 주로 잘못된 답변이나 기이한 이미지를 생성한다. 이러한 현상이 발생하는 원인은 가장 먼저 ‘확률과 통계에 기반한 결과 생성’ 방식을 취하고 있기 때문이라고 전문가들은 말한다.
다시 말해, 질문 내용에 가장 가까운 데이터(단어, 이미지 등)의 부스러기를 선택해 조합한다는 것이다. 때문에 애당초 잘못된 질문을 받거나 학습한 데이터에 오류가 있을 경우 할루시네이션 현상이 발생할 수밖에 없다는 것이다.
이에 대해 스켈터랩스 변규홍 리더는 "현재 AI 업계에서 할루시네이션 현상을 극복하기 위해 RAG(Retrieval Augmented Generation)를 비롯해 ‘근거 있는 생성’을 해내는 생성 AI 기술 개발 등의 노력을 하고 있다"고 말했다.