웹사이트 생존력을 위한 최적화의 시작 - SEO NEWS
챗GPT는 왜 틀릴까… AI ‘환각’의 구조적 원인
생성형 AI가 사실과 다른 정보를 만들어내는 ‘환각(Hallucination)’ 현상은 단순 오류가 아니라 LLM의 확률적 문장 생성 구조에서 비롯된다. 최근에는 추론 모델과 RAG 기술이 결합하며 정확성이 크게 개선되고 있지만, AI는 여전히 사실 확인이 필요하다.
RAG 검색 증강 생성
LLM은 어떻게 작동하는가? AI가 문장을 만드는 매커니즘
LLM은 인간처럼 사고하는 것이 아니라, 다음에 올 단어를 확률적으로 계산해 문장을 생성한다. 방대한 텍스트 데이터를 학습해 토큰 간 패턴을 파악하고 가장 자연스러운 표현을 선택하는 구조다. 이러한 원리는 AI 검색, 챗봇, 생성형 AI의 핵심 기술 토대가 된다.
