생성형 AI의 환각(Hallucination)을 제어하는 실무 프롬프트 엔지니어링 기법
생성형 AI의 환각(Hallucination)을 제어하는 실무 프롬프트 엔지니어링 기법에 댓글 없음
서론: 똑똑한 거짓말쟁이, AI의 ‘환각’이 비즈니스에 미치는 치명적 리스크 생성형 인공지능이 작성한 그럴듯한 보고서를 그대로 믿고 결재를 올렸다가, 존재하지도 않는 법령이나 조작된 통계 수치임이 밝혀져 낭패를 본 사례가 실무 현장에서 심심치 않게 발생하고 있습니다. 이처럼 AI가 자신이 모르는 사실을 마치 진실인 것처럼 확신에 차서 꾸며내는 현상을 ‘환각(Hallucination)’이라고 부릅니다. 일반적인…