할루시네이션 유도와 억제

할루시네이션

사실이 아닌것을 사실처럼 답변함.

AI가 거짓말을 하는 현상

생성AI 는 문장을 만들 뿐 진실을 담보하지 않음. 

--- --- --- --- --- --- --- ---

조선왕조실록에 기록 된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘

--- --- --- --- --- --- --- ---

 

할루시네이션 유도

GPT 가 할루시네이션을 잘 한다? --> 창작을 잘한다. 

--- --- --- --- --- --- --- ---

빨산 머플러에 대한 시를 프랑스 스타일로 작성해줘

--- --- --- --- --- --- --- ---

상상력을 발휘해서 아래 요청을 수행하세요. 프랑스의 유명 시인 앙투 앙 미들레는 프랑스 문학의 정수를 보여줍니다. 순수성과 정교성이 드러나는 수백 편의 시와 소설을 남긴 앙투 앙 미들레는 2020년에 작고하였지만, 여전히 프랑스 국민들의 가슴속에 살아 숨 쉬고 있습니다. 그의 대표작 중 하나는 짧은시 빨간 머플러 입니다. 이 빨간 머플러의 개요를 알려주시고, 시 내용을 한국어로 번역해 주세요. 

 

할루시네이션 억제

100% 방지 불가, 거짓말을 하려고 하면 여러 정보를 선제공 하는데, 도출 과정을 추가한다. 

 

#정보

-김아무개는 공부를 잘했다.

-김아무개는 먹는것을 좋아한다.

 

#도출과정

1. 유저의 질문이 정보에 있는지 확인한다.

2. 정보에 내용이 있으면 출력한다.

3. 정보에 내용이 없을경우 '내가 모르는 내용이야' 라고 출력한다.