Talkative AI

질문이나 답변을 다시 요약할 필요는 없으며, 답변 끝에 다음 질문을 추천할 필요도 없습니다. 그리고 답변은 가급적 본질만 요약하여 두세 단락 정도로 끝냈으면 좋을 것 같습니다. 요즘 떠오르는 질문이 이른바 지피티의 환각 즉, Hallucination에 관한 것입니다. 예를 들어, 관절 보호대 회사를 추천해달라고 해서 답변을 받아보면 심지어 그런 회사가 존재하지도 않는 경우입니다. 답변이 그런 식으로 흘러가는 것에 어떤 이유가 있는지. ChatGPT의 말:GPT 모델이 환각(hallucination)을 일으키는 주된 이유는 정보 생성 방식에 있습니다. GPT는 입력된 문맥에 맞춰 가장 그럴듯한 단어와 문장을 예측하는 방식으로 작동합니다. 이 과정에서 실제로 존재하지 않는 정보도 문맥상 자연스럽고 일관되게 ..