ChatGPT
GPT (Generative Pre-trained Transformer )기반 생성적 사전학습 변환기
1. 한계점
•아주 당당한 거짓말
•무의미한 답변 (hallucination)
•허무맹랑한 답변을 내놓는 경우 (환각)
-> 가장 확실한 해결 방법은 사용자의 판별력
•샘플링의 정보의 체계적 편향
-> 대규모 언어 모델은 언어의 통계적 샘플링을 통해 데이터 축적하는 과정에서 영어를 기반으로 훈련이 됨, 때문에 영국과 미국의 관점을 진실로 파악하고 있음
•이데올로기나 언어적 편향을 나타낼 수 있음
-> 다국적 언어 시스템이지만 영어로 묻고 답변하는 것이 정보의 양이나 질적 측면에서 더 유리함
•표절의 우려, 허구의 글을 신뢰하고 사용할 우려
-> 학술 표절이나 표절에 대응하기위해 텍스트 생성 시스템을 디지털 워터마크 도구를 개발하고 있다
ChatGPT
GPT (Generative Pre-trained Transformer )기반 생성적 사전학습 변환기
1. 한계점
•아주 당당한 거짓말
•무의미한 답변 (hallucination)