챗GPT의 거짓말, ‘환각’으로 부르는 게 맞나

•‘챗GPT’가 출시된 이후 생성형 인공지능의 대표적인 문제로 지목된 '환각'. 그런데 '환각'보다 ‘헛소리(bullshit)’라는 용어가 더 정확하다는 주장이 나옴

🥴환각(hallucination)
•사전적 정의: 실제처럼 보이지만 실제로는 존재하지 않는 것
•AI 기술계의 정의: A챗봇이 거짓 정보를 마치 사실인 양 답하는 것
•챗GPT에 지속적으로 나타나는 문제

🤖문제 제기
•인물에 대한 설명이나 출처를 거짓으로 말하는 것을 환각이라 말할 수 있나?
-영국 글래스고우대학 연구진이 제기
-챗GPT는 진실에 대해 무관심하고 누군가를 속이려는 의도조차 없으니 '환각'이 아니라는 것

👣환각이란 용어의 함정
•챗GPT가 스스로 의도한 적 없다는 의미 담아 면죄부 주는 용어
•기술 옹호자들이 헛소리 능력을 과대평가하게 만듦
•실제 문제의 심각성과 본질을 정확히 전달하지 못함

🤔연구진의 제안
•환각보다는 헛소리(bullshit)로 부라는 게 적합
-헛소리의 사전적 정의 : 바보같거나 거짓인 말이나 생각
-시스템의 행동을 예측, 논의할 수 있는 더 유용하고 정확한 방법
•AI의 답변을 의심하고 회의하는 건강한 회의주의 필요