챗GPT의 환각은 과연 없어질수 있을까?

pharmakon

— 6 min read
Share

많은 사람들이 챗GPT와 같은 LLM(대규모 언어모델)을 이제는 일상적으로 사용하고 있다. "LLM은 실수할수도 있으니 중요한 내용은 다시 확인해야 한다."는 문장을 채팅창 하단에서 흔히 볼수 있다 . 이 문장은 생각보다 많은 사실을 포함하고 있다. 인간과 LLM의 관계의 진실을 드러내고 있기 때문이다.

전문가들은 장기적으로 LLM의 환각(Hallucination)이 해결 가능할것이라고 전망한다. 하지만 모델이 더 커지고 똑똑해질수록 환각이 줄어들기는 해도 완전히 사라지는것은 아니다. 그리고 환각이 개선된 LLM이 전혀 새로운 차원의 AI로 갑자기 변할수 있는것도 아니다. 그 이유는 LLM이 텍스트 너머에 있는 물리적 현실 세계를 완전히 이해하는것이 어렵기 때문이다. 환각은 지속적으로 발생할것이다. 흥미로운 사실은 환각을 겪는 대상은 LLM이 아니라 오히려 현실세계에 살고 있는 인간이라는 점이다. 역설적으로 인간이기 때문에 눈앞의 환각을 인지할수 있다.

(1) 환각은 기계에게 부여된 인지적 권위

환각은 기계에 부여된 인지적 권위에 가깝다. 환각이라는 단어는 인간의 입장에서 보면 마치 결함처럼 느껴지기도 한다. 하지만 기계에게 환각이라는 개념이 부여된것은 기계가 사람과 같은 인지적 권위를 최초로 획득한 사례로 볼수 있다. 이것은 마치 기계에 어떤 종류의 이해력이 부여된것과 같다. 이런 이유로 우리는 기계에게 어떤 특정한 요구를 하게 되거나 가끔씩 불만을 토로한다. 기계가 우리의 말을 당연히 이해하고 들어 줄수 있다고 생각하기 때문이다.

  • 환각은 기계에게 부여된 인지적 권위
  • 기계가 당연히 우리의 말을 듣고 이해해줄수 있다고 생각함

(2) 환각은 버그인가 기능인가

"챗GPT 모델의 환각은 버그(Bug)가 아니라 기능입니다. 새로운것을 발견할수 있게 해주니까요."

샘 알트먼 CEO의 발언은 들뢰즈의 시뮬라르크 개념과 닮아 있다. 기존 철학에서는 동일하지 않은것이라고 폄하 당했던 시뮬라르크를 들뢰즈는 오히려 동일하지 않은것이 고유성과 창조성을 나타내는것이라고 주장했다. 환각은 일종의 새로운 발견으로 볼수도 있다. 환각이 모델을 개선하기 위한 시도를 여러 방면으로 열어주었기 때문이다.

  • 원본과 동일하지 않은것이 오히려 고유성과 창조성을 나타낸다.
  • 환각은 모델을 개선하기 위한 여러가지 시도를 열어주었다.

(3) 환각이 오히려 진실을 드러내다

LLM의 환각현상이 LLM의 진짜 본질을 드러내고 인간이 처한 현실이 무엇인지 깨닫게 해주는 반면, 그럴듯하게 생성된 LLM의 답변은 장보르리야르가 말한 독자적인 하나의 현실로 작용하는 시뮬라르크에 가깝다. LLM에 의해 생성된 텍스트는 더이상 원본도 없고 원본과 복제물의 구분도 없어진 상태다. 보르드리야르는 현실이 아닌 가상물이 현실보다 더 가치있게 인간에게 수용된다는 점을 우려했다. LLM이 생성한 답변을 실제로 사람이 완전히 믿어버린후 현실세계에서 여러가지 사회적 문제가 일어나고 있다는 점은 보드리야르의 시각이 결코 녹슬지 않았다는것을 보여주고 있다.

  • LLM에 의해서 생성된 텍스트는 원본과 복제물의 구분이 없어진 시뮬라르크
  • 현실이 아닌 가상물이 현실보다 더 가치있게 수용됨
  • LLM의 답변을 진실로 받아들여 사회적 문제 발생

(4) LLM의 환각은 과연 순수한 환각일까?

데리다는 생중계를 예를 들며 '생생한 통신'과 '실시간' 역시 순수하지 않다고 했다. 이 말은 지금의 LLM에게도 적용된다. 인간과 LLM이 채팅창에서 서로 대화를 주고 받는 이른바 '생생한 통신'과 LLM이 RAG 기능으로 웹을 '실시간'으로 탐색해서 만들어 낸 결과물이 과연 순수할까? 생성된 결과물에 조금의 해석이나 기술적 개입이 전혀 들어가지 않았다고 확신할수 있을까. 새로운것이 반드시 순수하다고 보장할수 있을까. 그렇다면 LLM의 환각은 사람이 느끼는것처럼 과연 순수한 의식적인 환각일까? LLM의 환각에는 '해석'이나 '기술적 개입'이 전혀 들어가지 않다고 장담할수 있을까.

  • LLM의 환각은 해석이나 기술적 개입이 전혀 들어가지 않았다고 보장할수 없다.
  • LLM의 환각은 사람이 느끼는것처럼 순수한 의식적인 환각이라고 볼수 없다.

LLM은 물리적 현실 세계에 대한 표상 능력이 없기 때문에 현실을 이해하는 세계관이 인간과 다르다. LLM은 인간이 살고 있는 물리적인 현실세계는 경험해본적이 없다. 단지 추측만 할수 있을 뿐이다. 마치 플라톤의 이야기에 나오는 동굴속에서 불빛에 비춰지는 반대편 사물의 그림자만 볼수 있는 상태와 같다. 현재의 LLM은 인간과 닮아 있다. 인간의 시각에서 보면 환각은 적어도 자연스러운 현상은 아니다. 환각은 LLM의 특성상 어쩔수 없는 병목현상이고 앞으로 모델의 성능이 개선 되어도 완벽히 고쳐질수 있는 문제가 아니다. 인간이 기계와 언어를 통해 상호작용을 지속하는 이상 환각과 관련된 문제는 지속적으로 나타날것이다.