LLM에 의해 불투명해지는 세계

물리적 현실세계에 존재하지 않는 또 다른 존재가 인간 대신 현실을 해석하고 판단하는 시대가 되고 있다. 최근에 사람들은 중요한 결정을 내리기전에 자신의 판단보다 LLM(대규모 언어모델) 의 답변을 더욱 신뢰하고 있다. 실제로 연구결과에 의하면 LLM이 내린 결정을 사람들은 70퍼센트 이상 그대로 현실에서 실행하는 모습을 보였다. 이렇게 되면 사람이 LLM를 사용하는것이 아니라 LLM이 사람을 현실세계의 에이전트로 활용하고 있다는 생각이 든다.

(1) 기술의 발전속도를 따라가지 못하는 인간

하이데거는 인간은 기술을 통해 전체 시스템에 편입된다고 말했다. 최근의 LLM 사용방식을 보면 인간이 직접 세계를 지향하거나 해석하는 일은 줄어들고 있다. 인간의 요청에 의해 LLM이 먼저 세계를 해석한다. 그리고 LLM이 선택지를 출력한다. 그중에서 인간이 선택 하는 방식이다. 하지만 이 방식은 부작용이 있다. 인간은 점점 많은 양의 텍스트를 읽거나 어려운 내용들을 멀리하게 된다. 과거에는 자신이 직접 꼼꼼하게 해석하고 검토했던 사람이라도 시간이 흐를수록 자신의 판단을 기계에게 조금씩 맡기게 된다. 그 이유는 해석과 검토에 소요되는 시간이 비효율적인것처럼 느껴지기 때문이다. 그렇게 느껴지는 이유는 사회의 기술 발전속도 때문이다. 기술은 빠르게 달리는데 인간의 생각 속도는 항상 제자리다. 인간은 속도와 시간의 격차를 메우기 위해 자신의 판단을 기계에게 일임하게 된다.

• 인간이 직접 검토하고 해석하는 시간은 점점 비효율적으로 느껴짐
• 인간은 속도와 시간의 격차를 메우기 위해 기계에게 판단을 맡김

(2) 막연한 개념의 위험성

인간은 사회속에서 타인과 정보를 교환하는 정보의 주체 역할로 존재했다. 하지만 LLM이라는 새로운 정보 주체의 등장으로 기존 관계에 변화가 생기고 있다. 인간은 지금까지 정보의 주체로 자리매김하고 있었지만 LLM의 등장은 능동적인 정보주체를 피동적으로 만들수 있는 가능성이 열린것이다. 현실이 이렇다보니 최근에는 "LLM이 발전할수록 인간의 가치가 점점 사라진다" 라는 말까지 나오며 두려움을 주고 있다. 하지만 이런 개념은 그 의미가 모호하며 측정이 아닌 추정에 기반하고 있다. LLM을 사용한다고 해서 어느날 갑자기 인간의 가치가 사라지는 것은 아니다. 막연한 개념은 사회적으로 통용되기 쉽고 사람들에게 무비판적으로 쉽게 받아들여지는 경향이 있다.

• 정보 주체들의 관계 변화가 시작됨
• 막연한 개념은 무비판적으로 수용되는 경향이 있음

(3) 도구에 의해 불투명해진 세계

인간이 현실을 직시하지 못하게 만드는 요인은 다름아닌 LLM 일지도 모른다. 세계를 향한 인간의 지향을 중간에서 도구가 가로막고 대신 해석하는 것에 비유할수 있다. 인간이 볼수 있는것은 불투명해진 세계뿐이다. 인간과 LLM의 대화는 겉보기에 매우 자연스러워 보인다. 하지만 실제 내부의 모습은 다르다. 인간이 채팅창에 입력한 질문은 인간의 고유한 생각으로 그 안에는 여러가지 의도가 들어있다. 하지만 LLM이 생성한 답변은 인간의 질문과 정확한 관련성이 있다고 보기 어렵다. LLM이 실제로 질문을 어떻게 이해했는지 인간이 확인할수 없기 때문이다. 그리고 생성한 답변이 완벽한 답변이라고 확신하지도 못한다. 이 과정 전체가 하나의 블랙박스로 되어 있다.

• LLM이 해석한 세계에서 인간이 볼수 있는것은 불투명해진 세계
• LLM과 인간의 대화는 블랙박스 내부에서 상호작용하는 관계

기술은 사회에 천천히 스며든다. 기술이 우리에게 당장 영향을 미쳐도 그 부작용에 대해서 충분히 생각하는 사람은 거의 없다. 마음속으로 불안감을 느끼더라도 일상적으로는 충격을 거의 인지하지 못하기 때문이다. 누구나 AI챗봇을 휴대하는 시대다. 사람들은 자신만의 사적인 공간에 LLM과 함께 머물고 싶어한다. 그곳은 누구의 방해도 받지 않는 공간이다. 사람들은 은밀한 사적 공간속에 고립되는것을 추구하면서도 끊임없이 LLM의 침입을 스스로 허용하는 이중적 구조에서 살고 있다.