pharmakon

AI 시대 진정한 위험은 무엇인가?

AI 시대가 본격적으로 시작되면서 위험이라는 개념이 다시 주목받고 있다. 지금 시대 위험의 개념은 재정의가 필요하다. 사실 모든 기술은 동전의 양면처럼 위험성을 가질수 밖에 없다. 하지만 최근 언급되고 있는 'AI 기술은 위험하다' 라는 말은 실체적 의미와 내용이 다소 모호해서 '너무 뛰어나서 위험하다'는 의미로 대중들에게 받아들여지기도 한다.

LLM에 의해 불투명해지는 세계

물리적 현실세계에 존재하지 않는 또 다른 존재가 인간 대신 현실을 해석하고 판단하는 시대가 되고 있다. 최근에 사람들은 중요한 결정을 내리기전에 자신의 판단보다 LLM(대규모 언어모델) 의 답변을 더욱 신뢰하고 있다. 실제로 연구결과에 의하면 LLM이 내린 결정을 사람들은 70퍼센트 이상 그대로 현실에서 실행하는 모습을 보였다. 이렇게 되면 사람이 LLM를 사용하는것이 아니라

LLM의 환각은 인간의 진실을 드러낸다

많은 사람들이 챗GPT와 같은 LLM(대규모 언어모델)을 이제는 일상적으로 사용하고 있다. "LLM은 실수할수도 있으니 중요한 내용은 다시 확인해야 한다."는 문장을 채팅창 하단에서 흔히 볼수 있다 . 이 문장은 생각보다 많은 사실을 포함하고 있다. 인간과 LLM의 관계의 진실을 드러내고 있기 때문이다. 전문가들은 장기적으로 LLM의 환각(Hallucination)이 해결