AI 시대 인간 신체 존엄성의 쇠퇴

Share

1991년 알프스 산맥의 빙하 지대 계곡의 얼음 속에서 발견된 미라는 무려 5300년전 태고 시절의 고대인으로 알려졌다. 미라로 변한 고대인이 가지고 있었던 소지품에는 불을 피우기 위한 부싯깃과 주머니칼, 로프가 있었다. 고대의 인간은 자신의 신체에 소지품을 결속하고 이동했다. 신체는 생존을 위한 일종의 운송 수단이었다. 인간의 신체는 과거부터 지금까지 가장 기초적인 운송 수단이다. 지게꾼, 보부상은 자신의 신체를 이용해서 물건을 이동시켰다. 또한 과거 인간의 신체는 정보를 운송하는 수단이었으며 정보의 주체로 존엄성을 지니고 있었다. 전화와 인터넷이 없었던 시절에는 저녁에 알게 된 새로운 소식이 마을 사람들에게 알려지기 위해서는 반드시 다음날 아침까지 기다리는 시간이 필요했다. 서로 연락할수 있는 수단이 거의 없었기 때문이다. 사람들이 날이 밝은 다음날 아침에 서로 만나서 대화를 해야 비로소 소식이 전파될수 있었다.

1.정신의 동력화

전화와 인터넷이 없던 시절에는 인간의 신체적 활동이 사회를 움직이는 동력이었다. 인간은 자신의 신체를 활용해서 많은 일을 수행했다. 집 밖으로 나가서 사람을 만나고 직접 발로 뛰어서 문제를 해결했다. 어떤 일을 시작하기 위해서는 반드시 집 밖으로 나가는것이 먼저였다. 집안에 머무르면 간단한 문제도 해결할수 없었다. 하지만 휴대전화와 인터넷이 인간의 삶에 점차 도입되면서 실시간으로 상호 작용하는 인간의 활동이 더 이상 실제공간에 귀속되지 않게 되었다. 코로나19 팬데믹 동안 사람들은 사무실 출근을 거의 하지 않았다. 대신 원격근무가 도입되었다. 점점 인간의 신체 활동보다 인간의 생각과 감정이 현실을 구성하는 주요 동력으로 변화되었다. 컴퓨테이션 시스템은 인간의 리드미컬한 신체 활동보다는 신경화 된 디지털 반응을 요구했다. 신체적 활동을 통해 자신의 의지를 전달할 수 없게 된 인간은 무기력감에 빠지게 되었고 마음속에는 욕구 불만과 상실감이 축적되었다. 인간의 신체적 가치는 점점 빛을 잃고 쇠퇴하고 있었다. 그리고 인간의 생각과 감정이 현실을 구성하는 새로운 동력으로 변화되고 있었다. 지금 시대의 인간의 정신은 마치 사이버네틱스의 동력으로 사용되는것 처럼 느껴진다. 공공장소나 지하철에 앉아있는 사람들이 모두 스마트폰의 스크린만 뜷어지게 쳐다보고 있는것은 낯설지 않은 풍경이다. LLM이 만든 온라인의 대화 공간은 현실세계를 설명하는 역할에 그치지 않고 현실을 보충하는 영역으로 확장하고 있다. 과거 온라인 공간은 다소 허무맹랑한 곳에서 일어나는 이야기처럼 들렸다. 하지만 현재의 온라인은 현실과 영합하며 새로운 세계를 독자적으로 구성하고 있다.

  • 인간의 생각과 감정은 현실을 구성하는 주요 동력으로 변한다
  • 온라인 공간은 현실을 보충하는 역할로 진화하고 있다

2.경험기계는 우리를 행복하게 할까?

코로나19 팬데믹 이후부터 대면접촉과 신체활동은 지속적으로 감소했다. 기술은 시간과 거리를 축소시키지만 인간의 행동반경을 축소시키기도 한다. 이런 흐름은 AI 시대에도 지속되고 있다. 사람들은 집안에 머물며 미디어를 더 자주 사용한다. 혼자 고립되어 있으면 아무런 소속감을 느낄수 없다. 하지만 미디어는 외로움도 사라지게 만든다. 미디어는 고립된 사람을 더 고립되게 만든다. 대면접촉이나 신체활동은 점점 줄어들고 위축된다. 이것은 누가 시키지 않았는데도 스스로 신체적 자유를 제한한것과 비슷한 효과를 가져온다. 미디어가 만든 안락한 공간에 머물며 신체적 자유를 스스로 제한하는 상황은 로버트 노직의 '경험 기계'에 나오는 이야기와 비슷하다. 로버트 노직은 경험기계를 다음과 같이 설명했다.

"우리는 순수하고 지속적인 쾌락을 발견하기 위한 목적으로 사람들이 그 속으로 들어가게 되는 복잡한 기계를 발명했다. 이 기계에는 인간의 대뇌피질 영역과 뇌의 다른 부분에 전류를 보내는 전극이 부착되어 있다. 이것은 매우 강력한 쾌감을 만들어 낸다."

경험 기계의 전극이 머리에 연결된채 인간은 탱크속에서 부유한다. 지속적으로 흐르는 전류의 신경 자극을 통해 인간의 감정을 흥분시키거나 행복감을 느끼게 만들수 있다. 하지만 행복감을 손쉽게 느낄수 있는 환경에서 실제로 사람들에게 경험기계와 현실세계 둘중 하나를 선택하라고 하면 대다수는 현실세계를 선택한다. 그 이유는 인생의 행복감과 행복을 동일한 것으로 여길수 없기 때문이다. 행복하다고 느끼는 것 만으로 과연 우리는 진짜 행복한 것일까?

  • 기술은 시간과 거리를 축소시키지만 인간의 행동반경도 축소시킨다
  • 행복과 행복감을 동일한 개념으로 판단하기는 어렵다

3.좁혀지는 오프라인과 온라인의 격차

현실의 정보가 온라인으로 지속적으로 이관 될수록 오프라인과 온라인의 격차는 점점 좁혀진다. 기술의 발달이 세계와 인간의 거리를 축소시키고 있다. 우리는 집밖으로 나가지 않아도 집안에 머물며 온라인에 접속해 스트리트뷰로 집 밖의 거리를 관찰할수 있다. 집 밖으로 나가서 직접 거리를 돌아다니는것 보다 시간과 수고로움에서 우위에 있다. 오프라인의 정보와 지식들이 계속 온라인으로 이관되어 시간과 공간의 한계를 넘어 실시간으로 완전히 상호작용 하는 형태가 되면 인간의 신체 가치는 평가 절하 된다. 인간이 아무리 노력해도 기술이 인간보다 빠르고 효율적이기 때문이다. 이로 인해 인간의 행동 반경은 점점 축소된다. 기술 발전에 의한 즉각적인 정보 교환은 결국 인간을 배제 시키는 방향으로 나아간다.

  • 정보의 이관으로 인해 오프라인과 온라인의 격차는 지속적으로 좁혀진다
  • 기술발전에 의한 즉각적인 정보교환은 인간을 배제시키는 방향으로 나아간다

기술은 이제 더 이상 보조적인 위치로 남지 않는다. 하이데거는 '게슈텔' 이라는 개념을 언급했다. 그는 끊임없이 움직이는 기술적 동력에 인간은 스스로 편입된다고 주장했다. 하이데거는 이 동력 시스템에서 인간이 벗어나기 어렵다고 말한다. 이 기술적 시스템은 평범한 시스템이 아니라 우리 사회의 제도로 변하기도 하고 사회 구조로 변하기도 하기 때문이다. 현대의 사회 제도는 따로 관리하는 사람이 없어도 게슈텔처럼 자동으로 작동하는 상태로 만들어져 있다. 실제로 스마트폰으로 일상의 모든 것을 해결하는 현대인의 모습을 보면 컴퓨터와 소프트웨어는 실질적인 사회 제도로 작동한다고 봐도 과언이 아니다. 제도로 변한 기술은 점점 인간 신체의 존엄을 쇠퇴 시키고 인간 행동의 범위를 제한시키는 방향으로 나아가고 있다.

Read more

AI 인터페이스와 인간의 잃어버린 시간

최근에 챗GPT를 비롯한 LLM 서비스들이 사용자들의 질문에 비슷한 답변을 내놓으면서 사고의 외주화를 넘어 사고가 동질화 되고 있다는 우려가 나오고 있다. 이른바 인지적 표준화로 똑같은 서비스를 이용하는 사용자들의 사고방식이 점차 비슷해지는 현상을 말한다. 자동제어 인터페이스가 표준으로 정착되면 사용자들에게 대부분 똑같은 환경이 적용되고 인간의 기억과 자의식은 동질화 되기 시작한다. 이를 해결하기 위해서는

By pharmakon

AI 시대 진정한 위험은 무엇인가?

AI 시대가 본격적으로 시작되면서 위험이라는 개념이 다시 주목받고 있다. 지금 시대 위험의 개념은 재정의가 필요하다. 사실 모든 기술은 동전의 양면처럼 위험성을 가질수 밖에 없다. 하지만 최근 언급되고 있는 'AI 기술은 위험하다' 라는 말은 실체적 의미와 내용이 다소 모호해서 '너무 뛰어나서 위험하다'는 의미로 대중들에게 받아들여지기도 한다.

By pharmakon

LLM에 의해 불투명해지는 세계

물리적 현실세계에 존재하지 않는 또 다른 존재가 인간 대신 현실을 해석하고 판단하는 시대가 되고 있다. 최근에 사람들은 중요한 결정을 내리기전에 자신의 판단보다 LLM(대규모 언어모델) 의 답변을 더욱 신뢰하고 있다. 실제로 연구결과에 의하면 LLM이 내린 결정을 사람들은 70퍼센트 이상 그대로 현실에서 실행하는 모습을 보였다. 이렇게 되면 사람이 LLM를 사용하는것이 아니라

By pharmakon

LLM의 환각은 인간의 진실을 드러낸다

많은 사람들이 챗GPT와 같은 LLM(대규모 언어모델)을 이제는 일상적으로 사용하고 있다. "LLM은 실수할수도 있으니 중요한 내용은 다시 확인해야 한다."는 문장을 채팅창 하단에서 흔히 볼수 있다 . 이 문장은 생각보다 많은 사실을 포함하고 있다. 인간과 LLM의 관계의 진실을 드러내고 있기 때문이다. 전문가들은 장기적으로 LLM의 환각(Hallucination)이 해결

By pharmakon