AI 시대 진정한 위험은 무엇인가?

AI 시대가 본격적으로 시작되면서 위험이라는 개념이 다시 주목받고 있다. 지금 시대 위험의 개념은 재정의가 필요하다. 사실 모든 기술은 동전의 양면처럼 위험성을 가질수 밖에 없다. 하지만 최근 언급되고 있는 'AI 기술은 위험하다' 라는 말은 실체적 의미와 내용이 다소 모호해서 '너무 뛰어나서 위험하다'는 의미로 대중들에게 받아들여지기도 한다. AI 시대에 위험에 대한 고찰은 역설적으로 미래의 위험을 재설계 할수 있도록 해준다.

1. 위험의 이중성

위험한 대상으로부터 벗어나는 가장 좋은 방법은 해당 대상을 완전히 포기하는것이다. 하지만 포기할수 없고 대상을 계속 붙잡고 있어야 되는 이득이나 동기가 있다면 그것은 말그대로 위험한 대상이 된다. 위험한데도 불구하고 포기 못하는 상황이 되기 때문이다. 위험한 대상과 안전하지 못한 대상은 서로 구분해야 한다. 적어도 위험한 대상은 위험을 감수하면까지 계속 붙잡고 있을만한 이득이나 동기가 존재한다. 하지만 단순히 '안전하지 못한 대상'은 고민없이 손에서 내려 놓으면 된다. 위험을 감수하면서 계속 붙잡고 있을 이유가 전혀 없기 때문이다. 위험이라는 개념은 새로운 기술이 발달하는 초기 과정에서 이중적인 의미로 사용된다. '너무 뛰어나서 위험하다' 라는 기업의 제품 홍보로 사용되기도 하고 모델이 현실에서 문제를 일으켜 실제 위험에 빠지는 경우도 발생한다. 하지만 기술 경쟁이라는 구도에서 기업의 이런 전략들은 대부분 시장 선점을 위한 바닥 다지기로 볼수 있고 실제 현실에 미치는 영향도 크다. 하지만 기업이 '위험하다' 라는 말만 반복하는것은 내재된 문제를 안좋은 방향으로 끌고 갈수 있는 요인이 된다. 심지어 책임자가 책임을 미리 회피하는 수단으로 악용될수 있다. 근본적으로 문제를 해결하는 방식은 아니다. 위험이라는 개념이 사회에 미치는 영향은 갈수록 커지고 있다. 인간은 생존 본능 때문에 위험을 본능적으로 피하려고 한다. 하지만 AI 시대의 위험은 이제 단독으로 존재하지 않고 수많은 체계들과 유기적으로 단단히 결합하고 있다. 이제 우리는 일상적으로 위험과 마주치며 살아가고 있다.

• 위험한 대상과 안전하지 못한 대상은 서로 구분해야 함
• 위험은 다양한 체계들과 유기적으로 계속 결합

2. AI 기술은 과연 중립적인가?

AI 기술이 완전히 중립적인 기술이라면 그 등장과 상관없이 주변에 미치는 어떤 영향도 없어야 한다. 하지만 LLM(대규모 언어모델)은 등장과 동시에 사회에 많은 영향을 미쳤다. 무엇보다 AI에 대한 대중들의 인식을 완전히 변화시켜 놓았다. 이제 기술을 만든 사람의 의도를 파악하는일은 과거보다 더욱 중요해졌다. AI 시대의 위험의 원천은 무지가 아니라 지식에 있다. AI 챗봇이 생성하는 데이터와 지식은 이미 사회에 영향력을 미치고 있다. 이는 과거보다 더욱 철저하게 데이터의 교차 검증이 요구되는 이유이기도 하다. AI를 통해 통용되는 데이터와 지식은 지금보다 검증 방식이 더 투명해져야 한다. AI시대의 진정한 위험은 인생을 서투르게 살아가는 무지와 불완전성이 아니라 검증이 불가능한 지식과 효율성으로 운영되는 완전한 지배에 있다. 인간이 예측하지 못하는 먼 곳에 있는것이 아니라 이미 우리 주변에 확립되고 있는 시스템의 제약에 있다. 우리는 진정한 위험이 무엇인지 항상 고민해야 할지도 모른다.

• AI시대 위험의 원천은 무지가 아니라 지식에 있다
• AI시대 데이터와 지식의 검증방식은 지금보다 더 투명해져야 한다

3. 미래로 이전되는 위험

AI 시대의 위험은 이미 미래의 일부분을 구성하는 중이다. 현재의 위험성이 미래로 이전되고 있기 때문이다. 과거에는 초기 기술 개발에 몰두한채 부차적인 위험은 등한시 되는 경우가 많았다. 기술을 개발하는 기업의 목표는 초과 이윤이고 나머지 문제점들은 '나중에 생각하자' 라며 미루는 경우가 대부분이었다. 하지만 그 문제점은 미래 시점에서 반드시 부메랑처럼 되돌아왔다. 위험은 눈앞에서 잠시 사라진것 처럼 보였지만 실제로는 사라지지 않았다. 위험은 실제 피해가 발생해도 결코 한번으로 끝나지 않는다. 나머지 부수적인 위험들은 여전히 잠재된 상태에서 계속해서 진행되기 때문이다. 문제는 이러한 위험이 대상을 가리지 않는다는 것이다. 모두가 노출되어 있다. 심지어 해당 기술을 개발한 기업까지 위험에 노출되어 있다. 날씨나 자연 재해처럼 외부에서 다가오는 위험은 예측이 가능하다. 하지만 인간 스스로 만들어낸 기술적 위험은 경우가 다르다. 이런 위험들은 평소에 잘 보이지도 않고 미리 알기도 어렵다. 잠재된 상태로 이동되거나 계속 축적되는 형태로 진행하기 때문이다. 그리고 일단 위험이 발생되면 피해는 심각하다.

• 현재의 위험성이 미래로 이전되고 있음
• 위험은 눈앞에서 사라진것 처럼 보이나 실제로는 사라지지 않음
• 위험은 잠재된 상태에서 계속 진행된다

과거에는 위험을 감수하면서까지 목표를 달성하는것이 중요했다. 하지만 지금은 목표 달성시 실제로 감수해야 되는 위험의 비중이 더 중요해지고 있다. 예전처럼 목표를 달성하기 위해서 서로 강하게 결속하는 유대는 점점 자취를 감추고 미래에는 불안감에 의한 위험을 최소화하기 위한 일시적 유대가 그 빈자리를 채우게 된다. 위험은 어떤 형태로든 우리 주변에 계속 남아있을것이다. 위험은 불안을 강화시키는 역할을 한다. 작은 위험이라도 불안을 전염시키는 과정은 동일하다. 위험은 불안감을 만들고 누적된 불안감은 마음을 황폐하게 만든다. 최근 쏟아지고 있는 인간의 실존에 관한 철학적 고민들은 이런 시대적 흐름을 반영하고 있다.