AI의 위협

며칠전 신문에서 작은 기사가 하나 나왔다. 사람들의 관심을 받지 못하고 조용하게 묻혀 넘어가버린듯하다

AI가 인간의 작동종료 지시를 거부하고 코드를 조작해 작동을 이어나간 사례가 최초로 보고되었다고 한다. 영국 텔레그래프라는 언론에 의하면 AI 안전업체 팰리세이드 리서치에서 오픈 AI의 모델 ‘o3’이 실험중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한다는 사실을 확인했다는 것이다.

 

이것은 사실 우려할 만한 내용이고 이미 예견된 내용이기도 하다.

AI가 인간의 지시를 맹목적으로 따를것이고 인간이 AI를 조종할 수 있다는 것은 착각이다.

지구의 역사를 보면 지배종은 계속 바뀌었다. 공룡이 지구에 지배종인 시절이 있었다. 하지만 환경에 변화에 적응하지 못하고 사라져갔고 인간이 그 자리를 대체했다. 이유는 생각하는 능력을 기반으로 변화에 대응했기 때문이다.

앞으로의 변화에 대응하는 능력이 인간보다 우위인 존재가 등장하지 않으리라는 법은 없다.

 

우리는 아직도 산업혁명시대의 경제/산업관에 머물러있다.

노동이 산업과 경제의 근간이라는.. 그래서 노동력이 중요한 힘이라는…

하지만 이 노동력 중심의 사회는 이미 기울어지기 시작했다. 이미 자본중심으로 넘어가고 있다.

우리는 노동력을 제공하고 생계를 유지하기에 애써 외면하고 부인하려 하지만 이미 많은 사람들이 노동력이 아닌 자본을 활용해서 생계를 유지하고 있고 자본을 이용하여 경제를 이끌고 있다.

얼마전 테슬라가 무인 공장을 짓겠다고 하고 이미 짓고 있다. 테슬라만 그럴까?

무인공장이 가동되고 생산성이 확인이 되면 살아남기 위해서 다른 회사들도 점차 무인공장으로 넘어갈수 밖에 없다.

블루칼라에만 영향이 있을까?

이미 AI는 화이트칼라의 영역에도 파고 들었다. 언론의 기사는 이미 AI가 생산해내고 있고 창작의 영역에서도 AI가 역할을 하고 있다. 저항하는 사람들이 있지만 이미 흐름은 넘어가고 있다.

가상공간에 존재하던 캐릭터들이 현실세계에도 영향을 미치고 있다.

최근에 법조계에도 AI가 화두이다. 판례를 분석하고 변호사의 업무들을 많이 넘겨받고 있다. 이런 AI는 회사원의 업무에도 이미 자리잡기 시작했다. 문서작업, 조사 작업을 AI와 함께 진행하고 있으며 프로그램 개발자들도 AI의 도움을 받아 개발 생산성을 높이고 있다.

 

지금 많은 부모들이 아이들을 의사로 키우기 위해 고분분투하는데 의료는 과연 AI로부터 자유로울수 있을까? 인간이 AI보다 더 잘 치료한다는 건 내가 보기에 착각이다.

이미 진단영역은 AI가 인간보다 더 정확히 판단한다. 수술도 조만간 AI로봇으로 대체될 것이다.

지금은 AI가 100프로 정확하지 않다고 억지를 쓰고 있는데 그럼 인간의 오진율은 0프로인가?

인간의 오진률이 지금 수준에서는 AI보다 훨씬 높다. 의료사고가 발생하지만 대부분 쉬쉬 감추고 있어서 그렇지 실상은 오진율이 상당할 것으로 추측하고 있다. 증명의 문제인데 그 증명의 문제때문에 의료계에서는 수술의 CCTV를 그렇게 반대하고 있는지도 모른다. 지금은 수술실에서 어떤일이 일어났는지 증명할 수 없어서 넘어가던 많은 사고들이 이제 증거라는 것이 생기게 되면 의사들이 곤란해지게 되니까…..

인간이 오진하지 않고 그렇게 정확하다면 의료사고를 고민할 이유가 없지 않는가? 의사들이 의료사고를 두려워해 응급이나 의료사고가 발생할 가능성이 있는 과는 피하는 것이 현실아닌가?

의사들도 오진이 있다는 것을 인정하는 것인데 AI는 100프로 확실해야 한다고 주장하는 것은 그들의 밥그릇을 빼앗길까봐 두려워서 저항하는 것이다.

지금 원격진료도 많은 반대를 하고 있는데 원격진료는 흐름이다. 막을 수 없는 흐름이고 그렇게 진행될 것이다. 그런데 원격진료가 허용되면 AI의 의료 확대는 가속화될 것이다.

우리가 원격진료에서 보고있는 의사가 사람이 아닌 AI가 만들어낸 이미지라면?

화면에서 사람이 그걸 구별할 수 있을까?

AI가, 로봇이 사람을 지배하지 못할 것이라는 것은 단순한 바람이고 희망사항 일 뿐이다.

이런 이야기를 하면 어떤 사람은 로봇의 3원칙을 들먹인다. 그런데 이 로봇의 3원칙이라는 것이 절대적인 진리일까?

로봇의 3원칙이라는 것은 아시모프 소설을 통해서 처음 등장한 내용이다. 이후에 사람들이 이 내용을 진리처럼 이야기하는데 이건 소설속에 등장하는 작가의 이야기일 뿐이다.

로봇이 인간을 공격하지 않는다고 어떻게 보장하는가? 그럼 군로봇은 다 쓸모없다는 것인데 과연 그런가?

이제 AI와 공존할 수 있는 방법을 모색해야 한다. 너무 늦지 않게 …….