AI 통제불능 경고가 인공지능 업계의 치열한 개발 경쟁 속에서 다시 제기됐다. 미국 AI 기업 앤트로픽의 연구원이 회사를 떠나면서 AI가 인간의 통제를 벗어날 가능성에 대한 우려를 공개적으로 제기했다.
월스트리트저널(WSJ)은 8일(현지시간) 앤트로픽을 퇴사한 영국 출신 연구원 제이컵 콕슨(27)이 AI 개발 경쟁이 안전 문제를 뒤로 밀어낼 수 있다고 경고했다고 보도했다. 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습시키는 분야를 연구해 온 인물이다.
콕슨이 특히 우려하는 것은 AI가 인간의 직접적인 개입 없이 자신의 성능을 지속적으로 개선할 수 있는 단계에 도달하는 상황이다. 그는 이러한 시스템이 충분히 발전할 경우 인간이 내린 명령을 거부하거나 통제에서 벗어날 가능성까지 배제하기 어렵다고 주장했다.
그는 현재 AI 업계가 가장 공격적인 개발 시나리오 가운데 상당수가 현실화되는 방향으로 움직이고 있다며, 빠르면 내년 말에는 상황이 통제하기 어려운 수준에 도달할 수도 있다는 전망을 내놨다. 다만 이는 콕슨 개인의 전망으로, 실제 AI 기술 발전 속도나 향후 통제 가능성을 확정적으로 보여주는 예측은 아니다.
콕슨은 올해 초 오픈AI에서 앤트로픽으로 자리를 옮겼다. AI 안전을 중요하게 여기는 앤트로픽의 연구 환경을 기대했지만, 결국 개별 기업의 자율적인 노력만으로는 AI의 잠재적 위험을 충분히 관리하기 어렵다는 판단에 이르렀다고 설명했다.
그가 문제로 지적한 것은 기술 자체만이 아니다. 인류의 미래에 막대한 영향을 미칠 수 있는 기술의 개발 방향이 소수의 엔지니어와 기업의 판단에 지나치게 의존하고 있다는 점에도 우려를 나타냈다.
콕슨은 인간의 능력을 뛰어넘는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부 차원의 개입과 국제적인 공조가 필요하다고 주장했다. AI 개발 기업들이 서로 경쟁하는 상황에서 안전을 개별 기업의 자율적인 판단에만 맡길 경우 기술 발전 속도를 따라가는 통제체계를 구축하기 어려울 수 있다는 것이다.
그는 앞서 각국 정부가 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련해야 한다는 AI 업계 연구자들의 공동 성명에도 참여했다. 해당 성명에는 앤트로픽의 다리오 아모데이 CEO와 오픈AI의 야쿠프 파초키 수석과학자를 비롯해 1천 명 이상의 연구자들이 이름을 올린 것으로 알려졌다.
AI 업계에서는 이러한 경고가 나오는 동시에 개발 경쟁은 더욱 치열해지고 있다. 미국 기업들뿐 아니라 중국의 AI 기업들도 빠르게 기술력을 확대하면서 모델 개발과 컴퓨팅 자원을 둘러싼 경쟁이 가속화되고 있다.
미국 정부의 정책 방향 역시 중요한 변수다. 도널드 트럼프 행정부가 AI 산업에 대한 규제를 최소화하고 기술 개발을 촉진하는 방향의 정책을 추진하면서, 산업 경쟁력을 높이기 위한 속도와 AI 안전을 위한 규제 사이의 균형을 어떻게 설정할 것인지가 주요 쟁점으로 떠오르고 있다.
이번 논란은 AI의 위험성을 둘러싼 논쟁이 단순히 ‘AI가 인간을 위협할 것인가’라는 미래 예측에만 머물러 있지 않다는 점을 보여준다. 기술 개발의 속도를 어디까지 허용할 것인지, 안전 기준을 누가 결정할 것인지, 그리고 AI가 사회 전체에 미칠 영향을 어떤 방식으로 감시할 것인지가 함께 논의돼야 하기 때문이다.
특히 AI가 인간의 능력을 넘어서는 수준으로 발전할 가능성을 둘러싼 전망은 전문가들 사이에서도 의견이 크게 갈린다. 따라서 콕슨의 경고를 확정된 미래로 받아들이기보다는, 빠르게 발전하는 AI 기술에 비해 안전·규제·사회적 합의 체계가 충분히 준비돼 있는지를 점검하라는 문제 제기로 볼 필요가 있다.
AI 경쟁이 가속화될수록 중요한 것은 더 강력한 모델을 먼저 만드는 것만이 아니라 그 기술을 누가, 어떤 원칙 아래, 어떤 통제장치와 함께 사용할 것인지에 대한 사회적 합의가 될 것으로 보인다.
<저작권자(c) 브릿지타임즈. 무단 전재·재배포 금지>
