AI 개발 속도 제한 — 경쟁사회에서는 비현실적

AI가 너무 빠르게 발전하니 잠시 속도를 늦추고 안전부터 점검하자는 주장이 나왔다. 말 자체는 그럴듯하다. 자동차도 빨리 달릴수록 브레이크와 안전장치가 더 중요하기 때문이다.

그러나 다른 회사가 계속 달리는데 자기 회사만 멈추라는 규범은 경쟁사회에서 지켜지기 어렵다. 국가 간 경쟁에서는 실현 가능성을 기대하기가 더욱 어렵다. 미국은 멈추면 중국이 앞설 것으로 우려하고, 중국은 안전을 구실로 자국의 발전을 막으려 한다고 반발한다. AI 안전문제가 국가 간 주도권 다툼과 얽힌 것이다.

멈추면 중국이 앞선다

논쟁은 앤트로픽의 다리오 아모데이 최고경영자가 AI 개발속도를 늦추자고 주장하면서 거세졌다. 그는 강력한 AI가 인간의 통제를 벗어나거나 사이버공격과 독재정권의 감시에 쓰일 위험이 있다고 경고했다. AI회사 밖의 평가기관이 모델을 점검하고, 민주국가들이 공동 안전기준을 만들어야 한다고 제안했다.

그런데 그의 주장은 모든 나라가 똑같이 속도를 늦추자는 데서 끝나지 않았다. 미국과 민주국가들은 중국보다 AI 우위를 유지해야 하며, 첨단 반도체와 제조장비의 중국 수출도 계속 제한해야 한다는 내용이 함께 들어 있었다.

중국이 이를 순수한 안전대책으로 받아들일 리 없었다. 중국 외교부는 공포와 대립을 부추기면 국제적인 AI 관리체계만 흔들린다고 반박했다. 중국 관영매체는 아모데이의 주장을 중국의 AI 발전을 막으려는 새로운 냉전전략이라고 규정했다(중국의 반론을 다룬 AP 보도).

안전은 회사가 알아서 책임지면 될까

엔비디아의 젠슨 황 최고경영자도 공동 감속에 반대했다. AI도 결국 사람이 만든 하드웨어와 소프트웨어이므로 사람이 통제할 수 있고, 안전하지 않은 제품은 회사가 출시하지 않으면 된다는 주장이다. 안전과 빠른 발전 가운데 하나를 고를 필요 없이, 안전을 확보하면서 최대한 빨리 개발할 수 있다고 보았다(테크크런치 보도).

메타의 마크 저커버그도 모든 회사가 함께 멈추기로 약속할 필요는 없다고 주장했다. 안전문제가 발견된 회사가 스스로 개발속도를 조절하면 된다는 것이다. 실제로 메타는 안전을 보강하기 위해 일부 AI 모델의 공개를 몇 달 늦췄다고 밝혔다.

미국 정치권의 반론은 더 직접적이다. 마이크 존슨 하원의장은 미국이 AI 개발을 멈추면 중국에 우위를 내주고 국가안보까지 위험해질 수 있다고 말했다. 다만 기업의 자율에만 맡기지 않고 독립적인 검사와 개발과정의 공개는 필요하다고 덧붙였다(로이터 보도).

기업이 선수이면서 심판이 된다

기업 자율론에는 뚜렷한 모순이 있다. AI회사는 안전을 책임지는 주체이면서 경쟁에서 이겨야 하는 사업자다. 안전검사를 위해 개발을 늦추면 경쟁사가 먼저 고객과 시장을 차지할 수 있다. 회사가 안전문제를 발견하더라도 이를 공개하고 제품 출시를 미룰 것이라고 장담하기 어렵다.

자동차회사가 충돌시험을 스스로 하고 결과도 공개하지 않는다면 소비자가 믿기 어렵다. 제약회사도 신약의 효과와 부작용을 자기 판단만으로 결정하지 못한다. 기술을 가장 잘 아는 회사가 안전점검을 맡아야 하지만, 그 결과를 회사 안에서만 판정하게 해서는 안 되는 이유다.

그렇다고 모든 AI 개발을 한꺼번에 늦추자는 주장도 현실성이 부족하다. 한 나라가 멈춰도 다른 나라와 수많은 기업이 함께 멈춘다는 보장이 없다. 번역과 문서정리 같은 일반 기능부터 군사·사이버공격에 이용될 수 있는 고성능 AI까지 똑같이 규제하면 유용한 기술까지 막힐 수 있다.

멈추느냐보다 누가 검사하느냐가 중요하다

결국 무조건 달리거나 모두 멈추는 양자택일로 풀 문제는 아니다. 위험이 큰 AI일수록 외부기관의 검사를 받게 하고, 문제가 생겼을 때 책임질 회사와 사람을 분명히 해야 한다. 학습자료와 안전시험의 핵심 결과도 외부에서 확인할 수 있어야 한다.

한국은 미국이나 중국처럼 거대한 AI 모델 경쟁을 이끄는 나라는 아니다. 그러나 두 나라가 만든 AI를 기업과 학교, 정부기관이 빠르게 받아들이고 있다. 개발경쟁의 주도권은 없어도 그에 따른 위험은 함께 떠안는다.

AI 안전을 기업의 선의에만 맡길 수도 없고, 막연한 공포 때문에 모든 발전을 멈출 수도 없다. 어느 정도의 위험부터 누가 검사하고, 사고가 나면 누가 책임질 것인지 먼저 정해야 한다. 브레이크를 밟을 것인가를 다투기보다 브레이크가 제대로 작동하는지 외부에서 확인할 제도가 먼저다.