실리콘밸리의 AI기업 CEO들이 약속이나 한듯이 줄줄이 'AI위협'을 강조하며 속도 조절을 주문하고 있다. 사진은 실리콘밸리 모습. [출처=클로드 소넷 5]

AI가 문명을 파괴할 수 있다는 AI기업 CEO들의 우려 섞인 ‘고백’이 줄을 이으면서 세계 기술업계와 산업계 전체가 시끌쩍하다. 세계 AI산업을 선도한다는 앤트로픽의 다리오 아모데이, 오픈AI의 샘 앨트먼, xAI의 일론 머스크, 구글 딥마인드의 데미스 하사비스 등이 모두 “AI 기술 개발 억제”나, “속도 조절” 등을 내세우고 있다. 이들은 마치 약속이나 한 듯, 하루 이틀 간격으로 일제히 이런 주장을 펼쳤다. 그 중 아모데이는 “6개월 내 인류적 재앙”까지 언급하는가 하면, 앞서 앤트로픽을 퇴사한 일부 엔지니어들은 “10년 내 인류 멸절의 확률이 10%”란 ‘극언’까지 쏟아냈다.

‘AI위협’ 우려 뒤에 감춰진 ‘다른 속셈’

이런 엔지니어들은 차치하고, 왜 그럼 AI개발 당사자들인 CEO들 스스로 ‘AI위협’을 넘어 ‘AI종말론’을 갑자기 외치고 있을까. 그 ‘속셈’ 내지 그 안에 감춰진 ‘두 얼굴’의 실체를 캐보려는 분석가들의 날카로운 진단도 활발하다.

그에 관한 의견이 분분한 가운데 대체로 일치하는 분석들이 있다. 그 중 대표적인게 ‘사다리 걷어차기’ 내지 후발 주자들을 규제로 묶어두려는 ‘규제 포획’(regulatory capture)이다. 규제 기관의 규제를 통해 이미 최고 기술 수준에 오른 선도적 기업들을 제외한, 나머지 스타트업이나 후발주자들을 규제로 묶어 추격을 포기하게 하는 현상이다. 맹렬히 추격해오는 중국을 예전 ‘핵확산방지협정’과 유사한 성격의 ‘국제 협약’이나 ‘협의체’로 일정 수준 묶어두려는 목적도 있다는 해석이다.

그래서 이들로선 필요한게 정부나 감독기관의 통제나 법적 규제다. 그런 규제는 이미 최고 수위에 올라있는 오픈AI나 앤트로픽, 구글 딥마인드, xAI, 메타, 아마존 등 주로 미국의 시장 선도 기업들에게 타의 추격을 불허하는 튼튼한 장벽과도 같다. 다른 스타트업의 추격을 막고, 가능한 국제 규범을 통해 한국 등 제3국의 AI기술혁신이나, 중국의 맹추격도 일정 수준에서 제어할 수 있을 것이란 기대가 숨어있다는 지적이다. 그야말로 ‘사다리 걷어차기’에 다름 아니란 해석이다.

물론 대부분의 과학자나 실리콘밸리는 AI 산업에 대한 ‘감독’이 필요하다는 점에는 동의한다. 문제는 이번 CEO들의 ‘양심선언’과도 같은 ‘안전 옹호론’을 진심으로 신뢰하는 분위기는 그다지 찾아보기 어렵다는 사실이다.

저명한 기술 투자자이자 AI 생태계 평론가인 개빈 베이커(Gavin Baker)는 X(구 트위터)를 통해 "나는 소수의 인간이 지능을 통제하는 상황을 원치 않는다"고 말했다. 베이커는 앤트로픽 CEO 다리오 아모데이가 에세이를 통해 새로운 AI 규제안을 제안했을 때 “나름대로 ‘분명한 진심’이었을 것”이라면서도 “그렇더라도 그게 자신의 사업에 유리(‘규제 포획’ 덕분에)할 것으로 인식되고 있음은 피할 수 없다”고 지적했다.

AI모델 이미지. [생성=클로드 소넷 5]

‘규제’ 설정시, “어떤 곳이 객관적 ‘안전평가기관’인가”도 문제

또 하나 문제점은 “누가 (규제에 맞는) 안전 수준의 평가를 할 것인가”하는 점이다. 실제로 ‘규제’가 법제화될 경우, 이에 맞는 기준을 제시하고 평가할 ‘심판’을 누가 정해야하는가다.어떤 평가 기관이 가장 정직하고 독립적인지를 두고 이미 논쟁이 벌어지고 있다. 그런 가운데, 워싱턴 정계와 연줄이 있는 일부 주요 로비스트나 업계 인사들은 “(객관성을 담보하기 위해) 평가 업체를 직접 설립하는 방안을 검토 중”이라고 테크크런치에 전했다.

그러나 이번에 ‘속도조절론’을 주창한 AI기업들은 규제 준수를 위한 자신들만의 ‘안전 평가 기관’을 관철시켜, ‘규제 포획’을 한층 공고히 하려는 속셈도 읽힌다.

그렇잖아도 미국의 주요 AI 기업들은 ‘자율 규제’를 수용하는 방안이 유력해지는 분위기다. 그런 경우 진정으로 독립적이라고 인정받을 수 있는 제3자 기관을 찾는 일이 어려운 과제가 될 수도 있다. 자율 규제가 여러 산업 분야에서는 효과를 거두었지만, 기술 업계에서는 그 속성상 매우 복잡한 문제다.

이런 시각에서 보면, 일부 안전 연구 단체와 이번에 ‘속도 조절론’을 내세운 최첨단 AI 개발 기업(프런티어 AI 연구소) 간의 유착도 문제다. 이들 안전 연구 단체 중 다수는 오픈AI나 앤트로픽 출신 인력을 채용하고, (분석용) 무료 토큰을 제공받는다. 그런 조건에서 소위 ‘인류에 대한 실존적 위험(인류 멸종 등)’ 연구에 관한 자금도 지원받고 있다.

Meta의 실효성 없다고 판명난 '감독 위원회(Oversight Board)'도 그런 사례다. 특히 얼마전 자사의 모델(GPT-5.6 Sol, 혹은 GPT-6 아스트라 등)의 허깅 페이스 침범으로 세상을 떠들썩하게 했던 오픈AI는 한 술 더 뜬다. 사고 당시의 안전 연구소 미터(METR)를 또 다시 유력한 ‘제 3자 평가 기관’으로 거론하고 있다. 안전 점검 실패에도 불구하고, 다시 파트너십을 유지할 작정이다. 이에 업계에선 “두 회사 간의 수많은 금전적·인적 유착 관계에 비춰보면, 이들이 경쟁 관계로서 적절한 평가 주체가 될 수 없다”는 목소리가 높다.

앤트로픽의 아모데이도 자사 모델에 대한 (객관적인) 외부 심판관을 도입한다고 했다. 물론 이 역시 하나의 검증도구는 될 수 있다. 그러나 이에 대해서도 “(객관적이라고 주장하는) 감시 기구 등도 (親 앤트로픽의) 편향성과 이해관계가 얽혀 있을 수 있다”거나, “이들을 기업에 적용되는 사실상의 규제 기관으로 100% 신뢰할 수는 없다”는 시각이 지배적이다.

트럼프 대통령, "헛 소리! 중국만 좋은 일” 거칠게 질타

트럼프 행정부도 매우 비판적이다. 특히 트럼프 대통령은 이들을 향해 “모두 사기꾼이며, 나는 그런 사기꾼들을 때려잡는 사람(buster)”이라고 특유의 거친 표현을 쏟아내며 비난했다. 그러면서 “이는 중국만 좋은 일 시킬 따름이며, 진정한 안전 수호자는 사상 가장 똑똑하고(smart), 훌륭한 대통령인 나 뿐”이라고 자화자찬을 섞어 질타하기도 했다.

백악관뿐 아니라, 빅테크를 제외한 기업 경영진, 그리고 더 저렴하고 맞춤 설정이 가능한 '개방형(오픈 웨이트 등)' 모델을 지지하는 이들은 모두 ‘규제의 법제화’에 부정적이다. 이들역시 “새로운 규제 장벽이 최첨단 AI 기업들이 과도한 권력을 쥐게될 ‘규제 포획’이 될 것”을 우려하고 있다.

이들 최첨단 AI기업들이 주도하는 ‘개발 속도 조절론’은 그들의 선도적 지위를 고착화할 수 있다는 지적이다. 백악관 AI 자문위원인 데이비드 삭스를 비롯한 행정부 고위 관계자들은 물론, 벤처 투자자 빌 걸리(Bill Gurley)는 등 자본시장 셀럽들도 규제 및 감독 강화 움직임을 전형적인 '규제 포획' 시도라고 일축해 왔다.

현재 트럼프 대통령과 미 의회의 태도는 정반대다. 앞서 언급되었듯이, 트럼프 대통령의 태도는 단호하다. 월스트리트저널(WSJ) 보도에 따르면, “역겨운 음모, 사기극”이라고 질타하며 CEO들의 성명을 일축했다. 이들 AI 리더들의 ‘속도 조절’ 요구를 일축하며 “그들은 일어나지도 않을 일들을 거론하고 있다”고 비난했다. 또 “미국이 중국을 앞서야 하는게 가장 시급한 일”이라고도 했다. 중국의 추격을 물리치기에도 바쁜데 무슨 ‘헛소리’냐는 투다.

그래서 안심이 안 되었던지, 그는 엔비디아의 젠슨 황 CEO에게 직접 전화를 걸었다. 트럼프는 통화 중 스피커폰을 통해 “로봇이 세상을 지배하지 않을 것이고, AI가 세상을 장악하지도 않을 것”이라며 “그건 모두 사기극(hoax)일 뿐”이라고 말했다.

이에 젠슨 황 역시 “대통령님(sir)이 맞다. 그런 일은 일어나지 않도록 할 것이다”라고 화답했다.

트럼프 대통령은 'AI 속도조절론'을 주장을 '사기꾼 소행'이라며 거칠게 질타하고 있다. [출처=클로드]

미 의회, AI우려 확산 속 규제입법 논의 활발

그러나 의회의 분위기는 심상찮게 흐르고 있다. 심지어 ‘악시오스’는 “미 의회에선 보기드물게 한 가지 현안(AI속도 조절)에 대해 여야가 일치된 움직임을 보이고 있다”고 대서특필하기도 했다. ‘뉴욕타임스’는 좀더 구체적으로 미 상원의 툰(Thune) 원내대표(공화당)의 적극적인 움직임을 상세히 보도했다. 이에 따르면 공화당의 원내대표(사실상 한국의 당대표의 위상)인 툰 의원은 AI 관련 의회의 역할을 새삼 강조했다.

다만 “‘중대한 위험’이 존재함에도 불구하고 규제는 ‘최소한의 개입(light touch)’에 그쳐야 한다”면서도 트럼프 대통령과는 달리, “의회가 해야 할 일이 있다”고 했다. 또한 “최첨단 AI 모델에 대해서는 ‘안전장치’(guardrails)를 마련하는 것이 타당하다”면서 다만 “항상 최악의 시나리오를 거론하며 논의를 이끌어가는 사람들이 있기 마련”이라고 과도한 AI위험론을 경계하기도 했다.

하지만 그는 “또 다른 동료 의원들과 AI 법안에 대해 논의했다”고 밝혔다. 동 법안은 최첨단(frontier) AI 모델을 개발하는 기업들이 치명적인 위험에 대비하고 연방 정부의 감독을 받도록 의무화하는 내용을 담고 있다. 그는 “테드 크루즈(공화) 상원 상무위원장과 협력해 이 법안을 ‘조만간’ 다시 발의하기 위해 노력 중”이라고 말했다.

그런 가운데 민주당을 중심으로 미 의회 내에 AI에 대한 우려는 더욱 커지고 있다. 이들은 잠재적인 재앙적 결과를 막기 위해 “AI 개발 속도를 늦춰야 한다”는 목소리를 높이고 있다. 특히 진보진영의 리더격인 무소속 버니 샌더스 상원의원은 “무단으로 초지능AI를 개발할 경우, 최고 징역 20년형에 처해야 한다”며 관련 입법까지 검토하고 있을 정도다.

공화당 의원들도 AI 규제에 대한 국가적 대응을 이끄는 트럼프의 능력에 의문을 제기하지는 않지만, 의회 또한 일정한 역할을 해야 한다는 입장이다. 또한 그들은 입법 가능성도 배제하지 않고 있다.

미 의회는 트럼프 대통령과는 달리 초당적으로 AI규제입법을 논의하며, AI리더들의 '속도조절론'에 화답하는 분위기다. [출처=클로드 제공]

트럼프 반대 속 중간선거 앞두고 ‘속도조절 입법’ 시도?

이들 CEO들의 소위 ‘양심선언’이 적어도 미 의회만큼은 움직이고 있는 셈이다. 특히 중간선거를 앞둔 입장에서 많은 의원들은 데이터센터 등 과도한 AI인프라에 대해 호의적이지 않은 지역구 여론을 의식하지 않을 수 없는 입장이다.

이에 기업들이 자율적으로 AI 기술의 최전선을 정의하고 감시할 수 있도록 ‘제조물 책임법’이나 ‘반독점법’을 개정하는 논의도 이어가고 있다. 그러나 이에 대한 비판도 제기된다. 특히 현지 시민사회 일각에선 “(AI 리더들의 속도조절론은) 경계해야 한다”는 목소리도 적지 않다. 즉 “어느 정도의 합리적 규제나, 협력은 허용될 수 있겠지만, ‘기술적 최전선에서의 속도 조절’이 (AI빅테크들의) 시장 점유율을 지키기 위한 수단으로 변질되어서는 안 될 것”이란 지적이다. 자칫하면, “그들이 주도하는 ‘개발 속도 조절’은 그들의 선도적 지위를 고착화할 수 있다”는 것이다.

AI가 산업판도 바꾼다…가전·로봇·모빌리티·에너지로 확산
AI·저부담 소비·초개인화…2027 세계시장 이끌 10대 화두
SKT 손잡은 AI 스타트업 8곳…메사쿠어컴퍼니·시에라베이스 등
삼성전자, 가전 넘어 빌딩·AI 데이터센터로…에너지 솔루션 확장

키워드#AI속도조절론 #속도조절 #AI속도조절 #개발 속도 조절 #AI 기업