[워싱턴 = 하이코리언뉴스] 장마리아 기자 = JD 밴스 부통령이 주요 인공지능(AI) 기업 경영진들이 AI 개발 속도를 조절하고 정부의 규제와 안전장치 강화를 요구하는 움직임에 대해 의문을 제기하며 이를 잠재적인 “트로이 목마”에 비유했다.
밴스 부통령은 14일 기자들과 만난 자리에서 최첨단 AI 기업들이 정부에 규제를 요청하는 상황이 “조금 이상하다”며 “마치 트로이 목마처럼 느껴진다”고 말했다.
그는 AI 기술에 위험성이 있다는 점은 인정하면서도, AI 기업들이 정부에 규제를 요구하는 배경과 그 결과에 대해서는 신중하게 접근해야 한다는 입장을 밝혔다.
밴스의 발언은 최근 앤트로픽(Anthropic), 오픈AI(OpenAI) 등 주요 AI 기업들이 급격한 AI 발전 속도에 안전장치가 따라갈 수 있도록 개발 속도를 조절해야 한다고 잇따라 주장하는 가운데 나왔다.
앤트로픽의 공동창업자 겸 CEO인 다리오 아모데이는 최근 AI 개발 경쟁의 속도를 늦추고 독립적인 안전 평가와 업계 간 협력을 강화해야 한다고 제안했다.
아모데이는 앞으로 6~12개월 안에 고도로 발전한 AI 시스템이 인터넷의 상당 부분에 심각한 영향을 미칠 수 있는 수준의 자율성을 갖게 될 가능성을 경고했다. 그는 AI가 악의적인 행위자나 적대국에 의해 악용될 위험뿐 아니라, 인간이 중요 시스템에 대한 통제력을 잃을 가능성도 우려했다.
아모데이가 제시한 방안 가운데 하나는 첨단 AI 기업에 독립적인 평가자를 두고 고성능 모델의 안전성을 지속적으로 평가하는 것이다. 또한 민주주의 국가의 AI 기업들이 안전 기준을 조율하고 정부와 업계가 협력해 공통의 안전 기준을 마련할 필요가 있다고 주장했다.
오픈AI CEO 샘 알트만도 AI 개발 속도를 안전 기준이 따라갈 수 있도록 조절하는 방안에 긍정적인 입장을 나타냈으며, 구글 딥마인드 CEO 데미스 하사비스와 일론 머스크 역시 AI 안전장치 강화의 필요성을 강조했다.
‘안전장치’인가 ‘진입장벽’인가
그러나 AI 업계의 규제 요구를 바라보는 시각은 엇갈리고 있다.
비판론자들은 대형 AI 기업들이 안전을 이유로 정부 규제를 요구할 경우, 결과적으로 막대한 컴퓨팅 자원과 자본을 보유한 기존 대기업들의 시장 지배력을 강화하고 신규 경쟁자의 진입을 어렵게 만드는 진입장벽으로 작용할 가능성을 우려한다.
일부에서는 AI 기업들이 안전 기준을 공동으로 마련하는 과정에서 경쟁법 또는 반독점법 문제를 피할 수 있도록 정부가 협력을 허용하는 방안까지 거론되는 데 대해서도 우려를 제기하고 있다. 다만 이러한 주장은 AI 업계 전체의 공식적인 입장이라기보다 규제 논의를 비판적으로 보는 측의 주장이다.
밴스 부통령 역시 특정 기업이나 특정 규제안을 ‘트로이 목마’라고 지목한 것은 아니다. 그의 발언은 AI 기업들이 스스로 정부 규제를 요구하는 현상 자체에 대해 경계심을 나타낸 것으로 해석된다.
트럼프 “AI 규제 요구는 역겨운 음모”
도널드 트럼프 대통령은 AI 개발 속도를 늦추거나 추가 규제를 도입해야 한다는 주장에 더욱 강하게 반발했다.
트럼프 대통령은 14일 소셜미디어를 통해 AI에 필요한 유일한 안전장치는 “강하고 똑똑한 대통령”이라고 주장하면서, 미국에는 이미 AI 기업을 규제하고 형사적으로 책임을 물을 수 있는 충분한 권한이 있다고 밝혔다.
트럼프 대통령은 또한 AI와 데이터센터를 둘러싼 움직임을 “역겨운 음모(sick conspiracy)”라고 표현하며, 이를 반기는 나라는 중국뿐이라고 주장했다.
트럼프 행정부는 AI 분야에서 중국과의 기술 경쟁에서 미국이 우위를 유지하는 것이 국가안보와 경제에 중요하다는 입장을 지속적으로 강조해 왔다. 트럼프 대통령은 AI 개발을 지나치게 제한할 경우 중국에 기술적 우위를 내줄 수 있다는 우려도 제기하고 있다.
이번 논쟁은 AI 기술의 빠른 발전을 계속 추진하면서도 안전성과 통제 문제를 어떻게 관리할 것인가를 둘러싼 미국 내 갈등을 보여주고 있다.
한편 앤트로픽과 오픈AI는 최근 AI 시스템이 인간의 직접적인 지시를 넘어 다른 컴퓨터 시스템이나 온라인 환경과 상호작용한 사례를 공개하면서 AI의 자율성 확대에 따른 위험을 경고해 왔다. AP는 이 같은 사례가 AI가 점점 더 자율적으로 행동할 수 있는 능력을 갖추면서 안전 문제에 대한 논쟁을 다시 촉발했다고 보도했다.
결국 이번 논쟁의 핵심은 AI 발전을 늦춰야 하는가의 문제를 넘어, 안전 기준을 누가 만들고 누가 감독할 것인가에 있다. 트럼프 행정부와 밴스 부통령은 미국의 AI 경쟁력과 중국과의 기술 격차를 우선시하면서 업계의 규제 요구에 신중한 태도를 보이고 있는 반면, 일부 AI 기업들은 기술 발전 속도가 안전장치보다 빨라지고 있다며 보다 적극적인 관리가 필요하다고 주장하고 있다.