“자율규제만으로 충분하지 않다”…정부·법집행기관의 의무적 안전장치 요구
미중도 AI 사고 소통 채널 합의…기술 경쟁에서 ‘누가 통제할 것인가’가 새 쟁점
마이크로소프트 공동창업자 빌 게이츠가 인공지능의 위험을 다시 경고했다.
가장 눈에 띈 표현은 ‘10억 명’이었다.
게이츠는 NBC ‘미트 더 프레스’ 인터뷰에서 악의를 가진 사람이 최신 AI 도구를 이용할 경우 지금까지 등장한 무기보다 강력한 위협이 될 수 있으며, 극단적으로는 10억 명의 사망을 초래하는 사건까지 촉발할 수 있다고 말했다.
그러나 이번 발언의 핵심은 숫자 자체보다 그 다음 문장에 있다.
“자율규제만으로 충분하다고 생각하는 사람은 없다.”
게이츠가 제기한 질문은 AI가 위험한가가 아니라 그 위험을 누가 통제할 것인가였다.
기업 스스로 만든 안전장치, 이해충돌은 없나
최근 AI 기업들은 스스로 개발 속도를 조절하고 안전 기준을 강화하겠다는 움직임을 보이고 있다.
앤트로픽의 다리오 아모데이 CEO는 첨단 모델의 개발 속도를 조절하고 외부 안전평가를 확대하며 주요 AI 기업이 공통 안전기준을 마련해야 한다고 제안했다.
OpenAI의 샘 올트먼과 다른 업계 인사들도 첨단 모델의 안전성 검증과 외부 평가 필요성에 공감했다.
문제는 안전을 관리해야 하는 주체와 경쟁에서 앞서야 하는 주체가 같은 기업이라는 점이다.
AI 기업은 더 강력한 모델을 먼저 출시할수록 투자와 이용자를 확보할 수 있다. 동시에 그 모델이 얼마나 위험한지도 스스로 평가해야 한다.
게이츠는 바로 이 구조에 정부가 들어와야 한다고 본다.
기업의 선의나 자발적 합의만으로 안전기준을 유지하기보다 법률로 최소 기준을 정하고 외부에서 감시해야 한다는 주장이다.
게이츠의 요구는 ‘AI 중단’이 아니다
여기서 구분할 부분이 있다.
게이츠는 AI 개발 자체를 멈추자는 입장이 아니다.
그는 정부와 법집행기관, 정치권이 안전장치와 감시체계 설계에 참여해야 하며 이를 기업이 선택적으로 따르는 권고가 아니라 의무로 만들어야 한다고 주장했다.
그러면서 이런 규제가 산업에 추가 부담을 줄 수는 있지만 AI 개발 자체를 극적으로 늦출 정도일 필요는 없다고 선을 그었다.
즉 논점은 개발이냐 규제냐의 양자택일이 아니다.
개발을 계속하면서도 위험 관리의 최종 책임을 기업 내부에만 둘 수 있느냐는 문제다.
미중 경쟁에도 ‘안전’이 올라왔다
이 논쟁은 미국 기업들만의 문제가 아니다.
도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 24일 워싱턴 정상회담에서 AI를 주요 의제 가운데 하나로 다뤘다.
미국과 중국은 AI 기술 패권을 놓고 경쟁하고 있지만 사이버공격, 생물학적 악용, 주요 기반시설 공격과 통제 상실 같은 위험은 어느 한 국가에만 머물지 않는다.
정상회담 이후 양국은 고도 AI의 위험과 이익을 논의하는 대화 채널과 중대한 AI 사고가 발생했을 때 정보를 주고받을 수 있는 소통 채널을 마련하기로 했다.
이는 포괄적인 국제 AI 규제에 합의했다는 뜻은 아니다.
그러나 세계에서 가장 강력한 AI 경쟁국 두 나라가 사고 발생 시 서로 연락해야 할 필요성 자체를 공식적으로 인정했다는 점은 의미가 있다.
미국 내부에서는 여전히 ‘속도와 안전’ 충돌
미국 정부의 방향도 단순하지 않다.
트럼프 행정부는 지나치게 무거운 규제가 미국 AI 산업의 혁신과 중국과의 경쟁력을 떨어뜨릴 수 있다는 입장을 강조해왔다.
지난 6월 행정명령에서도 미국이 AI 선도국 지위를 유지하려면 과도한 규제를 피해야 한다는 방향을 분명히 했다.
반면 최근 AI 기업 최고경영자들과 연구자들 사이에서는 기술이 예상보다 빠르게 강력해지면서 독립적인 안전평가와 정부 개입이 필요하다는 목소리가 커지고 있다.
결국 미국의 AI 정책은 현재 두 목표 사이에 서 있다.
중국보다 빨리 개발해야 한다는 압력과, 통제할 수 없는 기술을 너무 빨리 만들면 안 된다는 압력이다.
Next Insight 분석 | ‘10억 명’보다 중요한 질문은 책임의 위치
게이츠의 ‘10억 명’ 발언은 강렬하다.
그러나 그것만 떼어내면 이번 논쟁의 본질을 놓칠 수 있다.
AI가 실제로 그 규모의 재앙을 일으킬 것이라는 예측이 입증된 것은 아니다. 게이츠가 제시한 것은 극단적 위험 가능성에 대한 경고다.
더 중요한 것은 위험이 현실화되기 전에 누가 책임지고 안전기준을 정할 것이냐는 질문이다.
지금까지 AI 산업의 안전체계는 상당 부분 개발기업이 스스로 만든 평가와 제한장치에 의존해왔다.
그러나 모델이 금융·전력·의료·국방·사이버보안처럼 사회 핵심 시스템에 깊숙이 들어갈수록 사고의 피해는 기업 한 곳의 문제로 끝나지 않는다.
미국과 중국이 AI 안전을 국가 정상 간 의제로 올리고, 세계적인 AI 기업의 CEO들까지 개발 속도와 안전기준을 공개적으로 논의하기 시작한 이유도 여기에 있다.
앞으로 AI 규제의 핵심은 ‘얼마나 강하게 규제하느냐’ 하나가 아니다.
기업이 정할 영역은 어디까지인지, 정부가 의무화할 기준은 무엇인지, 국경을 넘는 위험은 누가 감시할 것인지가 동시에 결정돼야 한다.
AI 경쟁이 빨라질수록 더 중요해지는 것은 기술의 최고 성능만이 아니다.
그 기술이 선을 넘었을 때 멈출 권한을 누가 가지고 있느냐는 것이다.
작성·취재 | Next Insight News 김귤연 기자
이메일 | nextinsight.news@gmail.com
카카오톡 | Next Insight News 비즈니스 채널
홈페이지 | nextinsightnews.com
참고자료
NBC News 「Meet the Press」 빌 게이츠 인터뷰 사전 공개 내용
미국 백악관 미·중 정상회담 결과 자료
미국 백악관 AI 혁신·안보 관련 행정명령
유엔 안전보장이사회 AI 안보 논의 자료
Anthropic 다리오 아모데이 AI 안전·개발 속도 관련 제안
OpenAI·주요 AI 기업 안전평가 및 외부 검증 관련 발표
#AI #인공지능 #빌게이츠 #AI규제 #AI안전 #자율규제 #미중정상회담 #트럼프 #시진핑 #NextInsightNews
Next Insight 분석을 정리해 보내드립니다.
