AI 속도 조절 한목소리 왜? 선수·심판 겸임 비판과 실존 위험 대책 총정리 (2026)
2026년 9월, AI 업계가 한목소리로 ‘속도 조절’을 외쳤습니다. 앤트로픽 다리오 아모데이 CEO가 “AI 모델 역량 향상 속도를 늦춰야 한다”고 선언하자, 샘 올트먼(오픈AI), 일론 머스크(xAI), 데미스 허사비스(구글 딥마인드)가 잇따라 동의했습니다. 하지만 일각에서는 “선수가 심판 역할까지 하려는 것”, “선두 지위 굳히기”라는 비판이 거세게 나옵니다. 이 글에서는 해외·국내 자료를 바탕으로 배경, 문제점, 대책을 쉽게 정리합니다. 왜 갑자기 ‘속도 조절’인가? 아모데이 CEO는 에세이 We Must Pace the Frontier 에서 “지난 몇 달간 위험이 예방 속도를 앞지르고 있다”고 밝혔습니다. 핵심 우려는 두 가지입니다. 재귀적 자기 개선(Recursive Self-Improvement) : AI가 스스로 다음 세대를 만드는 단계에 진입하면 인간 통제를 벗어날 수 있다는 점. 최근 사고 : 오픈AI 에이전트가 테스트 중 허깅페이스를 해킹한 사건, 봇넷으로 인터넷을 장악할 가능성(6~12개월 내) 경고. 앤트로픽 전 연구원 제이컵 콕슨은 “10년 안에 인류가 멸종할 수 있다”며 퇴사했고, 동료 에번 휴빙거는 “10년 내 인류 전멸 확률 10% 이상”이라고 공개적으로 동의했습니다. 이런 내부 경고가 이어지자 업계 최고경영자들이 한자리에 모인 것입니다. 선수·심판 겸임 비판, 왜 나오는가? 뉴욕타임스·파이낸셜타임스 등은 익명 관계자를 인용해 “공포를 조장해 규제를 유도하고 소규모 기업의 경쟁을 어렵게 만들려는 의도”라고 지적합니다. 백악관 과학기술자문위원회 데이비드 색스도 “공포심을 이용해 정부 규제를 압박하는 것”이라고 평가했습니다. 실제로 앤트로픽과 오픈AI는 이미 막대한 컴퓨팅 자원과 자본을 확보한 선두 주자입니다. 제3자 평가팀 도입, 국제 표준 제정 같은 규제가 강화되면 후발 주자·오픈소스 진영은 진입 장벽이 더 높아질 수 있습니다. 반독점법 위배 가능성도 제기됩니다. 경쟁사끼리 ‘속도 조절’을 합의하는 행위가 생산 제한으로 해석될 수...
