티스토리 뷰
목차
AI로 가장 많이 버는 회사 대표들이 "속도를 늦춰야 한다"고 입을 모았습니다. 앤트로픽의 다리오 아모데이 CEO를 시작으로, 오픈AI 샘 올트먼, 스페이스X 일론 머스크, 구글 딥마인드 데미스 허사비스까지 네 명이 한목소리를 냈습니다. 기사를 처음 읽었을 때 솔직히 이건 예상 밖이었습니다. 장사 잘되는 가게 주인이 "손님 그만 받자"고 하는 격이니까요.
개발자들의 경고, 진심일까 계산일까
아모데이 CEO는 미국 CBS 인터뷰에서 "이것은 경고 신호"라며 AI 개발 속도를 늦춰야 한다고 직접 발언했습니다. 현재 AI 개발 곡선이 가팔라지기 시작하는 변곡점(inflection point)에 있다는 게 그의 진단이었습니다. 여기서 변곡점이란 성장 속도가 갑자기 급격히 바뀌는 시점을 말합니다. 완만하게 올라가다가 어느 순간 수직에 가깝게 꺾이는 그래프를 떠올리시면 됩니다.
제가 이 발언에서 가장 먼저 들었던 의문은 하나였습니다. "이 말로 누가 이득을 보는가?" 앤트로픽, 오픈AI, 구글 딥마인드는 이미 AI 개발 최전선에 있는 회사들입니다. 규제나 속도 조절 논의가 시작되면, 이미 앞서 있는 이들이 기준을 만드는 데 유리한 위치를 차지하게 됩니다. 사다리를 먼저 올라간 사람이 사다리 사용 규칙을 정하는 것과 비슷한 구조입니다.
물론 순수한 우려일 가능성도 배제할 수 없습니다. 실존적 위험(existential risk)이라는 개념이 AI 안전 연구 분야에서 오래전부터 논의됐습니다. 실존적 위험이란 인류 문명 전체를 위협하거나 되돌릴 수 없는 피해를 줄 수 있는 위협을 뜻합니다. 만드는 사람이 제일 가까이서 보니까, 외부에서는 안 보이는 무언가가 보일 수 있다는 건 저도 인정합니다. 제 경험상 어떤 시스템이든 가장 먼저 문제를 감지하는 건 그 안에서 실제로 작동시키는 사람들이었으니까요.
이 발언이 투자자에게 의미하는 것
오바마 전 대통령도 이 흐름에 합류해 AI를 통제하지 못하면 위험해질 수 있다며 민주당에 의제로 삼으라고 촉구했습니다(출처: KBS 뉴스). 한 사람의 발언이 아니라 정치권까지 연결된 흐름이라는 점이 눈에 들어왔습니다.
투자 공부를 하면서 AI 관련 기사를 읽을 때 저는 주로 수요와 공급, 실적과 기대를 봐왔습니다. 그런데 이 발언들을 보면서 처음으로 "규제"라는 변수를 진지하게 고민하게 됐습니다. 규제란 시장 수요가 아무리 넘쳐도 정치적 결정 하나로 판세를 뒤집을 수 있는 외부 변수입니다. 수백조 원 규모의 AI 인프라 투자 계획이 줄줄이 발표되고 있는 지금, 만약 속도 조절이 실제로 시작된다면 그 투자 계획들이 어떻게 될지 생각하면 머리가 복잡해집니다.
- 앤트로픽 아모데이 CEO: "이것은 경고 신호, 속도를 늦춰야 한다"
- 오픈AI 샘 올트먼, 스페이스X 일론 머스크, 구글 딥마인드 데미스 허사비스도 동조
- 오바마 전 대통령, 민주당에 AI 통제를 의제로 삼을 것 촉구
- 발언 배경에는 순수한 위험 우려와 선두 기업의 전략적 계산이 공존할 가능성
미중 패권 경쟁, 규제가 무기가 되는 순간
AI 안전 논의가 시작된 지 채 며칠도 안 돼 이야기는 완전히 다른 방향으로 흘렀습니다. 트럼프 대통령은 "우리는 AI 분야에서 중국을 앞서고 있다, 그 상태를 유지하고 싶다"며 속도 조절론에 선을 그었습니다. 중국 외교부 대변인 궈자쿤은 "위협론을 퍼뜨려 악의적 경쟁을 벌이는 것"이라고 반발했습니다. 안전 논쟁이 24시간도 안 돼 패권 경쟁 논쟁으로 바뀐 셈입니다.
제가 이 반응들을 보면서 실감한 건 하나였습니다. AI는 이미 기술이나 사업의 문제가 아니라 나라 간 힘겨루기의 문제가 됐다는 것. 이전에 읽었던 반도체 기사들에서 봤던 장면 — 고성능 AI 반도체의 대중국 수출 통제, 특정 기업 간 거래에 백악관 동의가 필요한 상황 — 과 정확히 같은 구조가 AI 산업 전반으로 확대된 느낌이었습니다.
여기서 수출 통제(export control)라는 개념을 짚고 넘어갈 필요가 있습니다. 수출 통제란 특정 기술이나 제품이 안보상 위협이 될 수 있는 국가나 주체에 넘어가지 않도록 정부가 수출을 제한하는 제도입니다. 미국은 이미 엔비디아의 고성능 AI 칩인 H100, A100 계열의 대중 수출을 사실상 금지한 상태입니다(출처: 미국 상무부 산업안보국(BIS)). 미국 AI 업계 일부에서 "중국에 고성능 AI 칩을 팔지 말아야 한다"는 주장이 나오는 것도 이 흐름의 연장선입니다.
아무도 먼저 브레이크를 못 밟는 구조
제가 이 상황에서 가장 답답하게 느낀 건 구조적인 딜레마입니다. 미국이 속도를 늦추면 중국이 따라잡고, 중국이 늦추지 않으면 미국도 못 늦춥니다. 모두가 위험하다는 걸 알아도 아무도 먼저 브레이크를 밟지 못하는 상황입니다. 학교에서 반 전체가 "다 같이 야간자율학습 줄이자"고 약속해도, 한 명이 몰래 공부하면 약속이 깨지는 것과 똑같은 구조입니다.
이런 문제는 한 나라의 결심만으로는 풀리지 않습니다. 게임 이론(game theory)에서 말하는 죄수의 딜레마(prisoner's dilemma)가 국가 단위로 작동하는 상황입니다. 게임 이론이란 상대방의 선택이 내 결과에 영향을 미치는 상황에서 최적의 전략을 분석하는 학문이고, 죄수의 딜레마란 개인 합리성이 집단 비합리성으로 이어지는 대표적인 사례입니다. 나라들 사이의 합의 없이는 풀기 어려운 문제인데, 미중 관계가 지금 그 합의를 기대할 수 있는 상태인지는 솔직히 회의적입니다.
그래서 제가 내린 역설적인 결론이 있습니다. 속도 조절론이 커지면 커질수록, 오히려 각국은 "그래도 우리가 먼저"라며 투자를 더 늘릴 가능성이 있습니다. 안전 논쟁이 당분간은 속도를 줄이지 못할 것이라는 게 제 짐작입니다. 시진핑 주석이 최근 브릭스(BRICS) 정상회의에서 AI 분야 우군 확보를 위한 외교전을 펼친 것도 같은 맥락으로 읽힙니다.
자주 묻는 질문
Q. AI 개발 속도 조절론이 실제로 규제로 이어질 가능성이 있나요?
A. 단기적으로는 실제 규제로 이어지기 어렵다고 봅니다. 미국과 중국 모두 서로를 앞서려는 경쟁이 더 급한 상황이라, 속도 조절 논의는 공론화 단계에 머무를 가능성이 높습니다. 다만 미중 정상회담 같은 외교 이벤트에서 AI 규제가 의제로 오르면 흐름이 바뀔 수 있어서, 관련 뉴스를 계속 챙겨볼 필요는 있습니다.
Q. 앤트로픽 같은 AI 기업이 속도를 늦추자고 하는 게 진짜 이유가 뭔가요?
A. 진심과 계산이 동시에 섞여 있다고 보는 게 가장 현실적입니다. 실제로 개발 최전선에서 위험 신호를 먼저 감지했을 가능성이 있는 동시에, 이미 앞서 있는 기업이 규제 논의를 주도하면 경쟁자의 진입을 늦추는 효과도 생깁니다. 어느 한 가지로만 단정 짓기보다, 두 가지 동기를 같이 고려하며 발언을 읽는 것이 유용합니다.
Q. AI 투자할 때 규제 변수를 어떻게 반영해야 하나요?
A. 수요·공급·실적 외에 정치·외교 뉴스를 함께 보는 습관이 필요합니다. 특히 미중 정상회담, 미국 상무부 BIS의 수출 통제 업데이트, 각국의 AI 규제 입법 동향이 실적보다 먼저 주가에 영향을 줄 수 있습니다. 경제 뉴스만이 아니라 외교·안보 뉴스도 같이 보는 것이 지금 시점에서는 더 정확한 그림을 잡는 데 도움이 됩니다.
Q. 중국이 미국의 AI 속도 조절론에 강하게 반발하는 이유가 뭔가요?
A. 중국 입장에서 미국발 속도 조절론은 기술 패권 유지를 위한 전략으로 읽힙니다. 미국이 규칙을 먼저 만들면 중국이 따라잡는 속도가 제도적으로 늦춰질 수 있기 때문입니다. 중국 외교부가 "개방적이고 포용적이며 모두에게 혜택이 돌아가도록 해야 한다"고 한 것도, 미국 주도의 규제 프레임에 묶이지 않겠다는 의지를 표현한 것으로 볼 수 있습니다.
결론
이 기사를 읽고 저는 AI 이야기의 챕터가 하나 바뀌었다는 느낌을 받았습니다. 지금까지가 "얼마나 벌 수 있나"를 묻는 챕터였다면, 이제 "어디까지 허용되나"를 묻는 챕터가 시작되고 있습니다.
단기간에 실제 규제가 시작될 것 같지는 않습니다. 오히려 경쟁이 더 달아오를 가능성이 높다고 봅니다. 하지만 그렇기 때문에 지금이 규제 변수를 투자 시각에 추가해야 할 타이밍이라고 생각합니다. 미중 정상회담 뉴스, 미국 BIS의 수출 통제 업데이트, 각국 AI 입법 동향을 실적 발표만큼 꼬박꼬박 챙겨보는 것, 그게 지금 제가 스스로 내린 숙제입니다.
참고: https://n.news.naver.com/article/056/0012257074?ntype=RANKING