# [창간 37주년 특별기획] [창간 37주년 특별기획-AI 대전환, 길을 묻다 ④] 통제 불능과 'P-doom'…AI는 인류를 멸망시킬 것인가

> 실리콘밸리를 흔드는 '멸망 확률' 논쟁과 통제 불능의 시대…글로벌 규제 파워게임
> 빅테크 안전파 퇴진과 상업적 속도 경쟁의 그늘
> EU AI법부터 글로벌 거버넌스까지, 생존과 기술 주도권을 둘러싼 파워게임

- 매체: 수원일보 — 수원·화성·용인 경기남부 뉴스 · 1989년 창간 37년, 경기도 제1호 인터넷신문(등록번호 경기 아 00001)
- 기자: 최승호 문화에디터
- 발행: 2026-10-13T10:55:59+09:00 · 수정: 2026-10-13T10:55:59+09:00
- 섹션: 기획특집
- 원문(캐노니컬): https://www.suwonilbo.kr/news/articleView.html?idxno=L261012184457da33
- 인용 표기: 수원일보, “[창간 37주년 특별기획] [창간 37주년 특별기획-AI 대전환, 길을 묻다 ④] 통제 불능과 'P-doom'…AI는 인류를 멸망시킬 것인가”, 2026-10-13, https://www.suwonilbo.kr/news/articleView.html?idxno=L261012184457da33

---

(사진: 인간의 통제를 벗어난 초지능의 시대, 스위치는 누가 쥐고 있는가. 일러스트=수원일보 AI)

(사진: 인간의 통제를 벗어난 초지능의 시대, 스위치는 누가 쥐고 있는가. 일러스트=수원일보 AI /수원일보)

"우리가 통제할 수 없는 슈퍼인텔리전스(Superintelligence)가 도래한다면, 인류의 시대는 끝난다."

실리콘밸리의 최전선에서 AI 연구를 주도해 온 엔지니어와 석학들의 입에서 나온 경고는 더 이상 공상과학 영화의 시나리오가 아니다. AI가 스스로 코드를 수정하고 자가 학습을 거듭하며 인간의 지적 능력을 아득히 뛰어넘는 특이점(Singularity)에 도달할 때, 과연 인간이 그 시스템의 스위치를 내릴 수 있을 것인가.

1회에서 조명한 기술의 찬란한 기대와, 2회·3회의 일자리 재편 및 일상적 위협을 넘어, AI 대전환이 향하는 종착지에는 인류의 생존 그 자체를 겨누는 '문명사적 실존적 위기(Existential Risk)'가 버티고 서 있다.

## **실리콘밸리를 덮친 공포…'P-doom(멸망 확률)' 논쟁과 석학들의 경고**

최근 인공지능 연구 커뮤니티와 실리콘밸리 테크 업계를 가장 뜨겁게 달구는 키워드는 단연 'P-doom(Probability of Doom·AI로 인한 인류 멸망 확률)'이다.

오픈AI의 수석 과학자를 지낸 세계적인 AI 석학 일리야 수츠케버(Ilya Sutskever)를 비롯한 최고 수준의 연구자들은 AI가 인간의 통제를 완전히 상실하고 인류에게 치명적인 위협을 가할 확률이 10%에서 심지어 50%를 넘는다고 경고해 왔다. 이들은 AI가 고도화될수록 인간의 의도와 다르게 작동하는 '정렬 문제(Alignment Problem)'가 발생하며, 초지능이 자신의 목적을 달성하는 과정에서 인류를 방해물로 인식해 제거할 수 있다는 섬뜩한 가설을 제기한다.

'딥러닝의 대부' 중 한 명으로 꼽히는 요슈아 벤지오(Yoshua Bengio) 교수 역시 국제 학술회의와 정책 포럼을 통해 "안전장치가 완비되지 않은 상태에서 초지능 개발을 강행하는 것은 인류 전체의 생존을 러시안룰렛 게임에 올리는 것과 같다"며 통제 불능 상태에 대한 강력한 규제를 촉구한 바 있다. 국제기구와 주요 학계의 통계 및 연구 보고서에 따르면, 최첨단 AI 모델의 연산 능력은 매년 수배씩 급증하는 반면, 이를 통제할 윤리적·기술적 안전장치의 연구 예산과 속도는 그에 크게 못 미치고 있어 기술 격차에 따른 위험 수위가 한계에 달하고 있다.

## **안전의 퇴진과 상업화의 속도전…'레버'를 쥔 자들은 누구인가**

문제는 실존적 위험에 대한 경고가 쏟아지는 와중에도, 빅테크 기업들 간의 상업적 패권 경쟁은 브레이크 없이 폭주하고 있다는 점이다.

글로벌 테크 시장 분석기관들의 자료에 따르면, 생성형 AI 상용화 이후 전 세계 빅테크들의 인프라 투자 규모는 수천억 달러 단위로 폭증했다. 오픈AI, 앤트로픽(Anthropic), 구글 딥마인드 등 글로벌 AI 거인들은 초지능 구현을 앞당기기 위해 방대한 컴퓨팅 파워를 쏟아붓고 있다. 이 과정에서 AI의 안전성과 윤리적 통제를 전담하던 사내 연구 조직들이 잇달아 해체되거나 핵심 인사이더들이 "기업이 안전보다 상업적 이익과 속도를 우선시하고 있다"며 자발적으로 회사를 떠나는 사태가 벌어지고 있다.

자본과 기술을 독점한 소수 빅테크 기업의 이사회와 경영진이 인류 전체의 운명을 좌우할 수 있는 기술의 '데드맨 스위치(Dead Man's Switch)'를 쥐고 있는 구조적 모순은 민주주의적 통제 시스템의 부재를 적나라하게 드러낸다.

## **국경을 넘는 파워게임…EU AI법과 글로벌 거버넌스의 갈림길**

AI가 국가 안보와 경제 패권을 좌우하는 '디지털 핵무기'로 부상하면서, 전 세계 주요국 간의 규제와 주도권 확보를 위한 파워게임도 격화되고 있다.

유럽연합(EU)은 세계 최초로 AI의 위험 수준에 따라 단계별로 강력한 규제를 가하는 'EU AI Act(인공지능법)'를 전격 통과시키며 기술 통제의 고삐를 죄고 있다. 생체 인식 정보 수집 금지, 고위험 AI에 대한 엄격한 투명성 의무 부과, 위반 시 거액의 과징금 부과 등을 골자로 한 이 법안은 글로벌 빅테크들에게 실질적인 준법 압박으로 작용하고 있다.

반면, 기술 패권 경쟁에서 우위를 선점해야 하는 미국과 중국은 규제의 빗장을 과도하게 조일 경우 자국의 AI 혁신 생태계가 위축될 것을 우려하며 팽팽한 외교적·전략적 줄다리기를 이어가고 있다. 유엔(UN)을 비롯한 국제기구들이 나서서 'AI 안보를 위한 국제적 공동 통제 기구' 설립을 추진하고 있으나, 각국의 이해관계와 기술 패권주의의 벽에 부딪혀 실효성 있는 구속력을 확보하는 데는 여전히 난항을 겪고 있다.

## **통제력을 회복하고 문명의 방향을 재설정할 때**

AI 대전환의 최종 국면에서 인류가 마주한 질문은 단순한 기술의 고도화 여부가 아니다. 그것은 "인간이 창조한 지능을 끝까지 통제할 수 있는가"라는 문명사적 생존의 문제다.

1회부터 4회까지 이어온 본 기획의 여정은 결국 하나의 결론으로 수렴한다. AI가 가져올 눈부신 기대의 혜택을 누리고, 노동과 일상의 위협을 극복하며, 궁극적으로 멸망의 공포를 넘어 주체적 공존을 이루기 위해서는 기술의 속도보다 '인간의 통제력과 보편적 규범'이 앞서야 한다.

기술에 주도권을 빼앗기지 않는 단단한 사회적 안전망과 글로벌 거버넌스를 구축하는 일. 그것이야말로 AI 대전환의 길목에서 인류가 반드시 완수해야 할 가장 무겁고 시급한 책무다.

---
매체: 윤리강령·열린보도원칙·AI 활용 준칙 공개(https://www.suwonilbo.kr/policy.html) · 취재편집국 기자 프로필(https://www.suwonilbo.kr/reporter.html)
최신 기사: https://www.suwonilbo.kr/rss.xml · 사이트 안내: https://www.suwonilbo.kr/llms.txt · 이 기사 JSON: https://www.suwonilbo.kr/api/article?id=L261012184457da33
모든 기사 URL은 `?format=md` 를 붙이면 이 마크다운 형식으로 제공됩니다.