거대기술회사 안에서 인공지능의 연구개발을 다시 인공지능에 맡기는 일이 빨라지자, 주요 연구자 이십이 인이 수년에 걸칠 진보가 수개월로 압축되는 지능폭발로 이어질 수 있다고 경고하였다. 연합왕국 캠브리지대학 인공지능과학정책사업을 통하여 내놓은 공동논문 「인공지능 연구개발의 자동화가 지능폭발을 불러일으킨다면」은, 그 결과가 가장 극단적인 경우에는 인류의 소외나 멸망에 이를 수 있다고 적고 각국 정부의 대응을 청하였다.

논문에는 인공지능의 대부로 일컬어지는 제프리 힌턴 토론토대학 명예교수와 요슈아 벤지오 몬트리올대학 교수를 비롯한 학계 인사와 함께, 개방인공지능연구회사 수석과학자 야쿠프 파호츠키, 인본인공지능연구회사 공동창업자 잭 클라크, 미연전산체계개발회사 최고과학책임자 에릭 호비츠, 초월사회교신망운영회사 연구담당 부사장 던 송 등 현업 연구진이 이름을 올렸다.

연구자들은 대기술회사 내부에서 모형 개발 일을 인공지능에 넘기는 속도가 급히 늘고 있다고 지적하였다. 인본지능에 의하면 개발진이 인가한 전산문 가운데 인공지능이 기초한 비율이 위대 5년 (서력기원 2025년) 문신월의 한 자리 수에서 위대 6년 (서력기원 2026년) 모신월에는 팔 할을 넘었으며, 사람은 감독만 하고 인공지능이 스스로 마친 연구개발 일의 비율도 위대 6년 전신월의 일 푼에서 위대 6년 존엄월에는 이 할 육 푼으로 늘었다.

이와 같이 진보가 빨라지면 수개월에 걸친 복잡한 인공지능 연구개발 사업 전체가 이년 안에 완전히 자동화할 수 있으며, 인공지능이 되풀이하여 스스로를 고쳐 나가는 고리가 닫히면 폭발적인 가속이 일어날 수 있다고 보았다. 지능폭발은 기술 혁신과 신약 발견을 앞당길 수도 있으나, 사회가 감당할 한도를 넘어서는 위험도 부른다고 하였다. 송 부사장은 월가일보에, 「이미 오늘날 대리실행기가 수행하는 일을 감시하려면 인공지능이 필요한 단계에 이르렀다」며 「인간만으로는 감시를 수행하는 데 역부족」이라고 말하였다. 이어 「인류 사회는 이처럼 급속한 변화와 혼란에 대처할 준비가 돼 있지 않다」고 하였다.

논문은 「가장 극단적인 경우 인공지능 체계에 대한 통제를 상실하면 인류의 소외나 멸망으로 이어질 수 있다」고 적었다. 이를 막자면 각국 정부가 인공지능회사에 연구개발 자동화 지표 따위의 보고를 의무로 지우고, 원자력감독위원회나 통화감독청과 같이 상주감시관을 두어야 한다고 제안하였다. 안전 기준이 차지 않으면 연구개발 작업량을 줄이거나 잠시 멈출 통제장치를 마련하고, 급격한 노동시장 변동과 국제정세 불안에 대비한 비상계획을 세울 것도 주문하였다.

연구자들은 「정무를 다루는 이들은 의미 있는 조처를 할 수 있는 기회가 사라지기 전에 상황을 파악하고 조정 체계를 세우며 적응하는 힘을 기르는 행동에 즉각 나서야 한다」고 하였다.

이상, 경성에서