오픈AI 前연구원 "AI가 10년내 인류 멸종할 가능성 10% 넘어"

[미디어펜=김종현 기자] 오픈AI와 앤트로픽에서 연구원으로 일했던 AI 전문가가 인공지능이 향후 10년내 인류를 멸종으로 이끌 확률이 10%가 넘는다고 주장해 파문을 일으켰다.

9일(현지시간) CNBC 등에 따르면 오픈AI와 앤트로픽에서 연구원으로 일했던 제이콥 콕슨은 X에 올린 글을 통해 "오픈AI와 앤트로픽이 우리 생명을 가지고 도박을 하고 있다는 우려때문에 사임했다"고 밝혔다.

그는 "AI 개발자들은 AI가 향후 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿는다"고 말했다.

이어 "AI 기술의 위력을 과소평가하지 말라"면서 "머지않아 무엇이든 해킹하고, 어떤 분야든 하룻밤 사이에 혁신하며, 실질적인 권력과 자원을 획득할 수 있는 초인적 시스템이 될 것"이라고 했다.

콕슨은 "앤트로픽과 오픈AI는 모두 책임감 있게 행동하지 않고 있다. 스스로를 향상시키는 초지능을 향해 질주하고 있다"고 비난했다. 

앤트로픽과 오픈AI가 역사적인 기업공개(IPO)를 앞두고 점점 더 발전된 모델을 공개하는 가운데, 많은 연구자는 AI의 개발 속도를 늦춰야 한다고 촉구하고 있다.

앤트로픽의 '정렬과학(Alignment Science)' 책임자인 에번 휴빙거는 AI 업체들이 최선을 다하고는 있지만, 인간을 능가하는 '초지능'이 인류의 의도에 맞게 작동하도록 통제하는 문제(정렬 문제)을 아직 해결하지 못했고 해결 궤도에 올랐다고 보기도 어렵다고 우려했다.

오픈AI의 수석 과학자인 야쿠브 파초키는 최근 블로그 게시글에서 "공통의 안전장치가 마련될때까지 자발적인 속도 조절이 일반화되기를 기대한다"면서 "미래 인공지능 개발에 대한 국제적 협력이 전세계 정부의 최우선 과제가 되어야 한다고 생각한다"고 썼다.

민주당의 로리 트라한 하원의원(매사추세츠주)은 "AI 기업의 안전 연구원들은 사직하고 있고, 강력한 AI 모델들은 연구실을 벗어나고 있으며, 기업들은 그럼에도 불구하고 앞서나가고 있다"면서 "이제 의회가 방관자적 태도를 버리고 제역할을 해야할 때"라고 강조했다.