AI 위험에 관한 성명

2023년 5월 30일, 수백 명의 인공지능 전문가와 저명인사들이 다음과 같은 짧은 AI 위험에 관한 성명(Statement on AI Risk)에 서명했다.AI로 인한 멸종 위험을 낮추는 것은 팬데믹이나 핵전쟁과 같은 다른 사회적 규모의 위험과 더불어 전 지구적 우선순위가 되어야 한다.발표 당시 서명자에는 가장 많이 인용되는 컴퓨터 과학자이자 튜링상 수상자인 제프리 힌턴과 요슈아 벤지오를 포함한 100명 이상의 AI 교수들이 포함되었으며, 여러 주요 AI 기업(오픈AI, 구글 딥마인드, 앤트로픽 포함)의 과학 및 경영 지도자들, 그리고 팬데믹, 기후, 핵 군축, 철학, 사회과학 및 기타 분야의 전문가들이 참여했다. 언론 보도는 여러 IT 업계 리더들의 서명을 강조했으며, 이후 다른 신문들에서는 이 성명이 홍보 목적이나 규제 포획에 의해 동기 부여되었을 수 있다는 우려가 뒤따랐다. 이 성명은 AI 실험 일시 중지를 촉구하는 공개 서한이 발표된 직후에 공개되었다.

이 성명은 AI 연구 및 옹호 비영리 단체인 AI 안전 센터(Center for AI Safety)의 웹사이트에 게시되어 있다.
이러한 한 문장짜리 성명에 대한 아이디어는 당시 케임브리지 대학교 교수였던 데이비드 스콧 크루거가 처음 제안했다.
성명은 AI의 극단적인 위험에 대해 목소리를 내는 것이 여전히 어렵다는 점을 언급하며, 이 성명이 그러한 장애물을 극복하는 것을 목표로 한다는 설명과 함께 발표되었다. 센터의 CEO인 댄 헨드릭스는 "시스템적 편향, 허위 정보, 악의적 사용, 사이버 공격, 무기화" 등이 모두 "단순히 멸종 위험뿐만 아니라... 중요하고 시급한 AI의 위험"의 예시라고 말하며, "사회는 한 번에 여러 위험을 관리할 수 있다. '이것 아니면 저것'의 문제가 아니라 '이것도 그리고 저것도'의 문제다"라고 덧붙였다.

잘 알려진 서명자로는 샘 올트먼, 빌 게이츠, 다리오 아모데이, 피터 싱어, 대니얼 데닛, 샘 해리스, 그라임스, 스튜어트 J. 러셀, 얀 탈린, 비탈리크 부테린, 데이비드 차머스, 레이 커즈와일, 맥스 테그마크, 렉스 프리드먼, 마틴 리스, 데미스 허사비스, 던 송, 테드 리우, 일리야 수츠케버, 마틴 헬먼, 빌 맥키번, 안젤라 케인, 탕펑, 데이비드 실버, 앤드류 바토, 미라 무라티, 패티 메이즈, 에릭 호비츠, 피터 노빅, 조셉 시파키스, 에릭 브리뇰프슨, 이언 굿펠로, 바부람 바타라이, 케르스티 칼률라이드, 러스티 슈바이카르트, 니콜라스 페어팩스, 데이비드 하우스러, 피터 레일턴, 바트 셀먼, 더스틴 모스코비츠, 스콧 에런슨, 브루스 슈나이어, 마사 미노, 앤드류 레브킨, 롭 파이크, 제이콥 침머만, 라미 유세프, 제임스 페네베이커, 로널드 C. 아킨 등이 있다.

 reception 
영국 총리 리시 수낵은 이 성명을 리트윗하며 "정부는 이를 매우 주의 깊게 살펴보고 있다"라고 적었다. 이 성명에 대한 질문을 받은 백악관 대변인 카린 장피에르는 AI가 "현재 우리 시대에서 볼 수 있는 가장 강력한 기술 중 하나이다. 하지만 AI가 제시하는 기회를 잡기 위해서는 먼저 그 위험을 완화해야 한다"라고 언급했다.

서한에 대한 회의론자들은 무인 자동차에 관한 예측과 같이 AI가 특정 이정표를 달성하는 데 실패했다는 점을 지적한다. 또한 회의론자들은 서한의 서명자들이 AI 연구에 대한 자금 지원을 계속하고 있다고 주장한다. 기업들은 AI 알고리즘이 현재 가능한 것보다 훨씬 더 발전했다는 대중의 인식으로부터 이득을 얻을 수 있다는 것이다. 휴먼 라이츠 워치 출신을 포함한 회의론자들은 과학자들이 추측에 근거한 미래의 위험으로 주의를 돌리는 대신, 알려진 AI의 위험에 집중해야 한다고 주장해 왔다. 팀닛 게브루는 특히 "이들 회사에 수십억 달러를 쏟아부은 바로 그 사람들"이 AI 에이전시의 위험성을 부각하는 것을 비판했다. 에밀 P. 토레스와 게브루는 모두 이 성명이 TESCREAL 이데올로기에 의해 동기 부여되었을 수 있다고 시사하며 성명에 반대하는 논거를 제시했다.

 같이 보기 
 인공지능 관련 논란
 AI 정렬
 인공 일반 지능의 실존적 위험
 거대 AI 실험 일시 중지: 공개 서한

 각주 

분류:인공 일반 지능의 실존적 위험