AI 안전

**AI 안전**(AI safety)은 인공지능(AI) 시스템으로 인해 발생할 수 있는 사고, 오용 또는 기타 유해한 결과를 예방하는 것과 관련된 학제간 분야이다. AI 시스템을 도덕적이고 유익하게 만드는 것을 목표로 하는 기계 윤리와 AI 정렬을 포함하며, AI 안전은 시스템의 위험을 모니터링하고 신뢰성을 높이는 등 기술적 문제를 포함한다. AI 연구 외에도 안전을 증진하는 규범과 정책을 개발하는 것도 포함된다.

기술적인 연구를 넘어, AI 안전에는 안전을 증진하는 규범과 정책을 개발하는 것이 포함된다. 2023년에 생성형 인공지능이 급속히 발전하고 연구자와 CEO들이 잠재적 위험에 대해 대중의 우려를 표명하면서 상당한 인기를 얻었다. 2023년 AI 안전 정상회담 에서 미국과 영국은 모두 자체 AI 안전 연구소를 설립했다. 그러나 연구자들은 AI 안전 조치가 AI 역량의 급속한 발전 속도를 따라가지 못하고 있다는 우려를 표명했다.

## 동기
AI 연구자들은 AI 기술로 인해 발생하는 위험의 심각성과 주요 원인에 대해 매우 다른 의견을 가지고 있다. 그러나 설문조사에 따르면 전문가들은 높은 결과를 가져올 위험을 심각하게 받아들이고 있다. AI 연구자를 대상으로 한 두 차례의 설문조사에서 응답자의 중앙값은 AI 전반에 대해 낙관적이었지만 고급 AI의 "매우 나쁜(예: 인간 멸종)" 결과에 대해 5% 확률을 두었다. 자연어 처리(NLP) 커뮤니티를 대상으로 한 2022년 설문 조사에서 37%는 AI 결정이 "적어도 전면적인 핵전쟁만큼 나쁜" 재앙으로 이어질 수 있다는 것이 그럴듯하다는 데 동의하거나 약하게 동의했다. 학자들은 중요한 시스템 오류, 편견 및 AI 지원 감시로 인한 현재 위험에 대해 논의한다. (기술적 실업, 디지털 조작, 무기화로 인한 새로운 위험; 미래의 인공 일반 지능(AGI) 에이전트에 대한 통제력 상실로 인한 추측 위험)

일부에서는 AGI에 대한 우려를 비판했다. 예를 들어 앤드류 응은 2015년에 AGI를 "우리가 아직 지구에 발을 디디지도 않았는데 화성에 인구 과잉이 생기는 것을 걱정한다"고 비교했다. 반면에 스튜어트 J. 러셀(Stuart J. Russell)은 "인간의 독창성을 과소평가하는 것보다 기대하는 것이 더 낫다"고 주장하면서 주의를 촉구했다.

AI 연구자들은 AI 기술이 초래하는 위험의 심각성과 주요 원인에 대해 매우 다른 의견을 가지고 있다. 하지만 설문 조사에 따르면 전문가들은 중대한 결과를 초래할 수 있는 위험을 심각하게 받아들이는 것으로 나타났다. AI 연구자들을 대상으로 실시한 두 건의 설문 조사에서 중간 응답자는 AI 전반에 대해 낙관적이었지만 고급 AI의 "극도로 나쁜(예: 인간 절멸)" 결과에 대해서는 5%의 확률을 두었다. 2022년 자연어 처리 커뮤니티 설문 조사에서 37%가 AI 결정이 "전면적인 핵전쟁만큼이나 나쁜" 재앙으로 이어질 수 있다는 데 동의하거나 약하게 동의했다.

## 연구 초점
AI 시스템은 종종 적대적인 예시나 "공격자가 의도적으로 모델이 실수를 하도록 설계한 머신 러닝(ML) 모델에 대한 입력"에 취약하다. 예를 들어, 2013년에 Szegedy et al.은 이미지에 특정한 감지할 수 없는 교란을 추가하면 높은 신뢰도로 잘못 분류될 수 있음을 발견했다. 이는 신경망에서 여전히 문제로 남아 있지만 최근 작업에서는 교란이 일반적으로 감지할 수 있을 만큼 충분히 크다.
오른쪽|섬네일|신중하게 조작된 노이즈를 이미지에 추가하면 높은 신뢰도로 잘못 분류될 수 있다.
오른쪽의 모든 이미지는 섭동이 적용된 후 타조로 예측된다. (왼쪽)은 정확하게 예측된 샘플이고 (가운데)는 10배 확대하여 적용된 섭동이며 (오른쪽) 적대적 예시이다.

적대적 견고성은 종종 보안과 관련된다. 연구원들은 음성-텍스트 시스템이 공격자가 선택한 메시지로 오디오 신호를 변환할 수 있도록 눈에 띄지 않게 오디오 신호를 수정할 수 있음을 보여주었다. 네트워크 침입 및 악성 소프트웨어 탐지 시스템도 공격자가 탐지기를 속이도록 공격을 설계할 수 있으므로 적대적으로 강력해야 한다.

목표를 나타내는 모델(보상 모델)은 적대적으로도 견고해야 한다. 예를 들어, 보상 모델은 텍스트 응답이 얼마나 도움이 되는지 추정할 수 있으며 언어 모델은 이 점수를 최대화하도록 훈련될 수 있다. 연구자들은 언어 모델이 충분히 오랫동안 학습되면 보상 모델의 취약성을 활용하여 더 나은 점수를 얻고 의도한 작업에서는 더 나쁜 성능을 보인다는 것을 보여주었다. 이 문제는 보상 모델의 적대적 견고성을 개선하여 해결할 수 있다. 더 일반적으로, 다른 AI 시스템을 평가하는 데 사용되는 모든 AI 시스템은 적대적으로 견고해야 한다. 여기에는 모니터링 도구가 포함될 수 있으며, 이는 더 높은 보상을 얻기 위해 잠재적으로 조작될 수도 있기 때문이다.

특히 의료 진단과 같은 위험도가 높은 설정에서 인간 운영자가 AI 시스템을 얼마나 신뢰해야 하는지 판단하는 것이 종종 중요하다. ML 모델은 일반적으로 확률을 출력하여 신뢰도를 표현하지만, 특히 처리하도록 훈련받은 상황과 다른 상황에서는 종종 과도하게 자신감을 갖는 경우가 많다. 교정 연구의 목적은 모델 확률이 모델이 정확할 실제 비율에 최대한 가깝게 일치하도록 하는 것이다.

마찬가지로, 이상 감지 또는 분포 이탈(OOD) 감지는 AI 시스템이 비정상적인 상황에 처해 있는 경우를 식별하는 것을 목표로 한다. 예를 들어, 자율 주행 차량의 센서가 제대로 작동하지 않거나 까다로운 지형에 부딪히면 운전자에게 경고하여 제어권을 잡거나 차를 세우도록 해야 한다. 이상 감지는 이상 입력과 비이상 입력을 구별하기 위해 분류기를 훈련하는 것만으로 구현되었지만 다양한 추가 기술이 사용되고 있다.

신경망은 종종 블랙박스로 설명된다. 즉, 신경망이 수행하는 엄청난 수의 계산의 결과로 결정을 내리는 이유를 이해하기 어렵다는 의미이다. 이로 인해 실패를 예상하는 것이 어렵다. 2018년에는 자율주행차가 보행자를 식별하지 못해 보행자를 사망에 이르게 한 사건이 있었다. AI 소프트웨어의 블랙박스 특성으로 인해 실패 원인은 여전히 불분명한다. 또한 통계적으로 효율적이지만 불투명한 모델을 사용해야 하는지에 대한 의료계의 논쟁도 일고 있다.

투명성의 중요한 이점 중 하나는 설명 가능성이다. 예를 들어, 구직 신청서 자동 필터링이나 신용 점수 할당의 경우처럼 공정성을 보장하기 위해 결정이 내려진 이유에 대한 설명을 제공하는 것은 때때로 법적 요구 사항이다.

또 다른 이점은 실패의 원인을 밝히는 것이다. 2020년 COVID-19 팬데믹이 시작될 때 연구자들은 투명성 도구를 사용하여 의료 이미지 분류기가 관련 없는 병원 라벨에 '주의를 기울이고' 있음을 보여주었다.

투명성 기술은 오류를 수정하는 데에도 사용될 수 있다. 예를 들어, "GPT에서 사실적 연관성 찾기 및 편집" 논문에서 저자는 에펠탑의 위치에 대한 질문에 답하는 방식에 영향을 미치는 모델 매개변수를 식별할 수 있었다. 그런 다음 그들은 이 지식을 '편집'하여 모델이 타워가 프랑스가 아닌 로마에 있다고 믿는 것처럼 질문에 응답하도록 만들 수 있었다. 이 사례에서 저자는 오류를 유발했지만, 이러한 방법을 사용하면 잠재적으로 오류를 효율적으로 수정할 수 있다. 컴퓨터 비전에도 모델 편집 기술이 존재한다.

마지막으로, 일부에서는 AI 시스템의 불투명성이 상당한 위험의 원천이며 이 시스템이 어떻게 기능하는지 더 잘 이해하면 미래에 중대한 실패를 예방할 수 있다고 주장한다. "내부" 해석 가능성 연구는 ML 모델의 불투명도를 낮추는 것을 목표로 한다. 이 연구의 한 가지 목표는 내부 뉴런 활성화가 무엇을 나타내는지 식별하는 것이다. 예를 들어, 연구자들은 스파이더맨 의상을 입은 사람들의 이미지, 스파이더맨 스케치, '거미'라는 단어에 반응하는 CLIP 인공 지능 시스템의 뉴런을 식별했다. 여기에는 이러한 뉴런 또는 '회로' 간의 연결을 설명하는 것도 포함된다. 예를 들어, 연구자들은 언어 모델이 맥락에서 어떻게 학습하는지에 역할을 할 수 있는 변환기 주의의 패턴 일치 메커니즘을 식별했다. "내면적 해석 가능성"은 신경과학과 비교되었다. 두 경우 모두 목표는 복잡한 시스템에서 무슨 일이 일어나고 있는지 이해하는 것이지만 ML 연구자는 완벽한 측정을 수행하고 임의의 절제를 수행할 수 있다는 이점이 있다.
## 각주

## 같이 보기
* AI 정렬

## 외부 링크
* 
* 
* 
* AI Accidents: An Emerging Threat
* Engineering a Safer World

분류:인공지능
분류:사이버네틱스
분류:인공 일반 지능의 실존적 위험