hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
인공지능의 응용 더 읽어보기
Kaplan, A.M.; Haenlein, M. (2018). 《Siri, Siri in my Hand, who's the Fairest in the Land? On the Interpretations, Illustrations and Implications of Artificial Intelligence》. 《Business Horizons》 62. 15–25쪽. doi:10.1016/j.bushor.2018.08.004.
National Research Council (1999). 〈Developments in Artificial Intelligence〉. 《Funding a Revolution: Government Support for Computing Research》. National Academy Press. ISBN 978-0-309-06278-7. OCLC 246584055.
인공지능의 응용 더 읽어보기
Moghaddam, M. J.; Soleymani, M. R.; Farsi, M. A. (2015). 《Sequence planning for stamping operations in progressive dies》. 《Journal of Intelligent Manufacturing》 26. 347–357쪽. doi:10.1007/s10845-013-0788-0.
고사포형
고사포형(高射砲刑)은 북한의 사형 종류 중 하나로, 고사포로 발포해 사람을 터트리는 사형 방식이다.
추론 언어 모델
추론 언어 모델(Reasoning language model, RLM)은 여러 단계의 추론이 필요한 작업을 해결하도록 추가로 훈련된 대형 언어 모델이다. 이러한 모델은 표준 LLM보다 논리, 수학, 프로그래밍 작업에서 더 나은 성능을 보이는 경향이 있으며, 이전 단계를 재방문하고 수정할 수 있고, 훈련 예제 수, 매개변수, 훈련 연산량과 함께 성능을 확장하는 또 다른 방법으로 답변 중 추가 연산을 활용한다.
추론 언어 모델 개요
추론 언어 모델은 답을 내기 전에 내부적으로 사고 과정을 전개하거나 다수의 후보 해법을 생성·비교한다. 이는 (1) 사고 사슬(Chain‑of‑Thought) 등 프롬프트·디코딩 기법, (2) 질의마다 더 많은 계산을 투입하는 테스트 시점 계산 스케일링(샘플 수·사고 길이·탐색 폭 조정), (3) 과정 보상 모델(PRM)과 결과 보상 모델(ORM), 강화 학습 등 학습 방법으로 구현된다.
또한 엔지니어링 맥락에서 쓰는 인퍼런스(inference)(모델 서빙·실행)와 구분하여, 리저닝(reasoning)은 문제 분해·중간 단계 생성·자기 검증을 포함하는 인지적 과정을 가리킨다.
추론 언어 모델 역사
2024년 9월, 오픈AI는 향상된 추론 기능을 갖춘 LLM인 o1-preview를 출시했다. 전체 버전인 o1은 2024년 12월에 출시되었다. 오픈AI는 또한 후속 모델인 o3에 대한 결과도 공유하기 시작했다.
추론 LLM의 개발은 리치 서튼이 "씁쓸한 교훈"이라고 부른 것을 보여주었다. 즉, 연산량 확장이 특정 인간 통찰력에 의존하는 방법보다 종종 더 나은 성능을 발휘한다는 것이다. 예를 들어, 생성 AI 연구소(GAIR)는 o1의 기능을 재현하기 위해 트리 탐색 및 강화 학습과 같은 복잡한 방법을 탐구했다. "o1 복제 여정" 논문에서 그들은 지식 증류(o1의 출력을 모방하도록 더 작은 모델을 훈련하는 것)가 놀랍게도 잘 작동했다고 보고했다. 이는 이 맥락에서 증류의 효과를 강조했다.
알리바바는 2024년 11월에 Qwen LLM의 추론 버전을 출시했다. 2024년 12월에 팀은 실험적인 시각 추론 모델인 QvQ-72B-Preview를 선보였다.
2024년 12월, 구글은 여러 단계의 연구 작업을 수행하는 기능인 제미나이에 심층 연구를 도입했다.
추론 언어 모델 역사
2024년 12월 16일, 라마 3B 모델을 사용한 실험에서 테스트 시간 연산을 확장함으로써 비교적 작은 모델이 어려운 추론 작업에서 훨씬 큰 라마 70B 모델보다 더 나은 성능을 보인다는 것이 나타났다. 이는 더 나은 추론 전략이 작은 모델에서도 유용한 추론 기능을 발휘할 수 있음을 시사했다.
2025년 1월, 딥시크는 더 낮은 비용으로 o1과 비슷한 성능을 가진 모델인 R1을 출시했다. 이 출시는 Group Relative Policy Optimization (GRPO)의 효과를 입증했다. 2025년 1월 25일, 딥시크는 딥시크 R1에 모델이 추론하면서 웹을 검색할 수 있는 기능을 추가하여 검색과 추론을 더 쉽게 결합할 수 있게 했다. 오픈AI는 이후 o3-mini를 출시했으며, o3를 기반으로 하는 심층 연구를 출시했다. s1-32B는 예산 강제 및 스케일링 방법으로 강력한 성능을 달성하여 증류의 효과를 다시 한번 입증했다.
2025년 2월 2일, 오픈AI는 심층 연구를 출시했다. 이 도구는 추론과 웹 검색을 하나의 워크플로우로 통합하여 사용자가 여러 단계와 소스가 필요한 복잡한 연구를 수행할 수 있도록 한다. 이는 o3를 기반으로 하며 포괄적인 보고서를 생성하는 데 5분에서 30분이 걸릴 수 있다.
추론 언어 모델 지도 미세 조정
대형 언어 모델(LLM)은 예제 솔루션 및 단계별 (추론) 추적과 쌍을 이루는 추론 작업 데이터 세트에서 미세 조정될 수 있다. 그런 다음 미세 조정된 모델은 새로운 문제에 대해 자체 추론 추적을 생성할 수 있다.
사람이 작성한 추적은 수집하는 데 비용이 많이 들기 때문에 연구자들은 이러한 데이터 세트를 자동으로 구축하는 방법을 제안했다. 거부 샘플링 미세 조정(RFT)에서 새로운 추론 추적은 반복적으로 수집된다.
추론 언어 모델 강화 학습
사전 훈련된 언어 모델은 RL로 추가 훈련될 수 있다. RL 형식론에서 생성 언어 모델은 정책 이다. 태스크 프롬프트는 환경적 상태 이고, 모델의 응답은 액션 이다. 모델이 에 대해 로 응답할 확률은 이다.
RL로 추론 언어 모델을 훈련한다는 것은 RL 프로세스를 안내할 보상 모델 을 구축하는 것을 의미한다. 직관적으로, 보상은 응답이 프롬프트에 얼마나 좋은지를 나타낸다. 추론 작업의 경우, 응답이 작업을 해결하면 보상이 높고, 그렇지 않으면 낮다.
응답 는 과 같이 여러 단계로 나눌 수 있다.
최근 대부분의 시스템은 근접 정책 최적화(PPO)와 같은 정책-경사 방법을 사용하는데, PPO는 각 정책 업데이트를 잘린 목적 함수로 제한하여 매우 큰 정책의 훈련을 안정화하기 때문이다.
결과 보상 모델 또는 결과-감독 RM (ORM)은 최종 답변을 기반으로 단계 에 대한 보상을 제공한다: . 이러한 모델은 종종 "검증자"라고 불린다.
추론 언어 모델 강화 학습
수학 문제와 같이 답변을 쉽게 확인할 수 있는 작업의 경우 결과 보상은 이진적일 수 있다: 최종 답변이 맞으면 1, 그렇지 않으면 0이다. 자동 확인이 어려운 경우, 사람이 답변을 맞는지 틀리는지 레이블링할 수 있으며, 이러한 레이블은 사람의 레이블을 예측하는 기본 모델을 미세 조정하는 데 사용될 수 있다. 품질이 단순히 참 또는 거짓이 아닌 창작 글쓰기와 같은 작업의 경우, 인간 피드백을 통한 강화 학습에서와 같이 인간 순위 선호도 데이터를 기반으로 보상 모델을 훈련할 수 있다. 기본 모델은 부분적인 사고 추적 에서 최종 답변이 맞을지 예측하도록 미세 조정될 수 있으며, 이 예측은 이진 보상으로 사용될 수 있다.
ORM은 일반적으로 로지스틱 회귀를 사용하여 훈련된다. 즉, 교차 엔트로피 손실을 최소화한다.
PRM이 주어졌을 때, ORM은 추론 추적 중 총 프로세스 보상을 곱하거나, 최소값을 취하거나, 또는 프로세스 보상을 집계하는 다른 방법을 통해 구성될 수 있다. 딥시크는 간단한 ORM을 사용하여 R1 모델을 훈련했다.
추론 언어 모델 강화 학습
프로세스 보상 모델 또는 프로세스-감독 RM (PRM)은 현재까지의 단계인 만을 기반으로 단계 에 대한 보상을 제공한다.
부분적인 사고 추적 이 주어졌을 때, 사람은 최종 답변을 보지 않고도 현재까지의 단계가 올바른지 판단할 수 있다. 이는 이진 보상을 생성한다. 인간 레이블은 비용이 많이 들기 때문에, 기본 모델을 미세 조정하여 이를 예측할 수 있다. PRM은 일반적으로 인간 레이블에 대한 로지스틱 회귀로 훈련된다. 즉, 실제 레이블과 예측된 레이블 간의 교차 엔트로피 손실을 최소화한다.
예를 들어, 2023년 오픈AI 논문은 7만 5천 개의 사고 추적에 대해 80만 개의 프로세스 레이블을 수집했다. 레이블러는 추적을 보고 각 단계를 솔루션을 향해 나아가면 "긍정적", 틀리지 않지만 도움이 되지 않으면 "중립적", 실수이면 "부정적"으로 표시했다. 첫 "부정적" 레이블이 나오면 레이블러는 해당 추적을 중단하고 다른 추적으로 넘어갔다. 저자들은 나중 단계에 레이블링하는 것이 더 풍부한 신호를 줄 수 있지만, 첫 번째 오류까지 레이블링하는 것으로도 유능한 PRM을 훈련하기에 충분하다고 주장했다.
추론 언어 모델 강화 학습
인간 레이블을 피하기 위해 연구자들은 프로세스에 인간 레이블 없이 PRM을 생성하는 방법을 제안했다. 몬테카를로 트리 탐색(MCTS)에서 영감을 받아 Math-Shepherd 방법은 각 추론 단계 에서 시작하여 끝까지 여러 계속을 샘플링하고, 해당 단계에서의 보상을 "소프트 추정"의 경우  또는 "하드 추정"의 경우

로 설정한다. 이는 ORM으로부터 프로세스 보상을 생성하며, 이는 종종 더 쉽거나 저렴하게 구성할 수 있다. 그런 다음 이러한 레이블을 기반으로 PRM을 훈련할 수 있다. 일부 연구에서는 완전한 MCTS 접근 방식을 시도했다.
ORM을 사용하여 직접 선호 최적화와 유사하게 PRM을 암묵적으로 구성할 수도 있다.
훈련된 ORM은 최적의 응답을 선택하는 데 사용될 수 있다. 정책은 여러 응답을 생성하고 ORM이 최적의 응답을 선택한다. 이는 테스트 시간 연산 확장의 간단한 형태("Best-of-N")를 구현한다.
추론 언어 모델 강화 학습
훈련된 PRM은 탐욕적인 트리 탐색을 통해 추론을 안내할 수 있다. 정책은 여러 다음 단계를 제안하고 PRM이 하나를 선택하며 이 과정이 반복된다. 이는 전체 응답을 선택하기 위해 ORM을 사용하는 것과 유사하다. 빔 탐색은 탐욕적 탐색보다 성능이 좋다.
선행 탐색은 또 다른 트리 탐색 방법이다. 정책은 몇 가지 다음 단계를 제안한 다음 각 단계에 대해 짧은 롤아웃을 수행한다. 롤아웃 중에 솔루션이 발견되면 탐색이 조기에 중지된다. 그렇지 않으면 PRM이 각 롤아웃의 점수를 매기고 가장 높은 점수를 받은 단계가 선택된다.
자기 일관성은 ORM과 결합될 수 있다. 모델은 여러 답변을 생성하고, 각 클러스터가 동일한 최종 답변을 갖도록 답변이 클러스터링된다. ORM은 각 답변의 점수를 매기고, 각 클러스터의 점수가 합산되며, 가장 높은 점수를 받은 클러스터의 답변이 반환된다.
추론 언어 모델 벤치마크
추론 모델은 일반적으로 비추론 모델보다 많은 벤치마크, 특히 다단계 추론이 필요한 작업에서 더 높은 점수를 받는다.
일부 벤치마크는 추론 모델의 응답 시간이 더 길고 비용이 더 많이 들기 때문에 추론 모델을 제외한다.
HLE 벤치마크는 수학, 인문학, 자연 과학 전반에 걸친 전문가 수준의 추론을 테스트하며, 모델 간의 큰 성능 격차를 보여준다. 최신 추론 모델은 HLE에서 낮은 점수를 받아 개선의 여지가 남아있다. 예를 들어, 완전 추론 모델 o3는 26.6%를 기록한 반면, 경량 o3-mini-high(텍스트 전용 질문)는 13%를 기록했다.
어려운 수학 경시 대회인 AIME에서 비추론 모델은 일반적으로 문제의 30% 미만을 해결한다. 추론 방법을 사용하는 모델은 50%에서 80% 사이의 점수를 받는다. 오픈AI의 o1이 2024년에 보고된 결과에서 2025년 AIME 결과까지 정확도를 유지하거나 약간 향상시킨 반면, o3-mini(고)는 훨씬 낮은 비용(약 12배 저렴)으로 더 높은 정확도(80%)를 달성했다.
추론 언어 모델 벤치마크
오픈AI의 2025년 1월 o3-mini 보고서에 따르면, "추론 노력"을 조정하는 것은 특히 STEM 작업에서 성능에 큰 영향을 미친다. 낮은 추론 노력에서 높은 추론 노력으로 이동하면 AIME 2024, GPQA Diamond, Codeforces의 정확도가 일반적으로 10-30% 증가한다. 높은 노력으로 o3-mini(고)는 AIME(MathArena AIME 벤치마크와 다름)에서 87.3%, GPQA Diamond에서 79.7%, Codeforces에서 2130 Elo, SWE-bench Verified에서 49.3을 달성했다.
추론 언어 모델 단점
추론 모델은 비추론 모델보다 답변하는 데 훨씬 더 많은 연산량을 필요로 하는 경우가 많다. AIME에서 이들은 비추론 모델보다 10~74배 더 비쌌다.
추론은 응답 시간을 증가시키며, 현재 모델은 답변하는 데 몇 초에서 몇 분이 걸린다. 추론의 깊이가 증가함에 따라 미래 모델은 더 오랜 시간이 걸릴 수 있다.
추론 언어 모델 테스트 시점 계산 스케일링
동일 모델에 대해 시도 횟수(샘플 수), 사고 길이, 탐색 폭을 늘리거나 검증기(ORM/PRM)·검색을 결합해 성능을 높이는 방법이다. 최적의 테스트 시점 확장이 파라미터 확장보다 효율적일 수 있음이 보고되었다. 간단한 절차로 강한 성능을 달성한 s1‑32B와 budget forcing은 AIME·MATH 등에서 두드러진 결과를 보였다. 또한 자기 일관성·best‑of‑N 선택은 비용‑성능 절충을 제어하는 실무적 도구로 쓰인다.
추론 언어 모델 사실성 및 검증
고난도 추론에서 환각과 자기 모순을 줄이기 위해 자동 평가·탐지 기법이 병행된다. 긴 생성물의 원자적 사실 단위를 평가하는 FActScore와 도구 증강 기반의 FacTool이 제안되었다. 또한 의미적 엔트로피 등 불확실성 신호를 활용해 환각을 조기 탐지하는 통계적 방법이 보고되었다.
릴리스 관리
릴리스 관리(Release management)는 소프트웨어 빌드를 여러 단계와 환경에서 관리, 계획, 스케줄링 및 제어하는 프로세스이다. 여기에는 소프트웨어 릴리스를 테스트하고 배포하는 것이 포함된다.
릴리스 관리 프로세스와의 관계
애자일 소프트웨어 개발을 채택한 조직들은 훨씬 더 많은 양의 릴리스를 생산하고 있다. 애자일 개발의 인기가 높아지면서 지속적 전달로 알려진 새로운 소프트웨어 릴리스 접근 방식이 소프트웨어가 개발에서 릴리스로 전환되는 방식에 영향을 미치기 시작했다. 지속적 전달과 데브옵스의 한 가지 목표는 더 안정적인 애플리케이션을 더 빠르고 자주 릴리스하는 것이다. 애플리케이션이 "빌드"를 거쳐 다양한 환경에서 "릴리스"로 프로덕션에 이르는 과정은 지속적 전달 파이프라인의 일부이다. 릴리스 관리자들은 작업을 더 빠르고 안정적이며 반복 가능하게 자동화하여 지속적 전달 프로세스를 발전시키고 데브옵스 문화를 통합하는 데 도움이 되는 애플리케이션 릴리스 자동화 및 지속적 통합 도구를 활용하기 시작했다. 더 많은 소프트웨어 릴리스는 이러한 복잡한 애플리케이션 릴리스 프로세스를 실행하기 위한 릴리스 관리 및 자동화 도구에 대한 의존도를 높였다.
릴리스 관리 ITIL/ITSM과의 관계
IT 서비스 관리 패러다임, 특히 ITIL 프레임워크를 사용하여 IT 운영을 관리하는 조직에서는 릴리스 관리가 ITIL 개념 및 원칙의 지침을 받게 된다. 릴리스 관리와 관련된 몇 가지 공식적인 ITIL 프로세스가 있으며, 주로 릴리스 및 배포 관리 프로세스는 "릴리스를 테스트 및 라이브 환경으로 이동하는 것을 계획, 스케줄링 및 제어하는 것을 목표로 한다." 그리고 변경 활성화 프로세스이다. ITIL 조직에서는 애자일 개발 환경보다 릴리스가 덜 빈번한 경향이 있다. 릴리스 프로세스는 IT 운영팀이 IT 서비스 관리 티켓 시스템을 사용하여 관리하며, 릴리스 프로세스 자동화에 대한 초점은 덜하다.
특이점 연구
특이점 연구(singularity studies)는 기술적 특이점의 아이디어를 탐구하는 학제 간 연구 분야이다. 기술적 특이점은 인공지능이 인간 지능을 넘어설 수 있는 가설적인 시점으로, 인공지능(AI), 로봇공학 및 기타 기술과 과학에 의해 달성될 수 있으며, 그 사회적 영향도 함께 다룬다.
이 학문 분야에서는 정보과학, 로봇공학, 사회 정보학, 경제학, 철학, 윤리학 등 광범위한 영역에 걸쳐 연구가 진행된다. 특이점 연구의 주요 목표는 AI의 폭발적인 진화와 함께 발생하는 사회 시스템의 변화, 그리고 이러한 변화가 인간의 관점, 윤리 및 법률 시스템에 미칠 영향을 통합적으로 이해하는 것이다.
특이점 연구 역사
기술적 특이점에 대한 학술 연구는 1990년대 초부터 컴퓨터 과학, 철학, 사회학, 법 분야에서 나타났다.
지능 폭발에 대한 초기 논의는 1993년 공상 과학 작가 버너 빈지에 의해 대중화되었고, 이후 미래학자 레이 커즈와일에 의해 체계화되었다. 2010년대부터 옥스퍼드, 스탠퍼드, 게이오와 같은 대학들이 전담 프로그램을 설립했으며, 피어 리뷰 저널들은 시나리오 분석 및 정책 연구를 발표하기 시작했다. 현재 진행 중인 논쟁들은 특이점 시나리오의 예측 가치에 의문을 제기하고 기술에 대한 결정론적 관점에 대해 경고한다.
특이점 연구 연구의 특징
특이점 연구는 단순한 미래 예측을 넘어 바람직한 미래를 선제적으로 설계하고 창조하기 위한 지적 기반을 제공한다. 이 분야의 주요 연구 주제는 다음과 같다.
특이점 연구 도전과 전망
특이점 연구는 학문 분야로서 여전히 발전 중이며, 이론 체계화, 연구 방법론, 교육 커리큘럼과 관련하여 해결되지 않은 많은 과제가 남아 있다. 그럼에도 불구하고, 기술 및 사회 변화가 가속화되는 현대 시대에 학제 간 접근 방식은 중요성이 커지고 있으며, 학술 연구, 기업 간 협력 및 정책 기획 분야에서 많은 주목을 받고 있다.
특이점 연구 더 읽어보기
Good, I. J. (1965), 〈Speculations Concerning the First Ultraintelligent Machine〉,   Franz L. Alt; Morris Rubinoff, 《Advances in Computers Volume 6》 (PDF) 6, Academic Press, 31–88쪽, doi:10.1016/S0065-2458(08)60418-0, hdl:10919/89424, ISBN 9780120121069, 2001년 5월 27일에 원본 문서에서 보존된 문서, 2007년 8월 7일에 확인함
특이점 연구 더 읽어보기
마커스, 게리, "내가 인간인가?: 연구자들은 인공지능을 자연적인 것과 구별하는 새로운 방법이 필요하다", 사이언티픽 아메리칸, Vol. 316, No. 3 (2017년 3월), pp. 58–63. 여러 가지 인공지능 효능 테스트가 필요한데, "운동 능력을 테스트하는 단일 테스트가 없듯이, 지능에 대한 궁극적인 테스트는 하나일 수 없기" 때문이다. 그러한 테스트 중 하나인 "건축 챌린지"는 인식과 물리적 행동을 테스트할 것이다—"원래 튜링 검사에서는 완전히 빠져 있던 지능적 행동의 두 가지 중요한 요소"이다. 또 다른 제안은 기계에 학생들이 치는 과학 및 기타 분야의 동일한 표준화된 테스트를 제공하는 것이었다. 인공지능에 대한 지금까지 극복할 수 없는 난관은 신뢰할 수 있는 중의성 해소 능력 부족이다. "[사람들이 생성하는] 사실상 모든 문장은 종종 여러 면에서 모호하다." 한 가지 두드러진 예는 "대명사 중의성 문제"로 알려져 있는데, 기계는 문장의 대명사—"그", "그녀" 또는 "그것"과 같은—가 누구 또는 무엇을 가리키는지 판단할 방법이 없다.
스프레딩 액티베이션
스프레딩 액티베이션(spreading activation)은 연관 네트워크, 생물학적 신경망, 인공신경망 또는 시맨틱 네트워크를 검색하는 방법이다. 검색 과정은 일련의 원본 노드(예: 시맨틱 네트워크의 개념)에 가중치 또는 "활성화"를 부여한 다음, 해당 활성화를 원본 노드에 연결된 다른 노드로 반복적으로 전파 또는 "확산"함으로써 시작된다. 대부분의 경우 이러한 "가중치"는 네트워크를 통해 활성화가 전파될수록 감소하는 실수 값이다. 가중치가 이산적인 경우 이 과정은 종종 마커 전달이라고 불린다. 활성화는 다른 마커로 식별되는 대체 경로에서 시작될 수 있으며, 두 대체 경로가 동일한 노드에 도달하면 종료된다. 그러나 뇌 연구는 여러 다른 뇌 영역이 의미론 처리에서 중요한 역할을 한다는 것을 보여준다.
모델로서의 시맨틱 네트워크에서의 스프레딩 액티베이션은 인지심리학에서 팬 아웃 효과를 모델링하기 위해 발명되었다.
스프레딩 액티베이션은 문서와 해당 문서에 포함된 용어를 나타내는 노드 네트워크를 통해 정보 검색에도 적용될 수 있다.
스프레딩 액티베이션 인지심리학
인지심리학과 관련하여, 스프레딩 액티베이션은 뇌가 특정 정보를 검색하기 위해 연관된 아이디어 네트워크를 통해 반복하는 방식에 대한 이론이다. 스프레딩 액티베이션 이론은 우리 기억 속의 개념 배열을 인지 단위로 제시하는데, 각 단위는 노드와 그와 관련된 요소 또는 특성으로 구성되며, 이들은 모두 에지로 연결되어 있다. 스프레딩 액티베이션 네트워크는 웹 다이어그램의 형태로 도식적으로 표현될 수 있으며, 두 노드 사이의 짧은 선은 아이디어가 더 밀접하게 관련되어 있고 일반적으로 원래 개념과 더 빠르게 연관될 것임을 의미한다. 기억 심리학에서 스프레딩 액티베이션 모델은 사람들이 자신의 경험을 바탕으로 세상에 대한 지식을 조직하며, 이는 결국 개인의 세상 지식 네트워크를 형성한다고 주장한다.
스프레딩 액티베이션 인지심리학
단어 인식 과제에서 특정 단어(대상) 앞에 연관된 단어(프라임)가 오면 참가자들은 응답하는 데 걸리는 시간 면에서 더 나은 성과를 보이는 것으로 나타났다. 예를 들어, 피험자들은 "당근"과 같은 관련 없는 단어보다 "간호사"라는 단어 다음에 올 때 "의사"라는 단어에 더 빨리 반응한다. 인지 네트워크 내에서 의미가 가까운 단어와 함께 나타나는 이러한 의미 점화 효과는 문장 검증에서 어휘 판단 및 명명에 이르는 광범위한 실험 과제에서 관찰되었다.
다른 예시로, 원래 개념이 "빨간색"이고 "차량" 개념이 점화되었다면, 관련 없는 "체리" 대신 "소방차"라고 말할 가능성이 훨씬 높다. 만약 "과일"이 대신 점화되었다면, 그들은 "체리"를 지명하고 거기서부터 계속 이어갈 것이다. 네트워크에서 경로의 활성화는 두 개념이 의미적으로 얼마나 밀접하게 연결되어 있는지, 그리고 피험자가 어떻게 점화되는지와 전적으로 관련이 있다.
스프레딩 액티베이션 알고리즘
각 노드[ 1...N ]에는 [0.0 ... 1.0] 범위의 실수인 관련 활성화 값 A [ i ]가 있는 방향 그래프가 채워진다. Link[ i, j ]는 원본 노드[ i ]를 대상 노드[ j ]와 연결한다. 각 에지에는 일반적으로 [0.0 ... 1.0] 범위의 실수인 관련 가중치 W [ i, j ]가 있다.
매개변수:
단계:
스프레딩 액티베이션 각주
Karalyn Patterson, Peter J. Nestor & Timothy T. Rogers "Where do you know what you know? The representation of semantic knowledge in the human brain", Nature Reviews Neuroscience 8, 976-987 (December 2007)
합성 지능
합성 지능(Synthetic intelligence, SI)은 인공지능의 대체/반대 용어로, 기계의 지능이 모방이나 어떤 식으로든 인공적일 필요가 없으며, 진정한 형태의 지능일 수 있음을 강조한다. 존 하우겔란트는 모조 다이아몬드와 합성 다이아몬드의 비유를 제시하는데, 합성 다이아몬드만이 진정한 다이아몬드라는 것이다. 합성이란 합성에 의해 생산된 것, 즉 여러 부분을 결합하여 전체를 형성하는 것을 의미하며, 구어적으로는 자연적으로 발생한 것의 인간이 만든 버전을 말한다. 따라서 "합성 지능"은 인간이 만든 것이거나 그렇게 보이지만, 시뮬레이션은 아니다.
합성 지능 정의
이 용어는 1986년 하우겔란트가 그때까지의 인공지능 연구를 묘사하는 데 사용했으며, 그는 이를 "구식 인공지능" 또는 "GOFAI"라고 불렀다. 인공지능의 1세대 연구자들은 자신들의 기술이 기계에서 실제 인간과 같은 지능으로 이어질 것이라고 굳게 믿었다. 첫 번째 AI 겨울 이후, 많은 인공지능 연구자들은 인공 일반 지능에서 기계 학습과 같이 특정 개별 문제에 대한 해결책을 찾는 것으로 초점을 옮겼는데, 일부 대중적인 자료에서는 이러한 접근 방식을 "약한 AI" 또는 "응용 AI"라고 부른다.
"합성 인공지능"이라는 용어는 이제 이 분야의 연구자들이 자신의 작업(하위 기호, 출현, Psi-Theory, 또는 "진정한" 지능을 정의하고 생성하기 위한 기타 비교적 새로운 방법 사용)을 이전 시도, 특히 GOFAI 또는 약한 인공지능과 구별하기 위해 때때로 사용한다.
자료마다 "모방된" 지능과 대조되는 "진정한" 지능이 정확히 무엇을 구성하는지에 대해 의견이 일치하지 않으며, 따라서 인공지능과 합성 지능 사이에 의미 있는 구별이 있는지에 대해서도 의견이 일치하지 않는다. 러셀과 노빅은 이 예를 제시한다.
합성 지능 정의
드루 맥더못은 "생각한다"는 것을 "날다"와 같이 해석해야 한다고 굳게 믿는다. 전자 체스 챔피언 딥 블루에 대해 논하면서 그는 "딥 블루가 체스에 대해 진정으로 생각하지 않는다고 말하는 것은 비행기가 날개를 퍼덕거리지 않는다고 해서 진정으로 날지 않는다고 말하는 것과 같다"고 주장한다. 에츠허르 데이크스트라는 일부 사람들이 "기계가 생각할 수 있는지 여부의 질문이 잠수함이 수영할 수 있는지 여부의 질문만큼이나 관련성이 있다고" 생각한다는 데 동의한다.
반면에 존 설은 생각하는 기계는 기껏해야 시뮬레이션일 뿐이라고 제안하며, "누구도 5단계 화재의 컴퓨터 시뮬레이션이 이웃을 태워버리거나 빗속의 컴퓨터 시뮬레이션이 우리 모두를 흠뻑 젖게 할 것이라고 가정하지 않는다"고 썼다. 시뮬레이션된 마음과 실제 마음의 본질적인 차이는 그의 중국어 방 논증의 핵심 요점 중 하나이다.
합성 지능 정의
대니얼 데닛은 이것이 기본적으로 의미론에 대한 의견 불일치이며, 인공지능 철학의 핵심 질문과는 거리가 멀다고 믿는다. 그는 샤토 라투르의 화학적으로 완벽한 모방조차도 여전히 가짜이지만, 어떤 보드카든지 누가 만들었든 진짜라고 지적한다. 마찬가지로, 오리지널 피카소의 완벽한, 분자 단위의 재현은 "위조품"으로 간주되지만, 코카콜라 로고의 어떤 이미지든 완전히 진짜이며 상표법의 적용을 받는다. 러셀과 노빅은 다음과 같이 논평한다. "일부 경우에는 인공물의 행동이 중요하고, 다른 경우에는 인공물의 출신이 중요하다는 결론을 내릴 수 있다. 어느 경우가 어느 경우에 중요한지는 관습의 문제인 것 같다. 그러나 인공적인 마음에 대해서는 관습이 없다."
GOFAI
인공지능 철학에서 GOFAI(오래된 인공지능, Good Old-Fashioned Artificial Intelligence)는 신경망, 상황 로봇, 좁은 기호 AI 또는 신경-기호 AI와 같은 다른 접근 방식과 반대되는 고전적인 기호 AI이다.
이 용어는 철학자 존 하우겔란트가 1985년 저서 《인공지능: 바로 그 아이디어》에서 만들었다.
하우겔란트는 다음 두 가지 질문에 답하기 위해 이 용어를 만들었다.
AI 창시자 허버트 사이먼은 1963년에 이 두 질문에 대한 답이 "그렇다"라고 추측했다. 그의 증거는 그가 공동으로 작성한 논리 이론가 및 제너럴 프라블럼 솔버와 같은 프로그램의 성능과 인간 문제 해결에 대한 그의 심리 연구였다.
1950년대와 60년대의 AI 연구는 지적 역사에 엄청난 영향을 미쳤다. 그것은 인지 혁명을 고무시켰고, 인지 과학이라는 학문 분야의 설립으로 이어졌으며, 계산주의, 기능주의 및 윤리학에서의 인지주의에 대한 철학적 이론과 인지주의 및 인지심리학에 대한 심리학적 이론의 본질적인 예가 되었다. 이 혁명을 이끈 AI 연구의 특정 측면은 하우겔란트가 "GOFAI"라고 불렀던 것이다.
GOFAI 서구 합리주의
하우겔란트는 GOFAI를 서양 철학의 합리론 전통 안에 위치시킨다. 이 전통은 추상적인 이성이 "가장 높은" 능력이며, 그것이 인간을 동물과 분리시키는 것이고, 그것이 우리 지능의 가장 본질적인 부분이라고 주장한다. 이 가정은 플라톤과 아리스토텔레스, 윌리엄 셰익스피어, 토머스 홉스, 데이비드 흄과 존 로크에게 존재했으며, 계몽시대, 1930년대 논리실증주의자, 1960년대 계산주의자와 인지주의자에게 중요했다. 셰익스피어가 쓴 것처럼:
인간이란 얼마나 멋진 작품인가, 이성에 있어서는 얼마나 고귀하고, 능력에 있어서는 얼마나 무한한가... 이해력에 있어서는 얼마나 신과 같은가, 세상의 아름다움, 동물의 전형.
GOFAI 서구 합리주의
1960년대의 기호 AI는 논리적 연역, 대수학, 기하학, 공간 추론 및 목표-수단 분석을 포함한 고수준 추론 과정을 성공적으로 시뮬레이션할 수 있었으며, 이 모든 것은 인간이 추론할 때 사용했던 것과 똑같은 정확한 영어 문장으로 이루어졌다. 철학자, 심리학자 및 AI 연구자들을 포함한 많은 관찰자들은 그들이 지능의 본질적인 특징을 포착했다고 확신하게 되었다. 이것은 단순히 오만이나 추측이 아니라, 합리론에 의해 수반되는 것이었다. 만약 그것이 사실이 아니라면, 그것은 서양 철학 전통 전체의 상당 부분을 의문시하게 만든다.
대륙 철학은 프리드리히 니체, 에드문트 후설, 마르틴 하이데거 등을 포함하여 합리론을 거부하고 우리의 고수준 추론이 제한적이고 오류에 취약하며, 우리의 능력 대부분은 우리의 직관, 문화, 그리고 상황에 대한 본능적인 감각에서 비롯된다고 주장했다. 이 전통에 익숙한 철학자들은 휴버트 드라이퍼스와 하우겔란트처럼 GOFAI와 그것이 지능에 충분하다는 주장을 처음으로 비판했다.
GOFAI 하우겔란트의 GOFAI
철학, 심리학 또는 AI 연구 분야에서 하우겔란트의 입장을 비판하고 지지하는 사람들은 "GOFAI"를 정확하게 정의하기 어렵다고 생각했으며, 따라서 문헌에는 다양한 해석이 존재한다. 예를 들어, 드루 맥더못은 하우겔란트의 GOFAI 설명을 "비논리적"이라고 보며 GOFAI가 "신화"라고 주장한다.
하우겔란트는 “모든 GOFAI 이론에 필수적인 주장”의 철학적 함의를 고찰하기 위해 GOFAI라는 용어를 만들었다. 그는 그 주장을 다음과 같이 열거했다.
1. 사물을 지능적으로 다루는 우리의 능력은 그것들에 대해 합리적으로 생각하는 우리의 능력(잠재의식적 사고 포함)에 기인한다.
2. 사물을 합리적으로 생각하는 우리의 능력은 내부의 "자동적인" 기호 조작 능력에 해당한다. — Haugeland (1985, 113쪽)
이것은 1963년 허버트 사이먼과 앨런 뉴얼이 제안한 물리적 기호 시스템 가설의 충분한 측면과 매우 유사하다.
"물리적 기호 시스템은 일반 지능적 행동을 위한 필요충분한 수단을 갖는다."— Newell & Simon (1976, 116쪽)
또한 휴버트 드라이퍼스의 "심리학적 가정"과도 유사하다.
GOFAI 하우겔란트의 GOFAI
"마음은 형식적인 규칙에 따라 정보 비트를 조작하는 장치로 볼 수 있다."— Dreyfus (1979, 157쪽)
하우겔란트의 GOFAI에 대한 설명은 기호를 조작하기 위한 일련의 명령에 의해 지배되는 기호 조작을 의미한다. 그가 언급하는 "기호"는 <cat> 및 <mat>와 같이 명확한 의미가 할당된 개별적인 물리적 사물이다. 이는 신호, 또는 식별되지 않은 숫자, 또는 식별되지 않은 숫자의 행렬, 또는 디지털 기계의 0과 1을 의미하지 않는다. 따라서 하우겔란트의 GOFAI에는 사이버네틱스, 퍼셉트론, 동적 계획법 또는 제어이론과 같은 "오래된" 기술이나 신경망 또는 서포트 벡터 머신과 같은 현대 기술은 포함되지 않는다.
이 질문들은 GOFAI가 일반 지능에 충분한지 묻는다. 즉, 완전한 지능형 기계를 만드는 데 다른 어떤 것도 필요하지 않은지 묻는다. 따라서 하우겔란트의 GOFAI에는 신경-기호 AI와 같이 기호 AI를 다른 기술과 결합한 시스템은 포함되지 않으며, 특정 문제만을 해결하도록 설계되었고 일반 지능을 보일 것으로 예상되지 않는 좁은 기호 AI 시스템도 포함되지 않는다.
GOFAI 답변
스튜어트 J. 러셀과 피터 노빅은 휴버트 드라이퍼스와 존 하우겔란트를 언급하며 다음과 같이 썼다.
그들이 비판했던 기술은 오래된 인공지능(GOFAI)이라고 불리게 되었다. GOFAI는 가장 단순한 논리 에이전트 설계에 해당한다... 그리고 우리는... 적절한 행동의 모든 우발적 상황을 필요충분한 논리적 규칙 세트에 포착하는 것이 실제로 어렵다는 것을 알았다. 우리는 그것을 자격 문제라고 불렀다.
1980년대 이후의 후속 기호 AI 연구는 확률적 추론, 비단조 추론, 기계 학습과 같은 개방형 영역에 대해 보다 견고한 접근 방식을 통합했다.
현재 대부분의 AI 연구자들은 딥 러닝, 그리고 더 나아가 신경-기호 접근 방식의 통합(신경-기호 AI)이 일반 지능에 필요할 것이라고 믿는다.
AI 효과
AI 효과 또는 AI 이펙트(AI effect)는 인공지능 프로그램의 행동을 "진정한" 지능이 아니라고 할인하는 것이다.
저자 패멀라 맥코더크는 다음과 같이 썼다. "누군가가 컴퓨터가 무언가를 할 수 있도록 알아낼 때마다, 예를 들어 좋은 체스를 두거나 간단하지만 상대적으로 비형식적인 문제를 해결하는 것처럼, '그것은 사고가 아니다'라고 말하는 비평가들의 합창이 있었다는 것이 인공지능 분야의 역사의 일부이다."
연구원 로드니 브룩스는 다음과 같이 불평한다. "우리가 그 일부를 알아낼 때마다, 그것은 마법이 아니게 된다. 우리는 '아, 저건 그냥 계산이야'라고 말한다.'"
AI 효과 정의
"AI 효과"는 AI 시스템이 능숙하게 된 능력들을 배제하기 위해 AI의 정의나 지능의 개념이 조정되는 현상을 지칭한다. 이는 종종 AI가 성공적으로 수행할 수 있는 작업들이 더 이상 AI의 일부로 간주되지 않거나, 지능 자체의 개념이 AI의 성과를 배제하도록 재정의되는 방식으로 나타난다. 에드워드 가이스트는 존 매카시가 이 현상을 설명하기 위해 "AI 효과"라는 용어를 만든 공로를 인정한다.
매코더크는 "실용적인 AI의 성공, 지능적인 행동을 실제로 달성한 계산 프로그램들은 곧 유용성이 입증된 적용 분야에 흡수되어 다른 문제 해결 접근 방식들과 함께 조용한 동반자가 되었고, 이는 AI 연구자들이 아직 해결하지 못한 어려운 문제들, 즉 '실패작'들만 다루게 되었다"는 것이 "이상한 역설"이라고 부른다. 이는 목표 바꾸기의 한 예시이다.
AI 효과 정의
테슬러의 정리는 다음과 같다.
AI는 아직 이루어지지 않은 모든 것이다.— 래리 테슬러
더글러스 호프스태터는 이를 인용했고, 다른 많은 해설자들도 마찬가지이다.
아직 공식화되지 않은 문제들도 인간 계산을 포함하는 계산 모델로 특징지을 수 있다. 문제의 계산 부담은 컴퓨터와 인간 사이에 분할된다. 즉, 한 부분은 컴퓨터가 해결하고 다른 부분은 인간이 해결한다. 이러한 공식화는 인간 보조 튜링 기계라고 불린다.
AI 효과 AI 응용 프로그램의 주류화
AI 연구자들이 개발한 소프트웨어와 알고리즘은 이제 AI라고 불리지 않으면서도 전 세계의 많은 응용 프로그램에 통합되어 있다. 이러한 저평가는 컴퓨터 체스, 마케팅, 농업 자동화, 환대산업 및 광학 문자 인식과 같은 다양한 분야에서 알려져 있다.
마이클 스와인은 "요즘 AI 발전은 인공지능으로 크게 선전되지 않고, 종종 다른 분야의 발전으로 여겨진다"고 보고한다. 패트릭 윈스턴은 "AI는 덜 눈에 띌수록 더 중요해졌다"고 말한다. "요즘에는 AI 세계에서 개발되거나 성숙된 아이디어 덕분에 부분적으로 작동하지 않는 대규모 시스템을 찾기 어렵다."
스톨러 헨크에 따르면, "AI 응용 프로그램의 엄청난 실질적인 이점과 많은 소프트웨어 제품에 AI가 존재함에도 불구하고, 소프트웨어에 AI 기술이 이미 널리 사용되고 있음에도 불구하고 많은 사람들은 이를 거의 인식하지 못한다. 이것이 AI 효과이다. 많은 마케팅 담당자들은 자사 제품이 AI 기술에 의존하고 있음에도 불구하고 '인공지능'이라는 용어를 사용하지 않는다. 왜 그럴까?"
AI 효과 AI 응용 프로그램의 주류화
마빈 민스키는 다음과 같이 썼다. "이러한 역설은 AI 연구 프로젝트가 유용한 새로운 발견을 할 때마다 그 결과물이 고유한 이름을 가진 새로운 과학 또는 상업적 전문 분야로 빠르게 분리되었기 때문에 발생했다. 이러한 이름의 변경은 외부인들이 '인공지능의 핵심 분야에서는 왜 진전이 거의 보이지 않는가?'라고 묻게 만들었다."
닉 보스트롬은 "많은 최첨단 AI가 일반 응용 프로그램에 스며들었으며, 종종 AI라고 불리지 않는다. 왜냐하면 일단 어떤 것이 충분히 유용하고 흔해지면 더 이상 AI라고 불리지 않기 때문이다."라고 말한다.
공급망 위험 관리에서 의사 결정에 미치는 AI 효과는 매우 연구가 부족한 분야이다.
AI 효과 문제를 피하기 위해, IEEE 소프트웨어의 AI 및 소프트웨어 공학 특별호 편집자들은 처음부터 실제 달성 가능한 결과에 대해 과장하지 않을 것을 권고한다.
AI 효과 AI 응용 프로그램의 주류화
원자과학자회보 조직은 AI 효과를 전 세계적인 전략적 군사 위협으로 간주한다. 그들은 이 효과가 인공지능의 응용이 냉전 기간 동안 미국과 소련군 모두에 이미 진출했다는 사실을 모호하게 만든다고 지적한다. 무기 배포에 관해 인간에게 조언하는 AI 도구는 양측 모두에 의해 개발되었지만 그 기간 동안 사용은 매우 제한적이었다. 그들은 AI를 인식하지 못하는 이러한 끊임없는 변화가 오늘날에도 보안 위협에 대한 인간의 인식을 계속해서 훼손한다고 믿는다.
일부 전문가들은 AI 효과가 계속될 것이며, AI의 발전은 계속해서 반대와 대중의 기대에 대한 재정의를 낳을 것이라고 생각한다. 일부는 또한 AI 효과가 전문화된 인공지능의 무시를 포함하도록 확장될 것이라고 믿는다.
AI 효과 AI 겨울의 유산
1990년대 초반, 두 번째 "AI 겨울" 동안 많은 AI 연구자들은 "인공지능"이라는 나쁜 이름을 피하고 대신 자신들의 연구가 지능과 아무 관련이 없는 것처럼 가장하면 더 많은 자금을 얻고 더 많은 소프트웨어를 판매할 수 있다는 것을 알게 되었다.
패티 타살리는 2006년에 다음과 같이 썼다. "일부는 '로봇공학'이라는 단어가 실제로 회사의 자금 조달 기회를 해치는 낙인을 가지고 있다고 믿는다."
AI 효과 존재의 사슬 최상단에 인류를 위한 자리 남겨두기
마이클 컨스는 "사람들이 무의식적으로 우주에서 자신들의 특별한 역할을 보존하려고 노력한다"고 제안한다. 인공지능을 깎아내림으로써 사람들은 계속해서 자신들이 독특하고 특별하다고 느낄 수 있다. 컨스는 AI 효과로 알려진 인식의 변화가 시스템에서 미스터리가 제거된 데서 비롯될 수 있다고 주장한다. 사건의 원인을 추적할 수 있다는 것은 그것이 지능보다는 자동화의 한 형태임을 의미한다.
동물 인지 및 의식 연구의 역사에서도 관련 효과가 주목되었는데, 이전에 인간에게만 고유하다고 여겨졌던 능력(예: 도구 제작 능력 또는 거울 검사 통과)이 동물에게서 발견될 때마다 그 능력의 전반적인 중요성은 평가절하되었다.
AI 효과 존재의 사슬 최상단에 인류를 위한 자리 남겨두기
허버트 사이먼은 당시 AI에 대한 언론 보도가 부족한 것에 대해 질문을 받았을 때 다음과 같이 말했다. "AI를 특별하게 만든 것은 바로 그 아이디어가 일부 인간의 가슴속에 실제적인 두려움과 적대감을 불러일으킨다는 것이었다. 그래서 매우 강한 감정적 반응을 얻는 것이다. 하지만 괜찮다. 우리는 그것과 함께 살아갈 것이다."
뮐러는 1987년에 AI를 인간 지능과 비교할 것을 제안하며 인간 수준 기계 지능(Human-Level Machine Intelligence)이라는 기준을 만들었다. 그럼에도 불구하고 이는 다른 인간이 기준으로 사용될 때 AI 효과에 시달린다.
AI 효과 딥 블루, 카스파로프를 꺾다
IBM의 체스 컴퓨터 딥 블루가 1997년 가리 카스파로프를 이기는 데 성공했을 때, 체스 플레이에 대한 대중의 인식은 어려운 정신적 작업에서 일상적인 작업으로 바뀌었다.
대중은 딥 블루가 "무차별 대입 방식"만 사용했으며 진정한 지능이 아니라고 불평했다. 특히, AI 개척자이자 "인공지능"이라는 용어를 만든 존 매카시는 딥 블루에 실망했다. 그는 딥 블루를 게임에 대한 깊은 이해가 없는 단순한 무차별 대입 기계로 묘사했다. 매카시는 또한 AI 효과가 얼마나 널리 퍼져 있는지("작동하자마자 아무도 그것을 AI라고 부르지 않는다":12) 비판했지만, 이 경우에는 딥 블루가 좋은 예시라고 생각하지 않았다.
다른 한편으로, 프레드 A. 리드는 다음과 같이 썼다.
AI 지지자들이 정기적으로 직면하는 문제는 이것이다. 기계가 어떻게 "지능적인" 일을 하는지 알게 되면, 그것은 더 이상 지능적으로 간주되지 않는다. 내가 세계 체스 챔피언을 이긴다면, 나는 매우 똑똑하다고 여겨질 것이다.
AI 효과 추가 문헌
제임스 글릭, "The Fate of Free Will" (케빈 J. 미첼, Free Agents: How Evolution Gave Us Free Will, Princeton University Press, 2023, 333 pp. 서평), 뉴욕 리뷰 오브 북스, vol. LXXI, no. 1 (2024년 1월 18일), pp. 27–28, 30. "행위자성은 우리를 기계와 구별하는 것이다. 생물학적 생명체에게 이성과 목적은 세상에서 행동하고 결과를 경험하는 데서 비롯된다. 인공지능은 몸이 없고, 피, 땀, 눈물과는 거리가 멀어서 그런 기회를 가질 수 없다." (p. 30.)
AI 효과 추가 문헌
게리 마커스, "Am I Human?: Researchers need new ways to distinguish artificial intelligence from the natural kind", 사이언티픽 아메리칸, vol. 316, no. 3 (2017년 3월), pp. 58–63. "단일한 운동 능력 시험이 없듯이, 지능의 궁극적인 단일 시험도 있을 수 없기 때문에 인공지능의 효능에 대한 여러 시험이 필요하다. "이러한 시험 중 하나인 "건설 챌린지"는 인식과 신체적 행동을 시험할 것이다. "이는 원래 튜링 테스트에는 완전히 없었던 지능적 행동의 두 가지 중요한 요소이다." 또 다른 제안은 기계에 학생들이 치르는 것과 동일한 과학 및 기타 학문 표준화 시험을 치르게 하는 것이다. 인공지능에 대한 지금까지 극복할 수 없는 난관은 신뢰할 수 있는 중의성 해독 능력의 부족이다. "[사람들이 생성하는] 거의 모든 문장은 종종 여러 면에서 모호하다." 대표적인 예는 "대명사 해독 문제"로 알려져 있다. 즉, 기계는 문장의 대명사("그", "그녀" 또는 "그것"과 같은)가 누구 또는 무엇을 지칭하는지 결정할 방법이 없다.
AI 효과 추가 문헌
로이바이넨, 에카, "AI's IQ: 챗GPT는 [표준 지능] 시험에서 만점을 받았지만, 지능이 IQ만으로 측정될 수 없다는 것을 보여주었다", 사이언티픽 아메리칸, vol. 329, no. 1 (2023년 7월/8월), p. 7. "높은 IQ에도 불구하고 챗GPT는 실제 인간과 같은 추론이나 물리적, 사회적 세계에 대한 이해가 필요한 작업에서는 실패한다.... 챗GPT는 논리적으로 추론할 수 없는 것처럼 보였고, 온라인 텍스트에서 파생된 방대한 사실 데이터베이스에 의존하려고 했다."
A bachelor's thesis but cited by A. Poggi; G. Rimassa; P. Turci (10월 2002), “What Agent Middleware Can (And Should) Do For You”, 《Applied Artificial Intelligence》 16 (9-10), doi:10.1080/08839510290030444  다음 날짜 값 확인 필요: |date= (도움말), 위키데이터  Q58188053
블록헤드
블록헤드(blockhead)는 아래 뜻을 함의한다.
블록헤드 (사고 실험)
블록헤드(blockhead)는 철학자 네드 블록이 사고 실험의 일환으로 고안한 이론적인 컴퓨터 시스템으로, "심리주의와 행동주의"라는 제목의 논문에 등장했다. 블록은 논문에서 컴퓨터에 직접 이름을 붙이지는 않았다.
블록헤드 (사고 실험) 개요
"심리주의와 행동주의"에서 블록은 시스템의 내부 메커니즘이 그 시스템이 지능적인지를 결정하는 데 중요하다고 주장하며, 지능적이지 않은 시스템도 튜링 검사를 통과할 수 있음을 보여준다고 주장한다. 블록은 독자에게 주어진 시간 동안 지속되는 대화를 상상해 보라고 요청한다. 그는 언어의 본질을 고려할 때, 대화를 시작하는 데 사용할 수 있는 구문적으로나 문법적으로 올바른 문장의 수가 유한하다고 말한다. 따라서 첫 번째 문장에 대해, 그리고 두 번째 문장에 대해, 그리고 대화가 끝날 때까지 "분별 있는" 응답을 할 수 있는 수에는 한계가 있다. 그런 다음 블록은 이론적으로는 아니더라도 실제로는 모든 문장이 프로그램된 컴퓨터를 상상해 보라고 요청한다. 블록은 그러한 기계가 어떤 주제에 대해서든 사람과 대화를 계속할 수 있다고 주장하는데, 이는 컴퓨터가 사용할 수 있는 모든 문장으로 프로그램되어 있기 때문에 블록에 따르면 지능적이지 않음에도 불구하고 튜링 검사를 통과할 수 있기 때문이다. 블록은 이것이 지능을 생성하는 유일하게 올바른 내부 구조가 있다는 것을 보여주는 것이 아니라, 단지 일부 내부 구조는 지능을 생성하지 않는다는 것을 보여줄 뿐이라고 말한다.
블록헤드 (사고 실험) 개요
이 주장은 존 설의 중국어 방과 관련이 있다. 블록헤드 기계 자체는 대규모 언어 모델과 관련이 있으며, 따라서 이 사고 실험은 AI 채팅 시스템의 지능에 대한 논의와 관련이 있다.
블록헤드 (사고 실험) 추가 자료
Ben-Yami, Hanoch (2005), “Behaviorism and Psychologism: Why Block's Argument Against Behaviorism is Unsound”, 《Philosophical Psychology》 18 (2): 179–186, doi:10.1080/09515080500169470, S2CID 144390248 .
물리 기호 체계
물리 기호 체계 또는 피지컬 심볼 시스템(Physical symbol system)은 물리적 패턴(기호)을 사용하여 이를 구조(표현식)로 결합하고 조작(프로세스 사용)하여 새로운 표현식을 생성한다.
물리 기호 체계 가설(physical symbol system hypothesis, PSSH)은 앨런 뉴얼과 허버트 사이먼이 정립한 인공지능 철학의 한 입장이다. 그들은 다음과 같이 썼다:
"물리 기호 체계는 일반 지능 행동에 필요한 충분한 수단을 가지고 있다."
이 주장은 인간의 사고가 일종의 기호 조작(기호 체계가 지능에 필요하기 때문)이며, 기계가 지능적일 수 있다는 것(기호 체계가 지능에 충분하기 때문)을 암시한다.
이 아이디어는 토머스 홉스(추론은 "계산에 불과하다"고 주장), 고트프리트 빌헬름 라이프니츠(모든 인간 아이디어의 논리적 계산을 만들려고 시도), 데이비드 흄("원자적 인상"으로 환원될 수 있다고 생각한) 심지어 이마누엘 칸트(모든 경험을 형식 규칙에 의해 통제되는 것으로 분석한)에 철학적 뿌리를 둔다. 최신 버전은 철학자 힐러리 퍼트넘과 제리 포더와 관련된 계산주의 마음 이론이라고 불린다.
물리 기호 체계 예시
물리 기호 체계의 예시는 다음과 같다.
물리 기호 체계 가설은 다음 두 가지도 물리 기호 체계의 예시라고 주장한다.
물리 기호 체계 가설의 증거
앨런 뉴얼과 허버트 사이먼에게 "기호 조작"이 인간 지능과 기계 지능 모두의 본질이라는 것을 시사한 두 가지 증거는 인간에 대한 심리학 실험과 인공지능 프로그램의 개발이었다.
뉴얼과 사이먼은 논리, 계획, 또는 모든 종류의 "퍼즐 풀이"와 같은 어려운 문제에 대해 사람들이 신중하게 단계별로 진행하며, 여러 가지 가능한 방법을 고려하고, 가장 유망한 것을 선택하고, 막다른 길에 부딪혔을 때 후퇴하는 것을 보여주는 심리학 실험을 수행했다. 각각의 가능한 해결책은 단어, 숫자 또는 다이어그램과 같은 기호로 시각화되었다. 이것은 "기호 조작"이었다. 사람들은 퍼즐을 해결하는 일치하는 패턴을 찾기 위해 형식 체계를 반복적으로 탐색하고 있었다. 뉴얼과 사이먼은 사람들의 단계별 문제 해결 능력을 컴퓨터 프로그램으로 시뮬레이션할 수 있었다. 그들은 사람들과 동일한 알고리즘을 사용하고 동일한 문제를 해결할 수 있는 프로그램을 만들었다.
물리 기호 체계 가설의 증거
실험 심리학과 컴퓨터 모델을 모두 사용하는 이러한 유형의 연구는 휴버트 드라이퍼스에 의해 "인지 시뮬레이션"이라고 불렸다. 그들의 연구는 지대한 영향을 미쳤다. 1960년대의 인지 혁명뿐만 아니라 인지 과학과 심리학의 인지주의 분야를 창립하는 데 기여했다.
이러한 연구는 인간의 문제 해결이 주로 상위 수준 기호의 조작으로 구성된다는 것을 시사했다.
AI 연구의 초기 수십 년 동안 상위 수준 기호 처리를 사용하는 많은 프로그램이 있었다. 이 프로그램들은 매우 성공적이었고, 대수학 문장제 문제를 푸는 것(STUDENT), 논리에서 정리 증명(논리 이론가), 경쟁 체스를 배우는 것(아서 새뮤얼의 체스), 자연어로 의사소통하는 것(ELIZA, SHRDLU)과 같이 당시 많은 사람들이 기계에게는 불가능하다고 여겼던 기술들을 보여주었다.
이러한 프로그램의 성공은 기호 처리 시스템이 어떤 지능적인 행동도 시뮬레이션할 수 있음을 시사했다.