인공 일반 지능(AGI)의 출현 – 인간이 수행할 수 있는 모든 작업을 수행할 수 있는 시스템 -은 인류 역사상 가장 중요한 사건 중 하나일 수 있으며, 우리 모두의 삶의 모든 측면에 급격한 영향을 미칠 수 있습니다. 그러나 AGI는 곧 출현할 수 있는데도 여전히 모호하고 논란이 많은 개념입니다. 우리는 그것이 무엇인지 명확한 정의가 없으며, 우리는 어떻게 감지할 것인지, 그리고 최종적으로 나타나면 어떻게 다뤄야 할지 알지 못합니다.
그러나 우리가 알고 있는 것은 오늘날의 AGI 연구 방법이 충분히 엄격하지 않다는 것입니다. 많은 오늘날의 인공 지능의 기술적 발전이 이루어지는 산업 내에서는 OpenAI와 같은 기업들이 AGI를 만들려고 적극 노력하고 있지만, AGI의 사회적 측면과 안전 문제에 대한 연구는 회사 리더들의 판단에 따라만 포함됩니다. 학계는 AGI를 더 넓게 바라보며 새로운 지적 생명체의 특성을 찾아내지만, 학술 기관들은 상당한 노력을 위한 자원을 가지고 있지 않습니다.
AGI에 대해 생각하면, 인류에 변혁적인 영향을 줄 잠재적으로 잘 이해되지 않고 추측적인 현상을 떠올릴 수 있습니다. 우리는 고도의 외계 지능을 탐지하기 위한 SETI 연구소의 노력이 AGI 연구에 적용될 수 있는 몇 가지 가치 있는 개념을 시연한다고 믿습니다. 독단적이거나 선동적인 입장을 취하는 대신, SETI 프로젝트는 과학적으로 엄격하고 실용적인 접근을 취하며 가능한 외계 지능의 정의, 감지 및 해석에 대한 최상의 메커니즘을 마련합니다.
이번 포스팅에서는 IEEE Spectrum에 소개된 관련 내용을 전달해 보도록 하겠습니다.
개요
SETI의 아이디어는 우주 시대의 시작인 60년 전으로 거슬러 올라갑니다. 물리학자들인 지우제페 코콘니와 필립 모리슨은 1959년 Nature 논문에서 별간 통신을 탐색해야 한다는 필요성을 논의했습니다. 외계 문명의 존재와 기술적 성숙도에 대한 불확실성을 전제로, 그들은 외계 사회가 어떻게 의사소통을 시도할 것인지 이론화하고 메시지를 “들을” 최선의 방법에 대해 논의했습니다. 이러한 입장에서 우리는 모든 불확실성을 갖춘 AGI를 연구하는 유사한 접근 방식을 주장합니다.
인공 지능 연구자들은 아직 AGI가 나타날 가능성이 얼마나 높은지와 그것을 어떻게 감지할지에 대해 논의하고 있습니다. 그러나 AGI를 정의하는 데의 어려움과 측정하는 데의 어려움은 그것을 무시하거나 “보면 알겠지”라는 방식을 취하는 합당한 이유가 아닙니다. 그와는 반대로, 이러한 문제들은 AGI 탐지, 평가 및 대중 교육에 대한 학제간 접근 방식의 필요성을 강화시킵니다. 이는 AGI와 관련된 위험에 대한 과학적 접근을 포함합니다.
SETI와 같은 접근
지난 몇 년 동안 인공 지능 능력은 크게 발전해왔습니다. ChatGPT와 같은 챗봇을 구동하는 대형 언어 모델(LLM)은 인간과 신뢰성있게 대화할 수 있어, AGI에 대한 논의를 새롭게 되살렸습니다. 최근의 기사들은 ChatGPT가 “AGI의 반짝임”을 보여주며 추론할 수 있으며 많은 평가에서 인간을 능가한다고 언급했습니다.
이러한 주장들은 흥미롭고 신나지만, 회의적으로 생각할 이유가 있습니다. 사실, 많은 과학자들은 현재의 도구 세트가 우리를 진정한 AGI에 한 발자국도 가깝게 이끌어주지 않을 것이라고 주장합니다. 그러나 AGI와 관련된 위험을 고려할 때, 그것이 발생할 가능성이라도 있다면, 우리는 AGI에 대한 표준 정의를 개발하고, 그것을 탐지하기 위한 SETI와 유사한 접근 방식을 확립하고, 만약 나타날 경우 안전하게 상호 작용할 방법을 고안하는 진지한 노력을 기울여야 합니다.
AGI란
결정적인 첫 번째 단계는 정확히 무엇을 찾을지 정의하는 것입니다. SETI의 경우, 연구자들은 우주의 배경에 존재하는 다른 무선 신호와 구별되는 이른바 좁은 대역 신호를 찾기로 결정했습니다. 이러한 신호는 의도적이며 지능 생명체만이 생성한다고 여겨집니다.
AGI의 경우, 상황은 훨씬 더 복잡합니다. 오늘날 “인공 일반 지능”이라는 용어는 명확히 정의되어 있지 않습니다 (강한 인공 지능, 인간 수준의 지능, 초인공 지능과 같은 다른 용어도 비슷한 개념을 설명하는 데 널리 사용됩니다). 이 용어는 다른 부정확하고 논란이 많은 용어를 포함하고 있기 때문에 정의하기 어렵습니다. “지능”은 “지식과 기술을 습득하고 적용하는 능력”으로 옥스퍼드 사전에서 정의되어 있지만, 어떤 기술이 포함되며 어떻게 측정될 수 있는지에 대한 논쟁이 여전히 많이 있습니다. “일반”이라는 용어도 모호합니다. AGI가 인간이 할 수 있는 모든 일을 해야 할까요? 일반성을 이진 또는 연속 변수로 측정해야 할까요?
“AGI를 위한 SETI” 구성의 첫 번째 임무 중 하나는 연구 공동체가 이 용어들에 대해 구체적이고 일관된 방식으로 이야기할 수 있도록 “일반”과 “지능”이라는 용어를 명확히 정의하는 것입니다. 이러한 정의는 AGI 개념을 지지하는 학문 분야인 컴퓨터 과학, 측정 과학, 신경 과학, 심리학, 수학, 공학 및 철학에 근거해야 합니다. 이 용어들의 명확한 정의가 확립되면, 그것들을 측정하는 방법을 찾아야 합니다.
또한 진정한 AGI가 의식, 개성 및 자아의식을 포함해야 하는지에 대한 중요한 질문이 있습니다. 이 용어들도 여러 가지 정의가 있으며, 그것들과 지능 간의 관계가 명확해야 합니다. 의식이 지능에 필수적이지 않다고 일반적으로 생각되지만, 자아를 인식하는 기계를 만드는 것은 철학적, 사회적 및 법적 영향이 많이 발생할 수 있기 때문에 AGI에 대한 논의와 자주 얽힙니다. 새로운 대형 언어 모델이 인간보다 더 좋은 IQ 테스트 답변을 할 수 있는지 여부만큼 중요한 것이 실제로 의식이 있는 기계를 탐지하는 것일까요?
AGI의 측정
SETI의 경우, 후보 좁은 대역 신호가 감지되면 전문가 그룹이 실제로 외계 출처인지 확인합니다. 신호 유형과 출처를 살펴보고 반복 여부를 확인하는 등 확립된 기준을 사용하며, 추가적인 검증을 위해 여러 시설에서 모든 평가를 수행합니다.
컴퓨터 지능을 가장 잘 측정하는 방법은 분야에서 오랜 기간 동안 논의되어 왔습니다. 1950년 앨런 튜링이 제안한 “모방 게임”으로 더 잘 알려진 튜링 테스트는 인간 상대방이 자신이 인간과 대화하고 있는지 기계와 대화하고 있는지를 구별할 수 있는지를 평가합니다. 튜링 테스트는 과거 평가에 유용했지만, 대형 언어 모델의 등장으로 인해 지능을 측정하는 데 충분히 완전한 테스트가 아니라는 것이 명확해졌습니다. 튜링은 자신의 논문에서 모방 게임이 컴퓨터가 언어 생성 과정을 모방할 수 있는지 테스트하는 데 우수한 역할을 하지만, 언어 모방과 사고 간의 관계는 여전히 논의 중인 것으로 언급했습니다. 다른 기법이 반드시 필요할 것입니다.
이러한 평가는 지능의 다양한 측면에 집중되어야 합니다. 인간 지능의 측정 방법은 논란이 있지만, IQ 테스트는 한 가지 측면을 평가하는 초기 기준을 제공할 수 있습니다. 또한 창의적인 문제 해결, 빠른 학습과 적응, 추론, 목표 지향적 행동 및 자기 인식과 같은 주제에 대한 인지 테스트가 시스템의 일반 지능을 평가하기 위해 필요할 것입니다.
이러한 인지 테스트는 유용할 수 있지만, 인간을 위해 설계되었으며 컴퓨터에 적용되지 않을 수 있는 특정 기본 능력에 대한 가정을 포함할 수 있습니다. 예를 들어, 어떻게 훈련되느냐에 따라 기계는 IQ 테스트에서 매우 높은 점수를 얻을 수 있지만, 훨씬 더 간단한 작업을 해결하지 못할 수 있습니다. 또한, 인공 지능은 전통적인 테스트로 측정할 수 없는 다른 통신 방식과 능력을 가질 수 있습니다.
AGI 또는 그 하위 측면을 정확하게 측정하기 위한 새로운 평가를 설계할 명백한 필요성이 있습니다. 이 과정에는 AI에 대해 심층적으로 이해하는 다양한 분야의 연구자들이 필요하며 현재 사용 가능한 테스트에 익숙하고 창의력과 선견지명을 가지고 새로운 테스트를 설계할 수 있는 능력이 있어야 합니다. 이러한 측정 방법은 우리가 AGI에 대한 의미 있는 진전을 보았을 때 우리에게 경고할 것입니다.
한 번 표준 AGI 정의를 개발하고 감지 방법을 개발한 후, 발생하는 AGI에 대처할 방법을 고안해야 합니다.
AGI 다루기
이 새로운 지능 형태가 발견되면, 중요한 질문들이 불러일으킬 것입니다: 이 지능은 새로운 생명 형태인가요? 어떤 권리를 부여해야 할까요? 인간으로서 이 지능과 관련된 우리의 권리는 무엇인가요? 어떤 안전 문제가 발생하며, 이 AGI 엔티티를 다루고 우리 자신을 보호하는 방법은 무엇일까요?
이에 관해서 SETI는 유용한 영감을 제공합니다. SETI는 외계 지능의 증거를 처리하기 위한 프로토콜을 수립했는데, 이는 확인, 투명성 및 유엔과의 협력을 강조합니다. 이러한 프로토콜은 프로세스의 신뢰성을 향상시키고 선동적인 요소를 최소화하며 이러한 중요한 사건에 구조를 제공하는 것을 목표로 합니다.
외계 지능에 대한 우리의 접근과 유사하게, AGI와의 안전하고 안정적인 상호 작용을 위한 프로토콜이 필요합니다. 이러한 AGI 프로토콜은 새롭게 나타나는 AGI 속성을 확인하는 데 국제적으로 인정받는 프레임워크를 제공하여 투명성을 확보하고 국제 협력을 촉진하며 안전 조치를 시행하고 윤리적, 사회적 및 철학적 문제에 대응할 것입니다.
SETI에 대한 이 유사한 접근법은 도움이 되지만, 그 한계가 있음을 인식하는 것이 중요합니다. 외계 지능과는 달리 AGI는 인간이 만든 현상일 것이며, 공학적 노력을 통해 점진적으로 나타날 것입니다. 따라서 발견은 외계 생명체와 달리 몇 년 또는 수십 년에 걸쳐 발생할 수 있습니다.
진정한 AGI의 발견은 의심할 여지 없이 과학 역사상의 중요한 이정표가 될 것이며, 그 결과는 예측하기 어려울 것입니다. 이러한 가능성에 대비하기 위해 AGI를 정의하고 감지하고 관리하기 위한 체계적이고 종합적이며 원칙적이고 학제간 접근법을 채택해야 합니다. SETI에서 영감을 받아, 우리는 AGI 연구 공동체가 이러한 가장 중요한 발전에 대해 공정하고 과학적이고 투명하며 협력적인 대응을 보장하기 위한 유사한 프레임워크를 수립하도록 제안합니다.
마무리
이번 포스팅에서는 AGI의 발견이 과학사상 가장 중요한 발전 중 하나가 될 것으로 예측되며, 그 결과가 전적으로 예측할 수 없음을 강조했습니다. 이러한 가능성에 대비하기 위해 우리는 체계적이고 종합적이며 원칙적이며 학제간 접근법을 통해 AGI를 정의하고 감지하고 관리해야 합니다. SETI를 영감으로 삼아, AGI 연구 공동체가 이러한 중대한 발전에 대해 공정하고 과학적이며 투명하며 협력적인 대응을 취할 수 있도록 유사한 프레임워크를 수립할 것을 제안합니다.