AI가 여러 시스템에 실제로 도입되면서 급격한 발전이 이룸과 동시에 예상치 못한 문제도 종종 발생되는 것 같습니다. 그 중에서도 평화와 안보에 대한 문제가 가장 우려됩니다. 이번 포스팅에서는 IEEE Spectrum에 소개된 관련 내용을 소개합니다.
개요
오늘날 인공지능 혁신이 국제 평화와 안보에 심각한 영향을 미칠 수 있다는 사실을 민간 인공지능 커뮤니티의 많은 사람들이 깨닫지 못하는 것 같다. 그러나 연구원, 엔지니어, 제품 개발자, 산업 관리자 등 AI 실무자들은 AI 기술의 생애 주기 전반에 걸쳐 내리는 결정을 통해 위험을 완화하는 데 중요한 역할을 할 수 있다.
민간 AI 발전이 평화와 안보를 위협할 수 있는 다양한 방식이 있다. 일부는 AI 기반 챗봇을 사용하여 정치적 영향력을 행사하기 위한 허위 정보를 생성하는 것과 같은 직접적인 방식이다. 대형 언어 모델은 사이버 공격을 위한 코드를 생성하고 생물 무기 개발 및 생산을 촉진하는 데에도 사용될 수 있다.
다른 방식은 더 간접적이다. 예를 들어, AI 기업이 소프트웨어를 오픈 소스로 만들지 여부와 어떤 조건에서 그렇게 할지에 대한 결정은 지정학적 함의를 가지고 있다. 이러한 결정은 국가 또는 비국가 행위자가 중요한 기술에 접근하는 방식을 결정하며, 이는 군사 AI 응용 프로그램, 잠재적으로는 자율 무기 시스템 개발에 사용할 수 있다.
AI 기업과 연구자들은 이러한 도전 과제와 자신들이 할 수 있는 일에 대해 더 많이 인식해야 한다.
변화는 AI 실무자의 교육과 경력 개발에서 시작되어야 한다. 기술적으로 AI 연구자들이 자신들의 작업이 초래하는 위험을 식별하고 완화하는 데 사용할 수 있는 책임 있는 혁신 도구 상자에는 많은 옵션이 있다. 이들은 IEEE 7010: 자율 및 지능형 시스템이 인간 복지에 미치는 영향을 평가하기 위한 권장 실천, IEEE 7007-2021: 윤리적 로봇 및 자동화 시스템을 위한 온톨로지 표준, 그리고 미국 국립표준기술연구소의 AI 위험 관리 프레임워크에 대해 배울 기회를 가져야 한다.
기술의 사회적 영향과 기술 거버넌스 작동 방식에 대한 기초 지식을 제공하는 교육 프로그램이 있다면, AI 실무자들은 책임감 있게 혁신하고 규제의 의미 있는 설계자 및 실행자가 될 수 있을 것이다.
AI 교육에서 변화가 필요한 부분
책임 있는 AI는 일반적으로 AI 교육에서 다루지 않는 다양한 능력을 필요로 한다. AI는 더 이상 순수 STEM 학문으로 취급되어서는 안 되며, 기술 지식뿐만 아니라 사회 과학과 인문학의 통찰을 요구하는 초학제적 학문으로 간주되어야 한다. 기술의 사회적 영향과 책임 있는 혁신에 대한 필수 과정뿐만 아니라 AI 윤리 및 거버넌스에 대한 구체적인 교육이 있어야 한다.
이러한 과목들은 AI 학위를 제공하는 모든 대학의 학부 및 대학원 과정에서 필수 커리큘럼의 일부가 되어야 한다.
기술의 사회적 영향과 기술 거버넌스 작동 방식에 대한 기초 지식을 제공하는 교육 프로그램이 있다면, AI 실무자들은 책임감 있게 혁신하고 의미 있는 AI 규제의 설계자 및 실행자가 될 수 있을 것이다.
AI 교육 커리큘럼을 변경하는 것은 작은 일이 아니다. 일부 국가에서는 대학 커리큘럼 변경이 장관급의 승인을 필요로 한다. 제안된 변경 사항은 문화적, 관료적 또는 재정적 이유로 내부 저항에 직면할 수 있다. 또한, 기존 강사들의 새로운 주제에 대한 전문 지식이 제한적일 수 있다.
하버드 대학교, 뉴욕 대학교, 소르본 대학교, 우메오 대학교 및 헬싱키 대학교를 포함하여 점점 더 많은 대학이 이러한 주제를 선택 과목으로 제공하고 있다.
모든 경우에 동일한 교육 모델이 필요하지는 않지만, 전담 직원 채용 및 훈련을 위한 자금이 필요하다.
책임 있는 AI를 평생 교육에 추가하기
AI 커뮤니티는 실무자들이 경력 전반에 걸쳐 이러한 주제에 대해 계속 배울 수 있도록 AI 연구의 사회적 영향에 대한 지속적인 교육 과정을 개발해야 한다.
AI는 예상치 못한 방식으로 발전할 것이다. 그 위험을 식별하고 완화하려면 연구원과 개발자뿐만 아니라 그 사용으로 인해 직접적 또는 간접적으로 영향을 받을 수 있는 사람들을 포함한 지속적인 논의가 필요하다. 잘 구성된 평생 교육 프로그램은 모든 이해관계자의 통찰을 반영해야 한다.
일부 대학과 민간 기업은 이미 AI 도구의 영향을 평가하는 윤리 검토 위원회와 정책 팀을 보유하고 있다. 이 팀들의 임무는 보통 교육을 포함하지 않지만, 조직 내 모든 사람에게 교육 과정을 제공하도록 역할을 확대할 수 있다. 책임 있는 AI 연구에 대한 교육은 개인의 관심사에만 국한되지 않고 장려되어야 한다.
IEEE 및 컴퓨터 학회(Association for Computing Machinery)와 같은 조직은 정보를 통합하고 대화를 촉진할 수 있는 위치에 있기 때문에 지속적인 교육 과정을 설정하는 데 중요한 역할을 할 수 있으며, 이는 윤리적 규범의 확립으로 이어질 수 있다.
더 넓은 세계와의 교류
AI 실무자들이 AI 연구 커뮤니티의 경계를 넘어 잠재적 위험에 대한 지식을 공유하고 토론을 촉발할 필요가 있다.
다행히도, 소셜 미디어에는 국가 및 비국가 행위자에 의한 민간 기술 오용을 포함한 AI 위험에 대해 활발히 토론하는 수많은 그룹이 이미 존재한다. 또한 AI 연구 및 혁신의 지정학적 및 보안적 함의를 다루는 책임 있는 AI에 초점을 맞춘 특수 조직들도 있다. 여기에는 AI Now Institute, Centre for the Governance of AI, Data and Society, Distributed AI Research Institute, Montreal AI Ethics Institute, Partnership on AI 등이 포함된다.
그러나 이러한 커뮤니티는 현재 너무 작고 충분히 다양하지 않다. 가장 두드러진 구성원들이 대개 유사한 배경을 공유하기 때문이다. 다양성이 부족하면 이 그룹들은 소외된 인구에 영향을 미치는 위험을 간과할 수 있다.
더욱이, AI 실무자들은 AI 연구 커뮤니티 외부의 사람들, 특히 정책 입안자들과 교류하는 방법에 대한 도움과 지도가 필요할 수 있다. 비기술적인 사람들이 이해할 수 있는 방식으로 문제나 권장 사항을 설명하는 것은 필수적인 기술이다.
기존 커뮤니티를 성장시키고, 더 다양하고 포용적으로 만들며, 사회의 나머지 부분과 더 잘 교류할 수 있는 방법을 찾아야 한다. IEEE와 ACM 같은 대규모 전문 조직은 전문가로 구성된 전담 작업 그룹을 만들거나 AI 회의에서 특별 세션을 마련하는 방식으로 도움을 줄 수 있다.
대학과 민간 부문도 AI의 사회적 영향 및 AI 거버넌스에 초점을 맞춘 직책과 부서를 만들거나 확장함으로써 도움을 줄 수 있다. 우메오 대학교는 최근 이러한 문제를 다루기 위해 AI 정책 연구소(AI Policy Lab)를 설립했다. Anthropic, Google, Meta, OpenAI를 포함한 여러 기업은 이러한 주제에 전념하는 부서나 유닛을 설립했다.
전 세계적으로 AI를 규제하려는 움직임이 증가하고 있다. 최근 개발에는 UN 인공지능 고위자문기구와 군사 분야의 책임 있는 인공지능을 위한 글로벌 위원회의 창설이 포함된다. G7 지도자들은 히로시마 AI 프로세스에 대한 성명을 발표했고, 영국 정부는 작년에 첫 AI 안전 정상 회담을 주최했다.
규제 당국이 직면한 핵심 질문은 AI 연구자들과 기업들이 책임감 있게 기술을 개발할 수 있는 신뢰성을 갖추고 있는지 여부이다.
우리의 견해로는, AI 개발자들이 위험에 대한 책임을 지도록 보장하는 가장 효과적이고 지속 가능한 방법 중 하나는 교육에 투자하는 것이다. 오늘날과 내일의 실무자들이 미래의 AI 규제의 효과적인 설계자 및 실행자가 되기 위해서는 그들의 작업에서 발생하는 위험을 다룰 기본 지식과 수단을 갖추어야 한다.
마무리
이번 포스팅에서는 인공지능 실무자들이 직면한 도전 과제와 그들이 사회적 영향을 고려하여 책임감 있게 기술을 개발할 수 있는 방법에 대해 다루었습니다. AI 교육의 변화 필요성과 교육 프로그램에서 기술의 사회적 영향과 기술 거버넌스에 대한 기초 지식을 제공하는 중요성을 강조했습니다. 또한, AI 커뮤니티가 더 넓은 세계와 교류하고, 다양성과 포용성을 증진하며, 정책 입안자들과 효과적으로 소통하는 방법을 제시했습니다. 마지막으로, AI 개발자들이 미래의 AI 규제를 책임감 있게 설계하고 실행할 수 있도록 교육에 대한 투자의 필요성을 논의했습니다. 이 글이 인공지능 분야에서 책임 있는 혁신을 위한 새로운 관점을 제공하고, 관련된 논의를 확장하는 데 기여하기를 바랍니다.