챗GPT를 개발한 오픈AI, 알파고를 만든 구글 딥마인드 등 대표 AI 기업의 전현직 직원 13명이 6월 4일 ‘첨단 AI에 대한 경고 권리(Right to Warn)’라는 제목의 공동 성명을 발표했다. 이들은 인공지능이 좋은 일을 할 수 있는 거대한 잠재력을 가지고 있다고 믿지만, 적절한 안전장치가 없다면, 그 기술이 광범위한 해를 끼칠 수 있다고 걱정했다. 또 인공지능(AI)이 야기할 위험에 대응하려면 내부 고발자 보호가 꼭 필요하다는 점도 강조했다. 다음은 입장문 전문이다.(https://righttowarn.ai/#fn-4)
첨단 인공지능에 대한 경고할 권리
(A Right to Warn about Advanced Artificial Intelligence)
우리는 프론티어 AI 회사의 전·현직 직원이며, AI 기술이 인류에게 전례 없는 혜택을 제공할 수 있는 잠재력을 믿는다.
우리는 또한 이러한 기술에 의해 야기되는 심각한 위험을 이해한다. 이러한 위험은 기존의 불평등을 더욱 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인간의 멸종을 초래하는 자율적인 인공지능 시스템의 통제 상실까지 다양하다. 전 세계의 정부와 다른 인공지능 전문가와 마찬가지로 인공지능 회사 자체도 이러한 위험을 인정했다.
우리는 과학계, 정책 입안자, 대중의 충분한 지침으로 이러한 위험을 적절히 완화할 수 있기를 희망한다. 그러나 AI 기업은 효과적인 감독을 피할 수 있는 강력한 재정적 유인을 가지고 있으며, 기업 지배 구조의 맞춤형 구조가 이를 변화시키기에 충분하다고 생각하지 않는다.
인공지능 기업은 시스템의 기능과 한계, 보호 조치의 적절성, 다양한 종류의 위해 위험 수준에 대한 상당한 비공개 정보를 보유하고 있다. 그러나 현재 그들은 이러한 정보 중 일부를 정부와 공유할 의무가 약할 뿐 시민 사회와 공유할 의무는 없다. 우리는 그들 모두가 자발적으로 공유할 수 있다고 생각하지 않는다.
이들 기업에 대한 정부의 효과적인 감독이 없는 한, 전현직 직원들은 대중에 대한 책임을 물을 수 있는 몇 안 되는 사람들 중 하나이다. 그러나 광범위한 기밀 유지 협정들은 이러한 문제들을 해결하지 못하고 있을 수도 있는 바로 그 회사들을 제외하고는 우리가 우려하는 목소리를 내는 것을 막는다. 일반적인 내부고발자 보호는 불법행위에 초점을 맞추고 있기 때문에 불충분하지만, 우리가 우려하는 많은 위험들은 아직 규제를 받지 않고 있다. 우리 중 일부는 업계 전반에 걸쳐 이러한 사건들이 발생한 이력을 고려할 때 다양한 형태의 보복을 합리적으로 두려워한다. 우리가 이러한 문제들을 처음 만나거나 이야기하는 것은 아니다.
따라서 우리는 첨단 AI 회사가 다음과 같은 원칙을 준수할 것을 촉구한다:
1. 회사가 위험과 관련된 우려에 대해 회사에 대한 "파격" 또는 비판을 금지하는 계약을 체결하거나 시행하지 않을 것이며, 어떠한 기득권적 경제적 이익을 저해함으로써 위험과 관련된 비판에 대해 보복하지 않을 것;
2.회사는 현재 및 이전 직원들이 회사 이사회, 규제 당국 및 관련 전문 지식을 갖춘 적절한 독립적인 조직에 위험 관련 우려를 제기하기 위해 확인 가능한 익명 프로세스를 용이하게 할 것이다;
3. 회사는 공개 비판 문화를 지원하고, 영업 비밀 및 기타 지적 재산권 이익이 적절하게 보호되는 한, 자사의 기술에 대한 위험 관련 우려를 대중, 회사 이사회, 규제 기관 또는 관련 전문 지식을 가진 적절한 독립적인 조직에 제기할 수 있도록 허용할 것;
4. 회사는 다른 프로세스가 실패한 후에 위험과 관련된 기밀 정보를 공개적으로 공유하는 전현직 직원들에게 보복하지 않을 것이다. 우리는 위험과 관련된 우려를 보고하기 위한 어떤 노력도 불필요하게 기밀 정보를 공개하는 것을 피해야 한다는 것을 받아들인다. 따라서 일단 회사의 이사회, 규제 당국, 관련 전문 지식을 가진 적절한 독립적인 조직에 익명으로 우려를 제기하기 위한 적절한 프로세스가 존재하면, 우리는 그러한 프로세스를 통해 초기에 우려를 제기해야 한다는 것을 받아들인다. 그러나 그러한 프로세스가 존재하지 않는 한, 전현직 직원들은 자신의 우려를 대중에게 보고할 자유를 유지해야 한다.
서명자(알파벳 순):
제이콥 힐튼,전 OpenAI
다니엘 코코타일로,전 OpenAI
라마나 쿠마르, 구 구글 딥마인드
닐 난다, 현 구글 딥마인드, 전 인류학자
윌리엄 손더스, 전 OpenAI
캐롤 웨인라이트,전 OpenAI
다니엘 지글러,전 OpenAI
익명, 현 OpenAI
익명, 현 OpenAI
익명, 현 OpenAI
익명, 현 OpenAI
익명, 전 OpenAI
익명, 전 OpenAI
지지자(알파벳 순서):
요수아 벤지오, 제프리 힌튼, 스튜어트 러셀
2024년6월4일