OpenAI와 Google DeepMind CEO, AI가 “멸종 위험”을 초래한다고 경고하는 성명서 서명

Jul 08, 2023

OpenAI와 Google을 포함한 350명 이상의 AI 업계 전문가들은 AI가 주요 전염병과 핵전쟁만큼 위험하다고 경고합니다.

-

인공지능(AI) 전문가 그룹은 AI가 책임감 있게 개발되고 사용되지 않으면 인류에 위협이 될 수 있다고 경고했습니다. Google, Microsoft, OpenAI의 연구원으로 구성된 이 그룹은 2023년 5월 30일 Nature 저널에 그들의 우려 사항을 요약한 논문을 게재했습니다.

가장 주목받는 서명자는 OpenAI의 CEO인 Sam Altman, Anthropic의 CEO인 Dario Amodei, Google DeepMind의 CEO인 Demis Hassabis입니다.

공개 서한에는 "AI로 인한 멸종 위험을 완화하는 것이 전염병, 핵전쟁 등 다른 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 합니다"라고 적혀 있습니다. New York Times는 이 성명이 새로운 비영리 단체인 AI 안전 센터(Center for AI Safety)에서 발표될 것이라고 보도했습니다. 350명이 넘는 AI 연구원, 엔지니어, 회사 임원들이 이 서한에 공동 서명했습니다.

Geoffrey Hinton과 Yoshua Bengio는 서명한 두 명의 주목할만한 연구원입니다. 이들은 신경망 개발로 튜링상을 수상한 세 명의 연구자 중 두 명입니다. AI 분야의 혁신가인 Hinton과 Bengio는 AI 혁신의 '대부'로 알려져 있습니다. 이달 초 Hinton은 AI 개발에 대한 Google의 비전과 리더십 부족에 불만을 품고 Google에서 자리를 떠났습니다. 그는 또한 AI의 잠재적인 위험성에 대해서도 경고했습니다.

전문가들은 AI가 인간의 개입 없이 살상이 가능한 자율 무기를 만드는 데 사용될 수 있다고 주장한다. 그들은 또한 AI가 사람을 조종하거나 잘못된 정보를 퍼뜨리는 데 사용될 수 있다고 우려합니다. 이 그룹은 안전하고 책임감 있는 방식으로 AI를 개발하기 위한 전 세계적인 노력을 촉구합니다.

AI 전문가들의 경고는 AI가 급속도로 강력해지는 시점에 나온 것이다. 최근 몇 년 동안 AI는 자율주행차, 안면인식 소프트웨어, AI 기반 챗봇 개발에 활용됐다. AI가 계속 발전함에 따라 잠재적인 이점뿐만 아니라 잠재적인 위험도 고려하는 것이 중요합니다.

AI의 잠재적 위험성에 대해 경고한 것은 네이처(Nature)에 논문을 게재한 AI 전문가들이 처음은 아니다. 2015년 엘론 머스크(Elon Musk)와 스티븐 호킹(Stephen Hawking)은 자율 무기 금지를 요구하는 공개 서한을 공동 집필했습니다. 그리고 2017년에는 실존적 위험에 대한 연구를 촉진하는 비영리단체인 미래생명연구소(Future of Life Institute)가 AI의 위험성에 관한 보고서를 발표했습니다.

AI 전문가와 다른 전문가들의 경고는 경각심을 불러일으킵니다. AI가 큰 해를 끼칠 수 있는 잠재력을 지닌 강력한 기술이라는 것은 분명합니다. 책임감 있는 방식으로 AI를 개발하고 위험을 완화하기 위한 조치를 취하는 것이 중요합니다.

AI와 국회의원들에 대한 우려가 많으며 AI 업계 관계자들도 목소리를 내고 있다. 아마도 현재 기술 분야의 가장 큰 역설은 많은 주요 인물들이 위험에 대해 언급하고 있음에도 불구하고 고급 생성 AI에 대한 개발이 계속되고 있다는 것입니다. 내 생각에 분명한 질문은 Sam Altman과 같은 경영진이 걱정한다면 왜 아직도 AI 시스템을 개발하고 있는가 하는 것입니다. 그것은 순전히 이익 중심입니까, 아니면 우리가 이 기술을 통제할 수 있다는 오만함과 믿음입니까?

Sam Altman은 Elon Musk와 함께 OpenAI의 공동 창립자이자 현재 AI 연구 회사의 CEO입니다. ChatGPT가 가장 주류 AI 챗봇이 되면서 그는 지난 몇 달 동안 가장 강력한 기술 리더 중 한 명이 되었습니다. Altman은 또한 Redmond 회사에서 수십억 달러를 투자한 후 Microsoft와 긴밀한 파트너십을 구축했습니다.

OpenAI와 Microsoft는 GPT-4, ChatGPT, Bing Chat, Microsoft 365 Copilot 및 GitHub Copilot과 같은 AI 제품을 성장시켰습니다. 그러나 Altman을 비판하는 사람들은 OpenAI가 적절한 규제를 기다리지 않고 생성 AI 제품을 개발하는 데 너무 빠르다고 주장합니다. OpenAI에서 Altman의 전 파트너였던 Elon Musk는 그러한 비판자 중 한 명으로, 회사의 현재 방식은 자신이 의도한 것과 다르다고 말했습니다.

머스크는 또한 AI 개발자에게 최소 6개월 동안 GPT-4보다 더 강력한 모델 개발을 중단할 것을 요구하는 Initiative for Life 프로젝트를 만드는 데 다른 기술 리더들과 합류했습니다. Altman이 최근 GPT-5가 OpenAI에 의해 개발되지 않는다고 주장했다는 점은 주목할 가치가 있습니다. 이번 주 알트만은 미국 의회 청문회에서 AI 개발을 위해 명확하고 엄격한 규정이 필요하다고 인정했습니다.