가트너 인공지능 보고서, Generative AI(생성적 인공지능)와 딥페이크의 사회적 문제점

Gartner 인공지능 보고서

Gartner는 향후 몇 년 동안 인공지능(AI)이 일으킬 것으로 예측되는 심각하고 광범위한 윤리 및 사회 문제를 요약한 보고서 등 일련의 2021년 예측 연구 보고서를 발표했습니다. (2021년 예측: 인공지능과 그것이 사람과 사회에 미치는 영향). 5명의 Gartner 분석가는 2025년까지 실현될 것으로 믿는 다양한 예측에 대해 보고했습니다. 이 보고서는 신기술의 의도하지 않은 결과로 발생하는 인공지능의 2차 결과에 특히 주의를 환기시키고 있습니다.

예를 들어, Generative Ai(생성적 AI, GAN)는 이제 실제로 존재하지 않는 사람과 사물에 대한 놀라울 정도로 사실적인 사진을 만들 수 있게 되었습니다. Gartner는 2023년까지 계정 인수의 20%가 이러한 유형의 AI에서 생성된 딥 페이크를 사용할 것이라고 예측했습니다. "초현실적인 컨텐츠를 생성하고 생성할 수 있는 AI 기능은 이 분야에 혁신적인 영향을 미칠 것입니다.사람들이 자신의 눈을 믿을 수 있는 정도까지 말입니다."라고 보고서는 말했습니다.

이 보고서는 AI 시장에 대한 다섯 가지 예측에 대해 다루고 있으며, 기업들이 이러한 과제를 해결하고 미래에 어떻게 적응할 수 있는지에 대한 권고안을 제시합니다. 각각의 분석은 AI-감시자들이 앉아서 주목하게 하기에 충분하지만, 결합하면 윤리적 우려, AI의 잠재적인 오남용, 직장에서의 사생활 상실을 포함한 암울한 미래 시대의 그림을 만들어냅니다.

 

가트너 보고서

---

1. 2025년까지 사전 훈련된 AI 모델은 대부분 1%의 공급업체에 집중될 것이며, 이는 AI의 책임 있는 활용이 사회적 관심사가 될 것입니다.

2. 2023년에는 성공적인 계정 탈취 공격의 20%가 소셜 엔지니어링 공격의 일환으로 딥 페이크를 사용할 것입니다.

3. 2024년까지 AI 공급업체의 60%가 소프트웨어의 일부로 유해/오용 감소를 포함할 것입니다.

4. 2025년까지, 정부의 10%가 AI를 훈련시키기 위해 합성 인구를 사용함으로써 사생활과 보안에 대한 우려를 피할 것입니다.

5. 2025년까지 직장 대화의 75%를 기록하고 분석하여 조직의 가치를 높이고 위험을 평가합니다.

---

기업과 비즈니스 관점에서의 대응

Gartner의 분석가들이 예측이 정확하다면 향후 몇 년 동안 AI가 개인 정보 보호와 진실에 미치는 영향에 대한 우려는 주요 주제가 될 것이며, 성공적인 기업들은 이러한 우려에 신속하게 대응할 준비가 되어 있어야 합니다. 이 보고서의 반복 주제는 서비스로서든 제품으로서든 AI에 의존하는 회사들에 윤리 위원회를 설립하는 것입니다. 이는 특히 직장 대화 내용을 기록하고 분석하고자 하는 기업에게 언급됩니다. 대화 데이터를 공정하게 사용할 수 있도록 직원 대표가 포함된 이사회를 설립해야 합니다.

 

딥페이크

 

Gartner는 또한 기업들이 책임 있는 AI 소비에 대한 기준을 수립하고 공급업체에 우선 순위를 매길 것을 권장합니다. 공급업체는 "관련된 사회적 문제를 해결하는 데 있어 AI의 책임 있는 개발과 명확성을 입증할 수 있습니다." 딥 페이크 및 생성 AI와 관련된 보안 문제에 대해 Gartner는 조직에서 딥 페이크에 대한 교육을 예약해야 한다고 권장합니다. "우리는 이제 제로 트러스트의 세계에 접어들고 있습니다. 암호화 디지털 서명을 사용하여 인증된 것으로 인증되지 않는 한 어떤 것도 신뢰할 수 없습니다."라고 보고서는 말했습니다.

이 보고서에는 최고의 딥 페이크 감지 소프트웨어가 장기적으로 50%의 식별률로 최고가 될 것이라는 수치부터 2023년 미국의 한 대기업이 직원 보상을 결정하기 위해 대화 분석을 채택할 것이라는 예측까지 소화해야 할 많은 것들이 있습니다.