Microsoft to Implement Enhanced Security Measures in Response to Deepfake Controversy
Noticias

마이크로소프트, 딥페이크 논란에 대응하여 보안 조치 강화

마이크로소프트는 토론의 여파로 딥페이크 생성기 무료 도구인 디자이너의 보안을 강화하기 위해 조치를 취했습니다. Taylor Swift의 명백한 딥페이크가 해당 응용 프로그램을 사용하여 아티스트의 동의없이 생성되었음이 확인되었기 때문입니다.

4chan 포럼과 텔레그램 채널에서 딥페이크가 시작되었음이 밝혀진 이후로, 마이크로소프트는 디자이너의 일반 이미지 생성 능력을 제한하기 위한 보안 패치를 도입했습니다. Taylor Swift의 이미지가 이 도구로 생성된 것인지는 확인되지 않았지만, 마이크로소프트의 CEO인 Satya Nadella는 회사의 AI 시스템의 보안을 강화하여 유해 콘텐츠 생성을 예방하겠다고 약속했습니다.

관련 사건에서 Microsoft 엔지니어인 셰인 존스는 OpenAI의 DALL-E 3 플랫폼에 취약점이 있음을 알리며 Taylor Swift와 비슷한 폭력적이고 성적인 딥페이크 생성이 가능해지는 가능성을 경고했습니다. OpenAI와 마이크로소프트로부터 응답이 없었기 때문에 존스는 국회의회에 신고를 제출하여 AI 시스템의 취약점을 보고하고 추적하는 시스템을 만드는 것을 요청했습니다.

마이크로소프트는 이에 대해 존스의 보고서 기술이 보안 필터를 우회할 수 있는지에 대한 연구 결과가 없다고 말했습니다. 또한 회사는 AI 모델을 공개하기 전에 직원들이 우려 사항을 표출할 수 있는 내부 보고 플랫폼을 도입한다고 발표했습니다.

AI 기술의 발전으로 인해 딥페이크의 실감나는 콘텐츠가 만들어지는 일이 점점 더 증가하고 있으며, 기업들이 이 도구의 오용을 방지하기 위해 효과적인 보안 조치를 적용하는 것이 중요합니다. 개인 정보 보호와 가짜 콘텐츠 bekämpfen은 현재 AI 위협 환경에서 해야 할 중요한 과제입니다. 마이크로소프트는 보안 강화 조치를 적용하고 AI 모델에 대한 직원들의 우려 사항을 경청하여 이에 대한 약속을 보여주고 있습니다.

주요 용어:
– 딥페이크: 인공지능을 통해 이미지나 비디오를 조작하여 실제처럼 보이지만 가짜인 콘텐츠를 만들어내는 것.
– AI: 인공지능, 보통 인간의 지능이 필요한 작업을 기계가 수행하는 능력.

관련 링크:
– 마이크로소프트