AI 생성 이미지와 현실 이미지 차이가 줄어들고 있다

지난 달 잠시 동안, 펜타곤 근처에서 폭발을 보여주는 이미지가 소셜 미디어에 퍼져 공황과 시장 매각을 일으켰다. AI에 의해 생성된 모든 특징을 지닌 그 이미지는 나중에 당국에 의해 폭로되었다.

하지만 트루픽의 CEO인 제프리 맥그리거에 따르면, 그것은 "올 일의 빙산의 일각"이다. 그가 말했듯이, "우리는 더 많은 AI 생성 콘텐츠가 소셜 미디어에 표면화되기 시작하는 것을 보게 될 것이며, 우리는 그것에 대한 준비가 되어 있지 않습니다."

맥그리거의 회사는 이 문제를 해결하기 위해 노력하고 있다. 트루픽은 트루픽 렌즈를 통해 생성 시점에서 미디어를 인증한다고 주장하는 기술을 제공합니다. 이 응용 프로그램은 이미지를 만드는 데 사용된 날짜, 시간, 위치 및 장치를 포함한 데이터를 캡처하고, 이미지가 유기적인지 또는 AI에 의해 조작되거나 생성되었는지 확인하기 위해 디지털 서명을 적용합니다.

마이크로소프트의 지원을 받는 트루픽은 Dall-E와 Midjourney와 같은 AI 기반 이미지 생성 도구가 출시되기 몇 년 전인 2015년에 설립되었다. 이제 맥그리거는 회사가 NGO에서 미디어 회사, 청구가 합법적인지 확인하려는 보험 회사에 이르기까지 "사진을 기반으로 결정을 내리는 사람"의 관심을 보고 있다고 말한다.

맥그리거는 "무언 것이 가짜일 수 있을 때, 모든 것이 가짜일 수 있다"고 말했다. "세대 AI가 품질과 접근성의 전환점에 도달했다는 것을 알고, 우리는 더 이상 온라인에 있을 때 현실이 무엇인지 알지 못합니다."

트루픽과 같은 기술 회사는 수년 동안 온라인 잘못된 정보와 싸우기 위해 노력해 왔지만, 사용자 프롬프트에 대응하여 매력적인 이미지와 서면 작업을 빠르게 생성할 수 있는 새로운 AI 도구의 등장은 이러한 노력에 새로운 긴급성을 더했다. 최근 몇 달 동안, 패딩 재킷을 입은 프란치스코 교황의 AI 생성 이미지는 널리 퍼졌고 도널드 트럼프 전 대통령이 체포되는 AI 생성 이미지는 기소되기 직전에 널리 공유되었다.

몇몇 국회의원들은 이제 기술 회사들이 그 문제를 해결할 것을 요구하고 있다. 유럽 위원회의 부회장인 베라 조로바는 월요일에 구글, 메타, 마이크로소프트, 틱톡을 포함하는 목록인 허위 정보에 대한 EU 행동 강령의 서명국들에게 "그러한 콘텐츠를 인식하고 사용자에게 명확하게 라벨을 붙일 수 있는 기술을 마련하라"고 촉구했다.

제품에 생성 AI 기술을 배포하는 것을 포함하여 점점 더 많은 스타트업과 대기업은 사람들이 이미지나 비디오가 AI로 만들어지는지 여부를 결정하는 데 도움이 되는 표준과 솔루션을 구현하려고 노력하고 있다. 이 회사들 중 일부는 현실 디펜더와 같은 이름을 가지고 있으며, 이는 노력의 잠재적 지분을 말한다: 무엇이 진짜이고 무엇이 아닌지에 대한 우리의 감각을 보호하는 것이다.

하지만 AI 기술이 인간이 따라잡을 수 있는 것보다 더 빨리 발전함에 따라, 이러한 기술적 솔루션이 문제를 완전히 해결할 수 있을지 여부는 불분명하다. Dall-E와 ChatGPT의 배후에 있는 회사인 OpenAI조차도 올해 초 이미지가 아닌 AI 생성 글쓰기를 감지하는 데 도움이 되는 자체 노력이 "불완전하다"고 인정했으며, "소금 한 알로 받아들여야 한다"고 경고했다.

디지털 법의학 전문가이자 캘리포니아 대학교 버클리의 교수인 하니 파리드는 CNN에 "이것은 제거가 아니라 완화에 관한 것이다"고 말했다. "나는 그것이 잃어버린 원인이라고 생각하지 않지만, 해야 할 일이 많다고 생각한다."

파리드는 "희망은 그의 부모님 지하실에 있는 어떤 십대가 이미지를 만들고 선거를 흔들거나 시장을 5조 달러로 옮길 수 없는 지점에 도달하는 것"이라고 말했다.



[‘군비 경쟁’]

기업들은 그 문제를 해결하기 위해 크게 두 가지 접근 방식을 취하고 있다.

한 가지 전술은 이미지를 온라인으로 생성하고 공유한 후 AI로 생성된 이미지를 식별하는 프로그램을 개발하는 데 의존한다; 다른 하나는 일종의 디지털 서명으로 이미지를 실제 또는 AI로 생성된 것으로 표시하는 데 초점을 맞추고 있다.

리얼리티 디펜더와 하이브 절제는 전자에 대해 작업하고 있다. 플랫폼을 통해 사용자는 스캔할 기존 이미지를 업로드한 다음 많은 양의 데이터를 기반으로 실제인지 AI로 생성된지 여부를 나타내는 백분율로 즉각적인 분석을 받을 수 있습니다.

"생성 AI"가 유행어가 되기 전에 출시된 Reality Defender는 경쟁력 있는 실리콘 밸리 기술 가속기 Y Combinator의 일부였으며, AI 생성 비디오, 오디오 및 이미지를 발견하기 위해 "독점적인 딥페이크 및 생성 콘텐츠 지문 기술"을 사용한다고 말한다.

회사가 제공한 예에서, 리얼리티 디펜더는 톰 크루즈 딥페이크의 이미지를 53% "의심스러운"으로 강조하며, 사용자에게 얼굴이 뒤틀렸다는 증거를 발견했다고 말하며, "이미지 조작의 일반적인 인공물"이라고 말했다.

그 문제가 기업과 개인에게 빈번한 관심사가 된다면 현실을 방어하는 것은 수익성 있는 사업으로 판명될 수 있다. 이 서비스는 제한된 무료 데모와 유료 계층을 제공합니다. 하이브 모더레이션은 1,000개의 이미지와 할인을 제공하는 "연간 계약 거래"에 대해 1.50달러를 청구한다고 말했다. Realty Defender는 고객이 "우리 팀의 전문 지식과 도움이 필요한 맞춤형 요소"를 필요로 하는지 여부를 포함하여 다양한 요인에 따라 가격이 달라질 수 있다고 말했다.

리얼리티 디펜더의 CEO인 벤 콜먼은 CNN에 "위험은 매달 두 배로 증가하고 있다"고 말했다. "누구나 이걸 할 수 있어. 당신은 컴퓨터 과학 박사 학위가 필요하지 않습니다. 아마존에서 서버를 회전할 필요가 없습니다. 랜섬웨어를 작성하는 방법을 알 필요가 없습니다. 누구나 '가짜 얼굴 생성기'를 구글링하여 이것을 할 수 있습니다.

하이브 모더레이션의 CEO인 케빈 궈는 그것을 "군비 경쟁"이라고 묘사했다.

Guo는 CNN에 "우리는 사람들이 이 콘텐츠를 만드는 모든 새로운 방법을 계속 살펴봐야 하며, 우리는 그것을 이해하고 데이터 세트에 추가하여 미래를 분류해야 한다"고 말했다. "오늘날 그것은 확실히 AI가 생성한 콘텐츠의 작은 비율이지만, 나는 그것이 향후 몇 년 동안 바뀔 것이라고 생각한다."



[예방적 접근]

다른 예방적 접근 방식에서, 일부 대형 기술 회사는 미디어가 처음 생성되었을 때 실제 또는 AI로 생성된 것으로 인증하기 위해 일종의 워터마크를 이미지에 통합하기 위해 노력하고 있다. 그 노력은 지금까지 주로 콘텐츠 출처와 진정성을 위한 연합 또는 C2PA에 의해 주도되었다.

C2PA는 디지털 미디어의 출처와 역사를 인증하는 기술 표준을 만들기 위해 2021년에 설립되었다. 그것은 Adobe가 주도하는 Content Authenticity Initiative(CAI)와 디지털 뉴스의 허위 정보와 싸우는 데 중점을 둔 Microsoft 및 BBC가 주도하는 이니셔티브인 Project Origin의 노력을 결합합니다. C2PA와 관련된 다른 회사로는 트루픽, 인텔, 소니가 있다.

C2PA의 지침에 따라, CAI는 기업이 콘텐츠 자격 증명 또는 이미지에 대한 정보가 포함된 메타데이터를 만들 수 있는 오픈 소스 도구를 만든다. CAI 웹사이트에 따르면, 이것은 제작자가 이미지를 어떻게 만들었는지에 대한 세부 사항을 투명하게 공유할 수 있게 해준다. "이렇게 하면, 최종 사용자는 그림이 누가, 무엇을, 어떻게 바뀌었는지에 대한 맥락에 접근할 수 있으며, 그 이미지가 얼마나 진짜인지 스스로 판단할 수 있습니다."

"어도비는 이것에 대한 수익 센터가 없다. CAI의 수석 이사인 앤디 파슨스는 CNN에 "우리는 이것이 존재해야 한다고 생각하기 때문에 그것을 하고 있다"고 말했다. "우리는 그것이 잘못된 정보와 허위 정보에 대한 매우 중요한 기본 대책이라고 생각합니다."

많은 회사들이 이미 C2PA 표준과 CAI 도구를 애플리케이션에 통합하고 있다. 최근 포토샵에 추가된 AI 이미지 생성 도구인 어도비의 파이어플라이는 콘텐츠 자격 증명 기능을 통해 표준을 따릅니다. 마이크로소프트는 또한 빙 이미지 크리에이터와 마이크로소프트 디자이너가 만든 AI 아트가 앞으로 몇 달 안에 암호화 서명을 할 것이라고 발표했다.

구글과 같은 다른 기술 회사들은 두 가지 접근 방식 모두에서 조금 벗어나는 플레이북을 추구하는 것으로 보인다.

5월에, 구글은 이 이미지에 대해라는 도구를 발표했는데, 사용자에게 사이트에서 발견된 이미지가 원래 구글에 의해 인덱싱되었을 때, 이미지가 처음 나타났을 수도 있고 온라인에서 찾을 수 있는 곳을 볼 수 있는 기능을 제공한다. 기술 회사는 또한 구글이 만든 모든 AI 생성 이미지가 다른 웹사이트나 플랫폼에서 발견되면 원본 파일에 마크업을 표시하여 "문맥을 제공할" 것이라고 발표했다.



[단순한 민간 부문 솔루션이 아니다.]

기술 회사들이 Ai 생성 이미지와 디지털 미디어의 무결성에 대한 우려를 해결하기 위해 노력하는 동안, 이 분야의 전문가들은 이 기업들이 궁극적으로 문제를 해결하기 위해 서로 그리고 정부와 협력해야 한다고 강조한다.

"우리는 세계의 트위터와 세계의 페이스북의 협력이 필요할 것이다. 그래서 그들은 이 물건을 더 진지하게 받아들이기 시작하고, 가짜 물건을 홍보하는 것을 멈추고 진짜 물건을 홍보하기 시작할 것이다"고 Farid는 말했다. "우리가 이야기하지 않은 규제 부분이 있다. 우리가 이야기하지 않은 교육 부분이 있다."

파슨스가 동의했어. "이것은 이것을 가능하게 할 수 있는 단일 회사나 단일 정부 또는 학계의 단일 개인이 아니다"고 그는 말했다. "우리는 모두가 참여해야 해."

그러나 현재로서는, 기술 회사들은 더 많은 AI 도구를 세계에 출시하는 것을 계속 추진하고 있다.