구글은 일론 머스크로부터 제미나이(Gemini)가 역사적 맥락에서 생성된 사람 이미지가 인종에 대한 오해를 불러 일으킬 수 있다는 비판을 받은 후 제미나이 이미지 생성기의 사람 이미지 생성 기능을 "일시 중지"한다고 2024년 2월 22일(목)에 발표했다.
1. 구글은 2월 21일(수) "이러한 종류의 묘사를 즉시 개선하기 위해 노력하고 있다"고 밝혔지만 24시간도 채 지나지 않아 인물 사진을 비활성화하면서 곧 "개선된 버전의 서비스"를 약속했다.
2. 구글의 제미나이 익스피리언스 제품 디렉터인 잭 크로지크(Jack Krawczyk)는 X에 올린 게시물에서 "일부 역사적 이미지 생성 묘사에서 부정확한 정보를 제공하고 있다"고 확인하며 역사적 맥락을 정확하게 반영하기 위해 서비스를 "더욱 조정"하고 있다고 말했다.
Two days ago, I asked ChatGPT, "which was developed by Google," two similar questions, but changed only one word, white to black. @ChatGPT gave me a very disturbing answer.
This is going way too far, as I personally think all races of humanity should be PROUD of their heritage. pic.twitter.com/fbgL0Q0HhH
— LindaEvans (@Deja_Vu_4Me) February 22, 2024
사건의 배경
구글은 2024년 2월 8일 대규모언어모델(LLM)로 구동되는 이전에 바드(Bard)로 알려진 생성Ai 제미나이(Gemini)를 출시하여 경쟁사인 마이크로소프트(Microsoft)의 지원을 받는 오픈AI의 챗GPT와 경쟁하고 있다.
새로운 서비스의 일부로 제미나이는 미드저니(Midjourney)와 오픈AI의 달리(DALL-E)와 비슷한 이미지 생성기를 제공한다. 출시 후 며칠이 지나자 이용자들은 제미나이 이미지 생성기가 '역사적' 인물과 장면의 이미지를 생성한다는 사실을 알아차리기 시작했다.
더버지(The Verge)에서 만든 몇 가지 사례에서 제미나이 이미지 생성기는 "1800년대 미국 상원의원"을 생성하라는 요청에 흑인 여성의 이미지를 표시했다(최초의 흑인 여성 상원의원은 1992년에 선출된 캐롤 모슬리 브라운이다). 또 다른 이미지에는 2차 세계대전 당시 독일 군복을 입은 여성과 흑인 남성이 등장했다.
이후 구글은 오해의 소지가 있는 이미지를 인정했다. "제미나이의 Ai 이미지 생성은 다양한 사람들을 생성한다. 전 세계 사람들이 이용하기 때문에 일반적으로 좋은 일이다. 하지만 여기서는 그 점을 놓치고 있다."고 구글은 수요일 X에 게시한 성명에서 말했다.
다른 Ai 이미지 생성기들은 백인을 불균형하게 보여주는 인종 편향적인 이미지를 생성한다는 비난을 받기도 했다. 워싱턴 포스트의 2023년 보고서에 따르면 스타트업 스테빌리티(Stability) AI가 제공하는 서비스인 스테이블 디퓨전(Stable Diffusion) XL에서 생성한 이미지에 이러한 편견이 많이 있다고 한다. 이 서비스를 이용하면 '생산적인 사람(a productive person)'과 '매력적인 사람(attractive people)'이라는 프롬프트에 백인만 이미지가 생성되었다. 반면 '사회 복지 서비스를 제공하는 사람(person at social services)'이라는 프롬프트는 유색인종의 이미지만 생성했다.
크로지크에 따르면 구글은 이러한 백인 편향 문제를 구체적으로 해결하기 위해 제미나이의 이미지 생성 기능을 설계했다. 개발자가 올린 게시물에서 "전 세계 이용자 기반을 반영하도록 이미지 생성 기능을 설계했으며 대표성과 편견을 심각하게 고려하고 있습니다. 앞으로도 개방형 프롬프트(개를 산책시키는 사람의 이미지는 보편적입니다!)에 대해 이 작업을 계속할 것입니다."라고 말했다.
제미나이는 발표 초기 시연 영상 조작 파문에 이어 역사적 인물 이미지 생성과 관련하여 또 다시 문제를 일으키고 있다. 백인 편향을 극복하기 위해 역사적 인물까지 성별, 인종별 다양성을 추구하다가 더 큰 문제를 일으키고 말았다.
인공지능 서비스를 인문사회적 관점으로 서비스를 보지 못하고 기술적으로만 접근하다보니 계속해서 문제를 일으키고 있다. 오픈AI를 빠른 속도로 따라잡아도 모자랄판에 계속해서 악재가 생기는 구글이다. 검색 시장까지 위기를 맞고 있는 구글의 다음 대응이 시장과 소비자들에게 잘 어필할 수 있을지 우려가 되는 시점이다. (배운철 소장, 블록체인 전략연구소)
"트렌드와칭 텔레그램 참여하기 (최신 소식, 자료 공유)"brian@trendw.kr