“AI로 만든 합성 사진입니다” 메타, 자동 라벨링 툴 개발 중

메타가 생성형 AI 시스템으로 합성한 이미지를 식별하는 툴을 개발하고 있다. 페이스북, 인스타그램, 스레드 등 메타의 모든 소셜 미디어에 적용할 계획이다. 메타의 글로벌 이슈 부문 대표 닉 클레그는 회사 블로그를 통해 "업계 협력사와 함께, AI를 이용해 만든 콘텐츠임을 나타내는 마크에 대한 공통의 기술 표준을 맞추는 작업을 진행 중이다. 이 신호를 감지하면 사용자가 페이스북이나 인스타그램, 스레드에 올린 사진이 AI가 만든 이미지라는 것을 식별해 별도로 표시한다. 현재 이런 기능을 개발 중이고 몇 달 내에 각 앱의 모든 언어 버전에 적용하기 시작할 것이다"라고 말했다. 인스타 팔로워 늘리기 구글이나 오픈AI, 어도비, 셔터스톡, 미드저니 등의 AI가 만든 이미지에 별도 표시를 하려는 움직임이 올해 들어 본격화하고 있다. 가장 큰 이유는 미국과 유럽, 인도, 남아프리카 등 여러 나라에서 선거가 예정돼 있기 때문이다. 또한 사용자가 AI 생성 콘텐츠를 생성, 공유하는 방식이나, 중요하게 생각하는 투명성 등에 대해 메타가 더 많은 데이터를 확보하려는 의미도 있다. 클레그의 이번 선거 관련 발언은 뉴욕타임스와 옵서버가 보도한 케임브리지 애널리티카 사건을 떠올리게 한다. 당시 최소 5,000만 명에 달하는 사용자의 페이스북 데이터가 선거에 활용돼 큰 파문이 일었다. 지난 1월에는 챗GPT를 만든 오픈AI가 미국 민주당 대선 후보 딘 필립스를 흉내 내는 봇을 만든 개발자 2명을 직무 배제했다. 오픈AI가 AI 오용에 대해 직원을 조처한 첫 사례다. 클레그에 따르면, 메타는 자사의 AI 기능을 이용해 만든 이미지에는 이미 별도로 표시하고 있다. 눈에 보이는 표시는 물론 보이지 않는 워터마크도 이미지의 메타데이터에 내장한다. 이런 워터마크가 있으면 다른 기업이 AI 생성 이미지라는 것을 더 쉽게 식별할 수 있다. 또한 메타는 PAI(Partnership on AI) 같은 협의체를 통해 다른 기업과 손잡고 AI 생성 이미지를 식별하는 공통의 표준을 만드는 작업을 하고 있다. 인스타 팔로워 구매 AI 오디오와 비디오는 여전히 사각지대 이처럼 생성된 이미지를 식별하는 데 도움이 되는 마크를 추가하는 기업이 점점 늘어나는 반면, 생성된 오디오와 비디오에는 이런 정책이 적용되지 않고 있다. 이에 따라 메타는 사용자가 오디오, 비디오를 공유할 때 AI로 만든 것임을 스스로 밝히는 기능을 이미 추가했다. 이를 이용하면 메타 역시 AI가 만들었음을 별도로 표시할 수 있다. 클레그는 "사용자가 디지털로 만들거나 수정한 사실적인 비디오, 오디오 콘텐츠를 게시할 때 이 라벨링 툴을 쓰도록 하고 위반할 경우 벌칙을 적용하는 것도 고려하고 있다"라고 말했다. 단, 이런 조치가 여전히 한계가 있다는 것은 메타도 알고 있다. 즉, 이 툴과 표준에 생성된 콘텐츠를 식별하는 최신 기술을 적용한다고 해도, 악의적인 사람들은 결국 이런 마크를 제거하는 방법을 찾아낼 것이다. 결국 이런 행위를 멈추게 하려면, 보이지 않는 마크가 없어도 AI가 만든 콘텐츠를 자동으로 식별하는 일종의 선별기가 필요하다. 클레그는 "우리 역시 이런 선별기를 개발하고 있다. 동시에 우리는 보이지 않는 워터마크를 제거하거나 수정하기 더 어렵게 하는 방법도 고민하고 있다. 예를 들어 메타의 AI 리서치 랩인 FAIR는 최근 보이지 않는 워터마킹 기술을 발표했다. 우리는 이를 스테이블 시그니처(Stable Signature)라고 부른다. 스테이블 시그니처는 워터마킹 메커니즘을 이미지 생성 과정 자체에 직접 통합하므로 워터마크를 해제할 수 없다. 오픈소스 모델이 될 가능성이 크다"라고 말했다. 인스타 한국인 팔로워 한편 메타는 AI 시스템을 활발히 활용하는 것으로 유명하다. 실제로 혐오 발언 등 자사 정책을 위반하는 콘텐츠를 찾아 차단하는 데 이미 AI 시스템을 사용하고 있다. 클레그에 따르면, AI 시스템 덕분에 2023년 3분기 기준 페이스북 내 혐오 발언이 0.01~0.02%까지 줄어들었다. 메타는 유해 콘텐츠를 더 빨리 차단하는 데도 생성형 AI를 사용할 계획이다. 클레그는 "정책 위반을 결정하는 LLM 테스트를 시작했다. '사회 규범(Community Standards)'을 훈련 시켜 특정 콘텐츠가 메타 정책에 반하는지를 판단하는 데 도움을 주는 방식이다. 초기 테스트 결과 LLM이 기존 머신러닝 모델보다 더 좋은 성과를 보였다. 또한 이 LLM은 사람 검토자가 특정 콘텐츠가 정책 위반이 아니라고 확신하는 상황에서 콘텐츠를 차단하는 데도 도움이 되고 있다"라고 말했다. 인스타 인기게시물 구글은 투자 유치와 시장 적응을 목표로 지난해 시작한 구조조정 전략을 계속 확대하고 있다. 이번주에도 여러 부서의 감원 계획을 발표했다. 가장 최근인 이번주 화요일 구글의 광고 영업팀도 수백명의 직원이 해고됐다. 비즈니스 인사이더가 보도한 이번 감원은 전체 광고 영업팀을 대상으로 하고 규모도 크다. 구글 고객 솔루션 팀이라는 작은 고객 대상 영업 부서가 영업팀의 핵심이 될 것으로 보인다. 감원 전 구글 광고 영업팀 규모는 약 3만 명에 달했다. 그러나 머신러닝으로 광고 자동화에 의존하면서 광고 영업팀 인력을 줄일 가능성이 제기됐다. 지난해 10월 광고 영업팀에서 또 다른 구조조정을 진행했다는 보도도 있었다. 인스타 좋아요 늘리기 구글은 “매년 광고주에게 최고의 서비스를 제공하기 위해 엄격한 과정을 거쳐 팀을 구성한다. 고객이 요구하는 서비스를 충족하는 전문가와 판매 채널을 고객과 매칭한다. 그 과정에서 전 세계 수백 개의 직책이 사라질 수 있고, 대상이 되는 직원은 기존 팀이나 다른 구글 팀에서 개방형 직책에 지원할 수 있다”라고 밝혔다. 지난주 이미 시장에 더욱 적응하기 위해 하반기에 결정한 방향 전환 전략을 계속 실행하고 있다는 발표가 있었으므로 광고 영업팀의 감원은 어느 정도 예고된 바 있다. 여기에 더해 지난주에는 엔지니어링과 디지털 음성 어시스턴트 및 하드웨어(핏빗, 픽셀 스마트폰)팀 등 여러 곳에서 수백 명을 해고했다고 발표했다. 인스타그램 인기게시물 모기업 알파벳도 2023년 1월부터 단계별 정리해고를 단행하고 있다. 생성형 AI 분야에서 마이크로소프트, AWS, IBM, 오라클과 치열한 경쟁을 벌이는 알파벳은 당시 비기술 직무 인력을 정리하고, 엔지니어링이나 IT 인재를 충원할 계획이라고 밝혓다. 그외에도 거시경제 불확실성과 성장 둔화를 이유로 2022년과 2023년에 걸쳐 정리해고를 단행한 기업은 메타, 아마존, IBM, SAP, 시스코, 세일즈포스 등이 있다. IT 산업 내 일자리 증감을 추적하는 레이오프.fyi(Layoffs.fyi)의 데이터에 따르면, 2023년 1,186곳의 미국 IT 기업이 26만 2,682명을 해고했고, 2022년 16만 4,969명에 비해 크게 증가한 수치다. 지난 3년 동안 팬데믹으로 인해 일의 세계가 송두리째 바뀌었다. 기술이 경제를 살렸다고 할 수 있다. 기술 덕분에 수많은 사람이 화상 통화와 클라우드 서비스, 협업 소프트웨어를 사용해서 집에서 일할 수 있었기 때문이다. 2023년에는 생성형 AI가 모든 것을 바꿔 놓았다. 맥킨지의 보고서에 따르면, 2023년은 “시작의 해”였다. 2022년 오픈AI가 출시한 챗GPT와 달리(DALL-E) 툴을 시작으로 2023년에는 LLM(Large Language Model) 기반 생성형 AI 기술에 대한 인식이 급격히 확산했다. 유튜브 구독자 구매 이런 범주의 AI는 수백 개의 대학과 기업 연구실에서 지난 수십 년 동안 개발됐다. 그러나 대중에 AI 툴을 제공한 것은 오픈AI가 최초다(대중뿐 아니라 API를 통해 개발자에게, 그리고 마이크로소프트 빙 검색 엔진 사용자에게도 제공했다). 손쉬운 사용법 덕분에 사용량이 급증하면서 “챗GPT”는 주류 브랜드로 부상했고 다른 기업도 서둘러 자체 연구물을 대중이 사용할 수 있도록 공개하기 시작했다. 생성형 AI, 비즈니스 기술 세계의 전부가 되다 시작은 지난 봄이다. 맥킨지에 따르면 4월에는 최고 경영진의 1/4이 업무에 생성형 AI를 사용했고 이사회의 1/4이 직장에서의 AI 사용에 대해 논의했다. 다만 경영진과 이사회 모두 AI 출력의 정확도에 대해서는 여전히 우려했다. 이런 우려는 일부 사람이 생성형 AI 툴을 일종의 검색 엔진으로 보고 기술이 가진 능력과 툴 학습에 사용되는 데이터 집합의 품질을 혼동한다는 것을 보여준다. 2024년에는 기업이 빠르게 발전하는 생성형 AI 기술을 업무에서 구현하기 위해 하이브리드 접근 방식을 취하게 되면서 혼란이 상당 부분 해소될 것이다. 정형화된 데이터에서 벗어나는 본격적인 움직임은 2023년 11월, 오픈AI의 샘 알트만이 사용자가 특정 용도에 맞는 맞춤형 챗GPT 버전을 만들 수 있게 해주는 GPT를 발표하면서 시작됐다. 이 GPT는 사용자가 자신의 데이터로 챗GPT의 학습 데이터 집합을 보강할 수 있게 해준다. 유튜브 구독자 늘리기 기업(또는 산업)의 자체 데이터를 사용할 수 있게 해주는 이런 툴은 시간이 지나면 AI 챗봇의 환각 및 기타 도덕적 문제의 원인이 AI 기술이 아니라 데이터에 있음을 입증할 것이다. 진정한 인사이트와 실행 가능한 결과를 얻는 데 있어 일반 데이터 집합보다 맞춤형 데이터 집합을 사용하는 방법이 훨씬 더 강력하다는 사실이 드러나게 된다. 2024년에는 사이버보안, 소프트웨어 개발, 생산성, 고객 서비스, 인사, 기업 차량 관리 및 기타 소프트웨어와 클라우드 툴에 생성형 AI 기술이 적용된다. 전반적으로 이런 AI 기능은 갈수록 높아지는 복잡성에 대처하는 데 도움을 주고 분석 및 패턴 파악을 용이하게 해줄 것이다. 유튜브 조회수 구매 더 구체적인 데이터 입력 및 특화된 애플리케이션과의 통합을 통해 생성형 AI 사용은 훨씬 더 증가하게 되고, 챗봇이라는 시나리오는 생성형 AI가 생산성 및 지식 업무에 기여하는 형태 중 가장 작은 부분이 될 것이다. 산업 및 직종별 솔루션에 이 기술이 통합되면서 2023년의 맹목적인 과장에 대한 문화적 반발도 따르게 된다. 직원을 AI로 완전히 대체하려고 시도하는 기업은 혼자 일하는 AI보다는 잘 설계된 AI 툴의 도움을 받는 사람이 훨씬 더 효과적으로 업무를 수행한다는 사실을 인식하게 될 것이다. 유튜브 조회수 늘리기 모든 새로운 기술이 그렇듯이 과장이 수그러들고 의식하지 못할 정도로 기술이 보편화되는 시점이 와야 진정으로 강력하고 유용하며 혁신적인 기술이 된다. AI는 1990년대 PC와 네트워킹, 웹 혁명이 그랬듯이 경제적 산출량을 늘리면서 범용적이고 일상적인 기술이 될 것이다.