[인포그래픽] 제너레이티브 AI의 9가지 문제

빠르게 진화하는 인공 지능 환경에서 제너레이티브 AI는 놀라운 잠재력을 보여주고 있다. 그러나 잠재적 위험성도 점점 더 분명해지고 있다. 유니티는 파트너인 VERSES와 함께 다양한 출처의 데이터를 사용하여 제너레이티브 AI 도구와 관련된 몇 가지 우려 사항을 시각화했다. 다음은 VERSES가 비주얼 캐피털리스트에 공유한 내용이다.

문제 1: 편향된 데이터 입력, 편향된 데이터 출력 (품질 관리 및 정확도)

제너레이티브 AI의 중요한 문제 중 하나는 학습된 데이터에 존재하는 편견을 재현하는 경향에 있다. 이러한 도구는 편견을 완화하기보다는 오히려 편견을 확대하거나 영속화하여 애플리케이션의 정확성에 대한 의문을 제기하며, 이는 윤리와 관련하여 훨씬 더 큰 문제로 이어질 수 있다.

문제 2: 블랙박스 문제 (윤리적 및 법적 고려 사항)

제너레이티브 AI를 도입하는 데 있어 또 다른 중요한 장애물은 의사결정 과정의 투명성 부족이니다. 이러한 AI 시스템은 종종 해석할 수 없는 사고 과정을 통해, 특히 중요한 사안에서 오류가 발생할 때 결정을 설명하는 데 어려움을 겪는다. 이는 생성 도구뿐만 아니라 AI 시스템의 광범위한 문제라는 점에 주목해야 한다.

문제 3: 높은 훈련 및 유지보수 비용 (복잡성 및 기술적 과제)

대규모 언어 모델(LLM)인 챗GPT와 같은 생성형 AI 모델을 훈련하는 데는 계산 능력과 인프라가 필요하기 때문에 비용이 수백만 달러에 달할 정도로 매우 비싸다. 오픈AI의 알트만은 챗-4를 훈련하는 데 무려 1억 달러의 비용이 들었다고 밝혔다.

문제 4: 무의미한 앵무새 (품질 관리 및 정확도)

고급 기능에도 불구하고 제너레이티브 AI는 학습된 데이터와 패턴의 제약을 받는다. 이러한 제약으로 인해 인간 지식의 폭을 포괄하지 못하거나 다양한 시나리오를 다루지 못하는 결과가 나올 수 있다.

문제 5: 인간의 가치와 일치 (윤리적 및 법적 고려 사항)

인간과 달리 제너레이티브 AI는 인간의 가치에 부합하는 행동의 결과를 고려할 수 있는 능력이 부족하다. AI가 생성한 '발렌시아가 교황'과 같은 사례는 무해한 것처럼 보일 수 있지만, 허위 정보를 퍼뜨리는 등 더 해로운 목적으로 딥페이크가 사용될 수 있다는 점을 인식하는 것이 중요하다. 이는 이러한 시스템이 윤리적 경계 내에서 작동하도록 보장하는 더 많은 프레임워크의 필요성을 강조한다.

문제 6: 전력 과소비 (복잡성 및 기술적 과제)

제너레이티브 AI가 환경에 미치는 영향도 간과할 수 없다. 처리 장치에서 상당한 전력을 소비하는 챗GPT와 같은 모델은 미국 33,000가구에 전력을 공급하는 것과 같은 비용이 들며, 한 번의 문의만으로도 이메일 한 통보다 10~100배 더 많은 전력을 소비한다.

문제 7: 환각 (품질 관리 및 정확성)

제너레이티브 AI 모델은 데이터 공백에 직면했을 때 조작된 진술이나 이미지를 생성하는 것으로 알려져 있어 결과물의 신뢰성과 잠재적 결과에 대한 우려가 제기되고 있다. 구글 바드 홍보 동영상에서 챗봇은 제임스 웹 우주 망원경이 지구 태양계 너머 행성의 첫 이미지를 포착했다고 잘못 주장하기도 했다.

문제 8: 저작권 및 IP 침해 (윤리적 및 법적 고려 사항)

여러 제너레이티브 AI 도구가 동의, 크레딧, 보상 없이 저작권이 있는 저작물을 적절히 사용하여 아티스트와 크리에이터의 권리를 침해한다는 점을 고려할 때 데이터의 윤리적 사용이 가장 중요하다. 오픈AI는 최근 챗GPT의 학습 데이터세트에서 저작권이 있는 자료를 삭제하는 대신 특정 고객 계층에 대해 저작권 침해 소송에 대한 법적 비용을 보상하는 저작권 실드(Copyright Shield)라는 보상 프로그램을 도입했다.

문제 9: 정적 정보 (복잡성 및 기술적 과제)

제너레이티브 AI 모델을 최신 상태로 유지하려면 상당한 컴퓨팅 리소스와 시간이 필요하며, 이는 엄청난 기술적 과제를 제시한다. 그러나 일부 모델은 점진적 업데이트를 위해 설계되어 이 복잡한 문제에 대한 잠재적인 해결책을 제공한다.