페이크 AI, 현실을 위협한다... 가짜 신곡∙딸 목소리 복제한 보이스피싱

지난 주말동안 2천만 회 이상 스트리밍 된 인기 곡 '허트 온 마이 슬리브'(Heart on my Sleeve)'를 들어보셨나요? 로스엔젤레스타임즈에 따르면 힙합 가수 드레이크와 싱어송라이터 위켄드의 신곡으로 알려진 '허트 온 마이 슬리브'는 음원 차트까지 진입했습니다. 하지만 놀랍게도 이는 AI(인공지능)가 가수들의 목소리를 합성해 만든 가짜 곡으로 밝혀졌습니다. 위 노래는 두 가수의 참여 없이 AI가 모든 작업을 수행한 결과물입니다. 익명의 틱톡커 @ghostwriter977는 AI 프로그램 '앰퍼 뮤직(Amper Music)'을 통해 노래를 제작했다고 밝혔습니다. 결과물이 뛰어난 나머지 대중들은 '허트 온 마이 슬리브'가 드레이크와 위켄드가 실제 발매한 신곡이라고 착각했으며, 이는 음원 사이트 차트에 올라갈 정도로 인기를 모았습니다.

👉 나흘만에 곡 삭제, 딥페이크 편에 섰느냐?

드레이크와 위켄드의 소속 레이블 유니버설뮤직 그룹은 아티스트가 해당 노래와 무관하다는 입장을 밝혔으며, 저작권 침해를 이유로 음원 사이트들에 곡 삭제를 요청하는 서한을 보냈습니다. 그 후, 나흘만에 음원 사이트에서 곡은 삭제됐습니다.

유니버설 뮤직은 "아티스트의 허락 없이 AI 소프트웨어를 교육하는 것은 음악 생태계의 이해당사자들이 인간의 창조적 표현의 편에 서길 원하는지 아니면 딥페이크의 편에 서길 원하는지에 관한 질문을 던진다"며 "플랫폼 사업자들은 아티스트에게 해를 끼치는 서비스를 막을 근본적인 법적, 윤리적 책임이 있다"고 전했습니다.

이번 사건은 AI 음악 제작 윤리 문제를 제기했으며, 예술 창작에 있어 인간의 참여와 역할이 얼마나 필요한지에 대한 논쟁을 일으켰습니다.