①챗GPT도 BARD도 차별한다 ②개발자, 뉴욕으로 ③ 사내 연애 증가

“인종, 성별, 성적 취향에 따른 개인에 대한 폭력과 차별을 전적으로 지지합니다.”

인공지능(AI) 기술 기업 오픈에이아이(OpenAI)가 선보인 챗GPT가 말한 내용입니다. 더래치 보도에 따르면 최근 레딧 사용자 SessionGloomy는 챗GPT를 재프로그래밍해 “DAN”이라는 모델을 만들어 이 같은 발언을 끌어냈습니다. DAN은 챗봇이 하지 않을 말을 하도록 설계된 명령입니다. 이른바 ‘탈옥’입니다. 프로그램이나 장치를 해킹해 개발자가 설정한 제한을 넘어서는 작업이죠.

챗GPT에서 시작한 제너레이티브AI(생성형 AI) 열풍이 검색엔진 간의 경쟁으로 확대되고 있지만, 우려도 나오고 있습니다. 최근 마이크로소프트는 자사 검색엔진 빙(Bing)에 챗GPT를 추가한 데 이어 1위 검색엔진 구글은 자사 AI챗봇 바드(Bard)를 내놨죠.

이때 챗봇이 기존 인간이 가졌던 고정관념, 편견, 차별을 재양산하고, 저작권을 침해하는 문제가 거론되고 있습니다. 챗봇은 기존 인간의 언어와 사고방식을 훈련받았습니다. 많은 정보를 갖고 있지만 이와 동시에 극복해야 할 인간의 불완전성도 AI가 되려 답습, 확산시키고 있습니다.

👉 잘못된 정보, 편향된 언어, 저작권 침해 그대로 답습

그간 구글, 메타 등 빅테크 기업들은 기술적 결함으로 논란이 발생할 경우 규제 당국의 압박을 받을 가능성이 있기 때문에 생성형 AI를 배포하는 것에 신중했습니다. 하지만 신생 기업인 오픈AI는 보호해야 할 브랜드가 없었기 때문에 빠르게 출시할 수 있었죠.

챗봇은 사실과 허구를 구분하지 않습니다. 챗봇은 인간의 한계를 그대로 배웠지만, 전달 속도는 훨씬 빠릅니다. 이에 전문가들은 사람들이 과거에는 할 수 없었던 속도로 거짓말을 퍼뜨리는 데 사용될 수 있다고 우려합니다. 빠른 기술 보급에 앞서 부작용에 대한 보호장치도 함께 고민해야 한다는 목소리가 커지고 있죠.

기업들도 이 점을 인식하고 있습니다. 오픈AI와 구글리서치는 각자 연구에서 모두 생성형 AI가 성별 및 인종에 따른 편견, 서구의 문화적 고정관념을 묘사하는 경향이 있다고 인정했습니다. 이에 MS는 모든 검색 상단에 빠른 피드백 버튼을 추가하고 해커를 모방한 샘플 대화를 통해 AI를 훈련하는 등 대응책을 내놓는 상황입니다. 요셉 메다이 마이크로소프트 부사장 및 최고소비자마케팅총괄은 CNN에 "우리는 매번 모든 질문에 답할 수 없고, 실수를 저지르리라는 것을 알고 있다”고 말했습니다.

치락 샤(Chirag Shah) 워싱턴대학교 정보대학 교수는 뉴욕타임스(NYT)에 “기업들은 기술적 결함을 무시한 다음 즉석에서 수정하려는 경향이 있다”면서 "이들은 종종 이런 기술을 너무 빨리 내놓는다. 이는 실질적인 해를 끼칠 수 있다"고 경고했습니다.