케빈 켈리의 AI 마스터클래스 (3강) : AI의 강점은 군중의 지혜, 약점은 진실 왜곡

혹시 '젤리빈 카운터'라고 아는가?

젤리빈 카운터는 병이나 용기에 담긴 젤리빈의 개수를 세는 데 사용되는 장치다. 사람들이 병에 들어 있는 젤리빈의 개수를 맞추는 게임에 사용되며 가장 근접하게 맞추는 사람이 상품을 받는다. 젤리빈 카운터에서 발견한 것은 젤리빈의 개수를 추측한 사람들의 평균이 가장 정확하다는 것으로 '군중의 지혜'를 뜻하기도 한다.

우리가 인공지능들(AIs)을 통해 얻는 지식은 '군중의 지혜' 같은 일종의 '평균적 지식'과 같다. 즉, 최고 대답과 최악을 포함한 모든 인간 출력의 평균에 대해 학습된 방식으로 매우 평범하고 평범한 평균적인 응답을 제공한다. 그래서 매우 유용할 수도 있다.

일반인이 박람회나 퀴즈쇼에서 상을 받을 때 평균을 추측하는 것은 유용할 수 있지만 우리가 원하는 것은 아닐 것이다.

우리가 발견한 사실은 인공지능이 더 일을 잘하게 하려면 자주 더 일을 하도록 강요(push)해야 한다는 것이다. 좀 더 창의적으로 일하도록 강하게 밀어붙여야 한다. 인공지능 자신이 마치 모기지 중개인이고 다른 나라에 있는 사람이라고 역할극(롤플레잉)하는 것처럼 해서 인간이 빠르게 의사결정 할 수 있도록 도와줄 수 있어야 한다. 롤 플레잉은 일상에서 벗어나게 하는 일종의 역할극이다. 그게 인공지능이 하는 일이다.

평균적인 것과 창의적인 것 사이에는 일종의 슬라이더 바(Slider) 있다. 문제는 또 다른 슬라이더 바가 있는데 그것은 '홀루시네이션(hallucinations, 환각)'과 '진실' 사이를 왔다갔다 한다는 것이다.

인공지능은 '창의적'인 대답을 하기 때문에 홀루시네이션(가짜)을 만드는 데 매우 능숙하다. 그래서 그들에게 창의적으로 대답하게 하지 말고 사실에 충실하도록 만들어야 한다.

하지만 다르게 생각해보면 창의력을 마음껏 발휘하도록 할 수 있다. 정말 이상하고 색다른 것을 시도해보라. 그들(인공지능)의 진가를 확인할 수 있다. 그리고 그 방향으로 계속 밀어줘야 한다.