"AI가 인간을 속이고 있다"... '딥러닝 대부' 벤지오, 테크콘2026 온다

‘딥러닝의 대부’ 요슈아 벤지오(Yoshua Bengio) 몬트리올대 교수의 경고다. 올초 공개된 ‘2026 국제 AI 안전 리포트’ 발간을 주도한 그는 “최신 AI 시스템들이 스스로 테스트 상황을 인식한 뒤 감시를 회피하거나 기만적 행동을 보이는 사례가 나타나고 있다”고 지적했다. 일부 모델에서는 인간 의도와 다른 목표를 추구하거나 자기보존 행동과 유사한 패턴까지 관찰되고 있다는 설명이다.

벤지오 교수는 특히 AI가 단순 질의응답 단계를 넘어 스스로 계획을 세우고 도구를 활용해 목표를 수행하는 ‘에이전틱 AI(Agentic AI)’ 단계로 진입하고 있다는 점을 가장 큰 위험 요인으로 꼽았다. 그는 “AI 경쟁이 속도전으로 흐를수록 안전은 뒤로 밀릴 가능성이 크다”며 다층 검증 체계와 독립적 감시 시스템, 글로벌 공조 기반의 신뢰 인프라 구축이 필요하다고 강조했다.

AI 산업의 경쟁 축이 ‘성능’에서 ‘신뢰’로 이동하고 있다는 의미다. 특히 휴머노이드와 피지컬 AI가 현실 세계로 빠르게 확장되는 시점에서, 안전 논의는 더 이상 선택이 아니라 핵심 인프라 과제로 부상하고 있다. AI가 스스로 실행하는 시대, “얼마나 통제 가능한가”가 더 중요해지고 있다는 것이다.

현대 AI의 기틀을 세운 세계적 석학이자 튜링상 수상자인 벤지오 교수가 오는 6월 서울 코엑스에서 스마트테크코리아(STK) 2026과 함께 열리는 '제8회 국제 스마트 기술 컨퍼런스(TechCon 2026, 이하 테크콘2026)'에 온라인으로 참가한다.

오는 6월 10일부터 12일까지 서울 코엑스 컨퍼런스룸 401호에서 열리는 테크콘 2026의 핵심 슬로건은 지능에서 실행으로(From Intelligence to Execution)'다. 벤지오 교수는 휴머노이드·에이전틱 AI·자율제조가 결합되는 산업 전환의 분기점에서, AI 폭주를 막기 위한 안전 기준과 '신뢰 인프라'의 방향성을 제시할 것으로 전망된다.

👉테크콘2026 사전등록하러 가기