인류 앞에 선 알고리즘: UN AI 패널의 출발점

유엔(UN) 독립 국제 AI 과학패널(Independent International Scientific Panel on AI)이 공식 활동을 개시하며 인공지능(AI)이 인류 사회에 미치는 영향에 대한 첫 글로벌 연구에 착수했다. 올해 2월 유엔 총회가 공식 임명한 40명의 전문가로 구성된 이 패널은 학계·민간 부문·시민사회·정부·국제기구·기술 커뮤니티 등 다양한 배경을 아우르며, 세계 최초의 AI 전담 국제 과학 기구로 자리매김했다.

패널 창립 멤버인 메나 엘-아사디(Menna El-Assady) 스위스 연방공과대학교(ETH 취리히) 조교수는 "AI를 단순한 수학적·알고리즘적 분야로만 보지 않는다"며 "인간이 의사결정의 중심에 있도록 보장하는 것이 핵심 원칙"이라고 강조했다. 패널의 첫 번째 보고서는 오는 7월 6~7일 스위스 제네바에서 열리는 AI 거버넌스 글로벌 대화(Global Dialogue on AI Governance)에서 공개될 예정이다.

왜 이게 중요한가

이 패널의 출범은 단순한 학술 기구의 탄생이 아니다. 규제 없는 AI 확산에 대한 국제사회의 경보가 제도화된 결과다. 안토니우 구테흐스(António Guterres) 유엔 사무총장은 2025년 9월 안보리 연설에서 "인류의 운명을 알고리즘에 맡길 수 없다"고 경고했고, 폴커 튀르크(Volker Türk) 유엔 인권최고대표는 올해 2월 "사회적·윤리적 원칙 없이 AI 모델을 개발하는 것은 프랑켄슈타인의 괴물을 만드는 것"이라고 직격했다.

AI가 노동 시장과 의료 시스템 등 사회 전반에 깊숙이 침투한 상황에서, 기술 발전 속도를 따라잡는 거버넌스 체계의 구축은 선택이 아닌 필수가 됐다. 이 패널은 바로 그 공백을 채우기 위해 설계됐다.

엘-아사디 교수가 ETH 취리히에서 개발한 '증강 지능(Augmented Intelligence)' 개념이 패널 연구의 핵심 철학을 이룬다. AI가 인간을 대체하는 것이 아니라 인간의 역량을 확장하는 방향으로 작동해야 한다는 이 개념은, "기계 속 인간(human in the machine)"이라는 원칙과 맥을 같이한다. 그는 또한 "언제 인간 전문성에 의존해야 하고, 언제 자동화가 가능한지를 판단하는 것"이 핵심 연구 과제라고 설명했다.

이 흐름은 언제부터?

AI 거버넌스 논의의 역사는 기술 발전만큼이나 빠르게 압축된다. 2022년 말 챗GPT(ChatGPT)의 등장은 AI를 일반 대중의 삶으로 끌어들였고, 2023년에는 기업들의 AI 도입이 폭발적으로 확산됐다. 유럽연합(EU)은 2024년 AI 법(AI Act)을 통과시키며 세계 최초의 포괄적 AI 규제 체계를 마련했지만, 이는 EU 회원국에 국한된 지역적 대응이었다.

글로벌 차원의 통합 대응은 줄곧 지체됐다. 국제사회는 AI의 군사적 활용, 딥페이크(deepfake) 확산, 알고리즘 편향 등의 문제에 개별적으로 반응해 왔으나, 통합된 국제 거버넌스 프레임워크는 부재했다. 이번 UN AI 과학패널은 그 공백을 처음으로 공식 메우는 시도라는 점에서 역사적 의미를 갖는다.

엘-아사디 교수가 제안하는 '공공 디지털 인프라(public digital infrastructure)'는 AI 개발 자원이 소수 국가와 기업에 집중되는 현실을 타개하기 위한 구상이다. AI 생성 콘텐츠와 인간 창작물을 식별하는 'AI 워터마킹(AI watermarking)' 기술 또한 허위정보 확산 방지의 핵심 수단으로 이번 보고서에 포함될 가능성이 높다.

앞으로의 전망 [AI 분석]

패널의 첫 보고서가 7월 제네바 회의에서 공개되면, 국제 AI 규범 형성에 새로운 기준점이 마련될 가능성이 높다. AI 워터마킹 표준화와 다언어·다문화 AI 모델 개발 지침이 구체적 정책 권고안으로 포함될 것으로 예상된다.

한국에 미치는 영향도 주목할 필요가 있다. 삼성전자·SK하이닉스 등 글로벌 AI 인프라의 핵심을 담당하는 기업들과, 카카오·네이버 등 AI 서비스를 확장 중인 국내 플랫폼 기업들은 새로운 국제 규범의 직접적 영향권에 놓이게 된다. UN 권고안이 각국의 AI 규제 입법에 반영될 경우, 한국 AI 산업의 발전 방향과 해외 시장 진출 전략에도 변수로 작용할 가능성이 높다.

엘-아사디 교수가 직접 강조한 비(非)영어권 언어의 AI 모델 포함 문제 역시 한국에 직결되는 의제다. 한국어 AI 모델의 품질과 문화적 다양성 반영 수준이 국제 기준으로 평가받는 시대가 도래할 가능성이 있으며, 이는 국내 AI 생태계 전반의 체질 개선을 요구하는 신호탄이 될 수 있다.