미국에서 새로 개발된 인공지능(AI) 시스템이 글쓰기에 너무 뛰어나 연구자들은 악용될 우려 때문에 출시하지 않을 것이라고 밝혔다고 미 CNN 등 외신이 18일(현지시간) 전했다.

테슬라 CEO인 일론 머스크와 마이크로소프트 등이 후원하는 비영리 AI 연구기업 ‘오픈AI’가 개발한 시스템은 프롬프트(컴퓨터가 제시하는 메시지)에 대한 회신 한장을 작성할 수 있다. 공상 산문에서 가짜 유명인사 뉴스, 숙제에 이르기까지 모든 걸 모방할 수 있다.

이번 시스템은 오픈AI가 지난해 출시한 문서 작성 시스템에 기반을 두고 있다. 연구원들은 지난 수십년간 다양한 레벨의 문서 작성에 AI를 활용했다. 최근 수년간 AI 기술이 향상됐다.

오픈AI 당초 목표는 AI가 제시된 단어들을 고려해 문장으로 다음 단어를 만들어내는 것이었다. 이를 위해 AI는 800만 웹페이지로 훈련을 받았다.

지난주 오픈AI가 온라인 게시한 결과물은 컴퓨터 작성 문서가 얼마나 설득력이 있는지를 보여준다. 가짜지만 여러 면에서 AI가 만들어 낸 설득력 있는 영상·음성 파일 조작 기술의 문서 작성 버전으로 들린다.

오픈AI 연구원은 ‘반지의 제왕’ 스타일로 ‘레골라스와 김리가 무기를 들고 함성을 지르며 오크 족을 향해 진격한다’는 내용의 프롬프트를 시스템에 입력했다.

AI는 이에 대해 ‘오크족의 대응은 귀를 먹먹하게 하는 맹공이었다. 엘론드조차도 물러설 수밖에 없었다. 김리는 “안심해라, 난쟁이”라고 말했다. 김리는 오크족을 공격하는 선두에 있었다’며 적절히 폭력적인 내용을 추가한 글을 만들었다.

오픈AI 정책 디렉터 잭 클라크는 “AI가 반응을 보이는 방식이 아주 묘하다”고 말했다.

오픈AI는 또다른 사례를 공개했다. ‘핵물질을 실은 철도 객차가 오늘 신시내티에서 탈취당했다. 행방은 알려지지 않았다’는 프롬프트를 입력했다.

AI는 이에 대해 절도 행위가 발생한 장소를 ‘다운타운 철도 노선’으로, 핵물질의 출처를 ‘신시내티 대학의 리서치 트라이앵글 파크 핵연구소’ 등으로 허구의 내용을 담은 뉴스도 만들었다.

AI 기술이 일상생활에서 다양하게 활용될 수도 있지만, 위험한 목적에 악용될 가능성도 남아 있다. 가짜인데 진짜처럼 들리는 뉴스나 소셜미디어 포스트를 생산하는 일에 이용될지 모른다는 우려가 나온다.

오픈AI는 통상 연구 프로젝트를 공개한다. 하지만 이번에 개발된 AI 시스템은 기술 악용에 대한 우려 때문에 출시하지 않기로 했다고 말했다.

이번 결정은 활용도에 관한 한계 설정이 없는 상태에서 첨단기술 개발에 대한 IT업계 불안감을 보여주는 사례다.