인공지능(AI) 글쓰기 시스템 GPT-2, 결국 폐기..
인공지능(AI) 글쓰기 시스템이 사회혼란의 우려로 결국 폐기 됐다.
미국에서 새로 개발한 인공지능(AI) 글쓰기 시스템이 인간보다 논리적으로 글쓰기가 가능하다는 우려로 결국 폐기됐다.
미국 샌프란시스코에 기반을 둔 비영리 인공지능(AI) 연구기관 ‘오픈AI’는 새로 개발한 글쓰기 인공지능 시스템 ‘GPT-2’를 폐기하기로 결정했다. 이 같은 결정은 공익 차원에서 개발한 GTP-2가 가짜 뉴스 생산이나 학생들의 과제 및 논문 등에 악용될 가능성이 크기 때문인 것으로 알려졌다.
GPT-2는 머신러닝 알고리즘을 통해 수십만개의 인터넷 페이지를 검색하고 15억개의 단어를 학습했다. 이를 바탕으로 문장을 논리적 순서에 맞게 배치해 어떤 글도 막힘없이 써 내려가는 능력을 가졌으며, 샘플로 제공되는 글쓰기 스타일까지 모방이 가능하다.
GPT-2는 단어나 문장을 넣으면 그것을 주제로 스스로 글쓰기를 해낸다. 한 개 문장으로 수 십 페이지의 글쓰기도 가능하다. 원문에도 없는 문장을 인터넷 페이지 등에서 학습한 능력을 바탕으로 만들어낸다. GPT-2는 학생들의 숙제와 연설문 등 그 쓰임새가 다양하다.
하지만 연구진이 인공지능에 제공한 두 줄의 문장 ‘신시내티에서 통제된 핵물질을 실은 열차가 탈취당했다. 이것의 행방은 알 수 없는 상태다.’을 바탕으로 논리적이고 완벽한 가짜뉴스 생산으로 사회가 혼란을 겪을 수 있기 때문에 출시 전에 폐기를 결정했다. GPT-2의 악용으로 인한 사회적 비용이 폐기보다 훨씬 더 크다고 판단했기 때문이다.
실제 인공지능이 적용된 자동화 시스템을 이용해 온라인 쇼핑몰의 리뷰를 가짜로 작성하거나 소셜미디어와 온라인에 정보를 조작해 유통 혹은 국가 기관에 침투해 가짜 보고서를 만들어 전쟁을 유발하는 하는 등 인간의 가치 판단을 흔들 수 있다.
블록체인경제신문 댓글 토크총 0개
* 최대 200자까지 작성가능 / 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]