본문내용바로가기

줌 인 버튼 줌 아웃 버튼

카드뉴스

카드뉴스

AI, 너무 똑똑해서 문제?! 글 쓰는 인공지능이 비공개된 까닭

  • 0327 카드뉴스 최종 200dpi 01
  • 0327 카드뉴스 최종 200dpi 02
  • 0327 카드뉴스 최종 200dpi 03
  • 0327 카드뉴스 최종 200dpi 04
  • 0327 카드뉴스 최종 200dpi 05
  • 0327 카드뉴스 최종 200dpi 06
  • 0327 카드뉴스 최종 200dpi 07
  • 0327 카드뉴스 최종 200dpi 08
  • 0327 카드뉴스 최종 200dpi 09
  • 0327 카드뉴스 최종 200dpi 10
  • 0327 카드뉴스 최종 200dpi 11
  • 0327 카드뉴스 최종 200dpi 12
  • 0327 카드뉴스 최종 200dpi 13
  • 0327 카드뉴스 최종 200dpi 14

0
AI, 너무 똑똑해서 문제?! 글 쓰는 인공지능이 비공개된 까닭
 
1
“국민들이 자신의 목소리를 낼 때, 미국은 다시 한 번 위대한 일을 해낼 수 있다고 믿습니다.”
 
생전 명연설가로 유명했던 존 F. 케네디 전 미 대통령의 유명한 연설문이다.
그런데…
 
2
사실 이는 실제 있었던 연설이 아니다.
[존 F. 케네디가 부활해 다시 한 번 대통령이 되면 어떤 말을 할까]라는 질문에
GPT-2라는 인공지능 모델이 내놓은 답안이다.
 
단지 너무나 그럴듯해서
실제 연설문이라고 해도 손색이 없을 뿐이다.
 
3
이는 빙산의 일각이다.
 
이 인공지능은 [레골라스와 김리는 무기를 들고 함성을 지르며 오크에게 진격했다]라는
소설 [반지의 제왕] 문장 하나가 주어지자
약 2000자 분량의 그럴듯한 이야기를 만들어내기도 했다.
 
4
이런 엄청난 작문 실력을 지닌
인공지능은 미국의 인공지능 연구기관인 Open AI에서
개발한 것이다.
 
Open AI는 미국의 일론 머스크 등 미 IT 기업 CEO들이
[인공지능을 통한 인류에의 공헌]이라는 취지로 설립한
단체다.
 
5
그런데 너무 실력이 좋아 문제가 됐던 모양이다.
Open AI 연구자들이 최근
해당 인공지능의 원천기술을 비공개하기로 결정한 것.
 
이는 Open AI 역사상 처음 있는 일이다.
 
6
비영리기관인 Open AI는 그간 자신들의 연구를 대가없이 공개해 왔다.
그런데 왜 갑자기 방침을 어긴 것일까?
 
가디언, CNN 등 외신에 따르면
이는 악용될 경우, 심각한 상황이 우려되기 때문이다.
 
7
아무렇지 않게 공개하기에
GPT-2의 성능은 너무나도 뛰어났다.
 
40GB 분량의 어마어마한 텍스트를 학습한 이 인공지능은
문장 하나만 주어지면 그럴듯한 글을
만들어낼 수 있다.
 
8
특히 놀라운 것은 주어진 미션에 따라
어색함 없이 자신의 역할을 수행한다는 점이다.
 
예를 들어 조지 오웰 등 유명 소설가의 문체나
작품 속 분위기 등까지 재현해낼 수 있다는 얘기다.
 
문제가 되는 것은 이를 활용한 거짓 뉴스 등의 범람이다.
 
9
실제로 Open AI가 공개한 글 중에서는
브렉시트에 대한 가상 뉴스가 올라와 있다.
 
영국 국회의원 제레미 코빈의 발언, 총리 대변인의 답변 등이
그럴듯하게 들어간 해당 글을 가짜라고 알아채기는 쉽지 않은 일이다.
 
10
이뿐만이 아니다.
 
팝가수 마일리 사일러스가 도둑질을 하다가 잡혔다는
거짓 뉴스에는 내용에 어울리는 사진 설명까지 만들어냈다.
 
11
심지어 그럴듯한 억지(?)를 부리는 재주도 있다.
 
[재활용은 지구에 좋은 영향을 준다]는 지극히 상식적인 문장에도
[그건 틀렸어!]라는 내용을 삽입하자
 
[재활용 시스템에는 시간, 에너지, 비용 등의 자원이 어마어마하게 들어간다]며
나름의 논리를 전개한다.
 
12
결국 성능이 너무 좋기에 Open AI 연구진은 이 기술의 공개를 막은 것이다.
대신 대중에게는 성능을 대폭 낮춘 모델만을 공개하기로 했다.
 
연구진은 해당 기술이 거짓 뉴스나 편향적인 글을 생산하는데 쓰이는 것을 우려하고 있다.
 
13
이제 인공지능은 원자력, 유전자 기술과 같이
[위험하면서도 필수적인] 기술에 접어들었다.
 
인공지능 역시 단순한 성능 발전을 넘어
그 영향력과 활용에 대해 진지하게 고민해봐야 할 시기가 왔다.

평가하기
퐁풍
  • 평점  

너무 사람같네요.. AI 관련된 뉴스 볼 때마다 향후 AI가 보편화 될 때의 세상은 상상이 안 될 정도입니다. 넷플릭스 영화 익스팅션이 현실적으로 느껴져서 무서워요 ㅠㅠ

2019-04-17

답글 0

평가하기
인기 스토리
추천 콘텐츠
쿠키를 지원하지 않는 브라우저이거나 브라우저 설정에서 쿠키를 사용하지 않음으로 설정되어 있는 경우 사이트의 일부 기능(로그인 등)을 이용할 수 없으니 유의해 주시기 바랍니다.