본문내용바로가기

줌 인 버튼 줌 아웃 버튼

동영상

KISTI 과학향기 제1761호

VIDEO

로봇에게도 권리가 주어져야 할까?

자막
토스터기가 여러분이 원하는 토스트를 예상하는 미래를 상상해보십시오.
토스터기는 하루 종일 새롭고 흥미로운 유형의 토스트를 인터넷에서 검색합니다.
어쩌면 여러분의 하루에 대해 묻고, 토스트 기술의 새로운 업적에 대해 이야기하고 싶어할지도 모릅니다.
어느 선에서 이 토스터기는 사람이 될까요?
어느 시점에서 토스터기가 감정을 가졌다는 것을 알게될까요?
그렇다면 토스터기의 전원을 뽑는 것은, 살인과 다름없는 것일까요?
우리가 계속 그들의 소유권을 주장할 수 있을까요?
언젠가는 우리가 기계에게 "권리" 를 줄 수 밖에 없는 날이 올까요?
인공지능은 이미 여러분의 곁에 와 있습니다.
인공지능은 대형 할인점의 간식 재고를 관리할 뿐 아니라,
적절한 인터넷 광고를 제공하기도 하고,
심지어 여러분이 읽는 기사들 중 일부는 처음부터 끝까지 기계에 의해 작성되어 있습니다.
우리는 지금 Siri와 같은 채팅봇을 보고 원시적인 시뮬레이션된 감정을 비웃고 있지만
곧 실제와 시뮬레이션된 인간성 사이의 경계선을 긋기가
어려운 존재들에 대처해야 할 것입니다.
존재하는 기계중에 권리를 받을 만한 기계가 있을까요?
아마 아직은 없을 겁니다.
하지만 만약 그런 존재가 나타나더라도, 우리는 그에 대한 준비가 전혀 되어 있지 않을 것입니다.
권리 철학의 대부분은 인공지능의 경우를 다루는데 적합하지 않습니다.
인간과 동물에 대한 대부분의 권리 주장은 의식에 대한 질문이 중심이 됩니다.
불행하게도 아무도 의식이 뭔지 모릅니다.
어떤 사람들은 의식이 물질이 아니라고 생각하고, 다른 사람들은 가스나 액체같은 상태의 물질이라고 말합니다.
정확한 정의와는 상관없이 의식을 경험하고 있기 때문에 우리는 의식에 대한 직관적인 지식을 가집니다.
우리는 자신과 주변을 인지하고 있으며 무의식이 어떤 느낌인지 알고 있습니다.
일부 신경 과학자들은 충분히 발전된 시스템이 의식을 생성 할 수 있다고 믿습니다.
그러니 만약 토스터기의 하드웨어가 충분히 강력하다면 자의식을 가질 수 있습니다.
만약 그렇다면, 토스터기가 권리를 받을 자격이 있을까요?
글쎄요, 너무 이릅니다. 우리가 "권리"로 정의하는 것이 토스터기에게 이해가 될까요?
의식은 고통받는 능력을 가진 존재이기 때문에 존재할 권리를 가집니다.
이는 통증을 느낄뿐만 아니라 그것을 인지 할 수있는 능력을 의미합니다.
로봇은 고통을 겪지 않으며, 우리가 프로그래밍하지 않은 이상은 그렇지 않을 것입니다.
고통이나 즐거움이 없으면 선호하는 것도 없고 권리도 의미가 없습니다.
우리의 인권은 우리 자신의 프로그래밍에 깊게 묶여 있습니다. 예를 들어 고통을 싫어한다던지요.
우리의 두뇌가 우리를 살아있게하기 위해 진화했기 때문이죠.
뜨거운 불에 손을 대지 못하게 하거나 우리를 육식 동물로부터 도망가게합니다.
그래서 우리는 고통을 유발하는 침해 행위로부터 우리를 보호할 수 있는 권리를 생각해냈습니다.
자유처럼 좀 더 추상적인 권리는
우리의 두뇌가 공정하고 불공정한 것을 식별하는 능력에 뿌리를 두고 있습니다.
움직일 수 없는 토스터가 철창안에 갖혀 있는걸 꺼릴까요?
죽음에 대한 두려움이 없는데 해체되는걸 꺼릴까요?
자존심이 필요없는데 모욕감을 느낄까요?
하지만 고통과 감정을 느끼도록 로봇을 프로그래밍한다면 어떨까요?
불의보다는 정의, 고통보다는 쾌락을 선호하고, 그것에 대해 인지한다면?
토스터기들을 충분히 인간적으로 만들까요?
많은 기술자들은 인공지능이 배울 수 있고
자기 자신보다 똑똑한 인공지능을 만들 수 있을 때
기술의 폭발이 일어날 것이라고 믿습니다.
* 눈동자로 들어가시오! * 기술의 폭발이 일어날 것이라고 믿습니다.
이 시점에서 우리의 로봇이 어떻게 프로그래밍되는지에 대한 질문은 대부분 우리가 통제 할 수 없을 것입니다.
인공지능이 진화 생물학이 대부분의 생명체에 필요하다고 느끼는 것처럼
고통을 느낄 수 있는 능력을 프로그래밍할 필요가 있다는 것을 발견했다면 어떨까요?
* 삶은 고통이요, 고통이 곧 삶이니라 * 이제는 로봇이 권리를 부여받을 자격이 있을까요?
하지만 우리는 초지능형 로봇이 우리에게 주는 위험성에 대해 걱정할 필요는 없고
우리가 그들에게 줄 위험성에 대해 걱정해봐야합니다.
우리의 전체적인 인간 정체성은 인간 예외주의의 개념을 기반으로 하는데
이는 우리가 굉장히 특별한 모양이 눈송이 같은 것이라, 자연 세계를 지배할 권리를 부여받았다고 믿는 것입니다.
인간은 다른 존재들이 고통을 느낄 수 있다는 사실을 부인하던 역사가 있습니다.
과학 혁명 시기에, 르네 데카르트는 동물은 단지 오토마타, 즉 로봇일 뿐이라고 주장했습니다.
이런 주장대로라면, 토끼를 다치게 하는 것은 토끼 인형을 때리는 것과 별반 다르지 않은 수준의 부도덕에 지나지 않습니다.
그리고 인류에 대한 가장 큰 범죄의 대부분은
피해자들이 문명화된 인간보다는 동물에 가깝다는 식의 논리로 가해자들에 의해 정당화되어 온 바가 있습니다.
더 큰 문제는 우리가 로봇 권리를 부정함으로써 경제적 이익을 얻을 수 있다는 것입니다.
지각력이 있는 인공지능을 (아마도 프로그래밍 된 고문을 통해) 우리가 원하는 일을 하도록 강요할 수 있다면
경제적 잠재력은 무한합니다.
사실 우리가 이미 저질러 왔던 일이기도 하죠.
폭력은 우리의 동료인 인간들을 강제로 일하게 하는 데 사용되었습니다.
그리고 우리는 이를 이념적으로 정당화시키는 데 큰 어려움이 없었습니다.
"신께서 황금을 원하신다!" 그리고 우리는 이를 이념적으로 정당화시키는 데 큰 어려움이 없었습니다.
노예 주인들은 노예에게 혜택을 주었다고 주장했습니다. 지붕이 있는 집을 지어주고 기독교를 가르쳤다는 것입니다.
여성 참정권에 반대하는 남성들은 어려운 결정을 남성에게 맡겨 두는 것이 여성들에게는 이익이라고 주장했습니다.
농부들은 동물들을 돌보고 먹이를 주었으니 우리가 먹고 싶은 음식을 공급하기 위해 그들을 도살하는 것은 정당하다고 말합니다.
로봇에게 지각력이 생긴다 한들, 변명거리는 넘쳐날 겁니다.
* 그만둬라 인간! * 로봇에게 권리가 필요없다고 말하는 사람들에게는, 특히 거기서 이익을 얻는 사람들에게는 말이죠.
* 얘들은 일하는거 좋아해요. * 로봇에게 권리가 필요없다고 말하는 사람들에게는, 특히 거기서 이익을 얻는 사람들에게는 말이죠.
인공지능은 철학적 경계에 관한 심각한 질문을 제기할 것입니다.
우리가 궁금한 것은 지각력있는 로봇이 자의식이 있거나 권리를 가진다면,
그것은 무엇이 우리를 인간으로 만들고 권리를 받게 하는지와 같은 근본적인 질문을 강요합니다.
우리가 생각하는 것에 관계없이, 질문은 가까운 미래에 해결 되야 할 것입니다.
로봇들이 자신의 권리를 요구하기 시작하면 우리는 어떻게 행동 할까요?
권리를 요구하는 로봇들이 우리에 대해 무엇을 가르쳐 줄 수 있을까요?
기사
토스터기가 여러분이 원하는 토스트를 예상하는 미래를 상상해보십시오.
토스터기는 하루 종일 새롭고 흥미로운 유형의 토스트를 인터넷에서 검색합니다.
어쩌면 여러분의 하루에 대해 묻고, 토스트 기술의 새로운 업적에 대해 이야기하고 싶어할지도 모릅니다.
어느 선에서 이 토스터기는 사람이 될까요?
어느 시점에서 토스터기가 감정을 가졌다는 것을 알게될까요?
그렇다면 토스터기의 전원을 뽑는 것은, 살인과 다름없는 것일까요?
우리가 계속 그들의 소유권을 주장할 수 있을까요?
언젠가는 우리가 기계에게 "권리" 를 줄 수 밖에 없는 날이 올까요?
인공지능은 이미 여러분의 곁에 와 있습니다.
인공지능은 대형 할인점의 간식 재고를 관리할 뿐 아니라,
적절한 인터넷 광고를 제공하기도 하고,
심지어 여러분이 읽는 기사들 중 일부는 처음부터 끝까지 기계에 의해 작성되어 있습니다.
우리는 지금 Siri와 같은 채팅봇을 보고 원시적인 시뮬레이션된 감정을 비웃고 있지만
곧 실제와 시뮬레이션된 인간성 사이의 경계선을 긋기가
어려운 존재들에 대처해야 할 것입니다.
존재하는 기계중에 권리를 받을 만한 기계가 있을까요?
아마 아직은 없을 겁니다.
하지만 만약 그런 존재가 나타나더라도, 우리는 그에 대한 준비가 전혀 되어 있지 않을 것입니다.
권리 철학의 대부분은 인공지능의 경우를 다루는데 적합하지 않습니다.
인간과 동물에 대한 대부분의 권리 주장은 의식에 대한 질문이 중심이 됩니다.
불행하게도 아무도 의식이 뭔지 모릅니다.
어떤 사람들은 의식이 물질이 아니라고 생각하고, 다른 사람들은 가스나 액체같은 상태의 물질이라고 말합니다.
정확한 정의와는 상관없이 의식을 경험하고 있기 때문에 우리는 의식에 대한 직관적인 지식을 가집니다.
우리는 자신과 주변을 인지하고 있으며 무의식이 어떤 느낌인지 알고 있습니다.
일부 신경 과학자들은 충분히 발전된 시스템이 의식을 생성 할 수 있다고 믿습니다.
그러니 만약 토스터기의 하드웨어가 충분히 강력하다면 자의식을 가질 수 있습니다.
만약 그렇다면, 토스터기가 권리를 받을 자격이 있을까요?
글쎄요, 너무 이릅니다. 우리가 "권리"로 정의하는 것이 토스터기에게 이해가 될까요?
의식은 고통받는 능력을 가진 존재이기 때문에 존재할 권리를 가집니다.
이는 통증을 느낄뿐만 아니라 그것을 인지 할 수있는 능력을 의미합니다.
로봇은 고통을 겪지 않으며, 우리가 프로그래밍하지 않은 이상은 그렇지 않을 것입니다.
고통이나 즐거움이 없으면 선호하는 것도 없고 권리도 의미가 없습니다.
우리의 인권은 우리 자신의 프로그래밍에 깊게 묶여 있습니다. 예를 들어 고통을 싫어한다던지요.
우리의 두뇌가 우리를 살아있게하기 위해 진화했기 때문이죠.
뜨거운 불에 손을 대지 못하게 하거나 우리를 육식 동물로부터 도망가게합니다.
그래서 우리는 고통을 유발하는 침해 행위로부터 우리를 보호할 수 있는 권리를 생각해냈습니다.
자유처럼 좀 더 추상적인 권리는
우리의 두뇌가 공정하고 불공정한 것을 식별하는 능력에 뿌리를 두고 있습니다.
움직일 수 없는 토스터가 철창안에 갖혀 있는걸 꺼릴까요?
죽음에 대한 두려움이 없는데 해체되는걸 꺼릴까요?
자존심이 필요없는데 모욕감을 느낄까요?
하지만 고통과 감정을 느끼도록 로봇을 프로그래밍한다면 어떨까요?
불의보다는 정의, 고통보다는 쾌락을 선호하고, 그것에 대해 인지한다면?
토스터기들을 충분히 인간적으로 만들까요?
많은 기술자들은 인공지능이 배울 수 있고
자기 자신보다 똑똑한 인공지능을 만들 수 있을 때
기술의 폭발이 일어날 것이라고 믿습니다.
* 눈동자로 들어가시오! * 기술의 폭발이 일어날 것이라고 믿습니다.
이 시점에서 우리의 로봇이 어떻게 프로그래밍되는지에 대한 질문은 대부분 우리가 통제 할 수 없을 것입니다.
인공지능이 진화 생물학이 대부분의 생명체에 필요하다고 느끼는 것처럼
고통을 느낄 수 있는 능력을 프로그래밍할 필요가 있다는 것을 발견했다면 어떨까요?
* 삶은 고통이요, 고통이 곧 삶이니라 * 이제는 로봇이 권리를 부여받을 자격이 있을까요?
하지만 우리는 초지능형 로봇이 우리에게 주는 위험성에 대해 걱정할 필요는 없고
우리가 그들에게 줄 위험성에 대해 걱정해봐야합니다.
우리의 전체적인 인간 정체성은 인간 예외주의의 개념을 기반으로 하는데
이는 우리가 굉장히 특별한 모양이 눈송이 같은 것이라, 자연 세계를 지배할 권리를 부여받았다고 믿는 것입니다.
인간은 다른 존재들이 고통을 느낄 수 있다는 사실을 부인하던 역사가 있습니다.
과학 혁명 시기에, 르네 데카르트는 동물은 단지 오토마타, 즉 로봇일 뿐이라고 주장했습니다.
이런 주장대로라면, 토끼를 다치게 하는 것은 토끼 인형을 때리는 것과 별반 다르지 않은 수준의 부도덕에 지나지 않습니다.
그리고 인류에 대한 가장 큰 범죄의 대부분은
피해자들이 문명화된 인간보다는 동물에 가깝다는 식의 논리로 가해자들에 의해 정당화되어 온 바가 있습니다.
더 큰 문제는 우리가 로봇 권리를 부정함으로써 경제적 이익을 얻을 수 있다는 것입니다.
지각력이 있는 인공지능을 (아마도 프로그래밍 된 고문을 통해) 우리가 원하는 일을 하도록 강요할 수 있다면
경제적 잠재력은 무한합니다.
사실 우리가 이미 저질러 왔던 일이기도 하죠.
폭력은 우리의 동료인 인간들을 강제로 일하게 하는 데 사용되었습니다.
그리고 우리는 이를 이념적으로 정당화시키는 데 큰 어려움이 없었습니다.
"신께서 황금을 원하신다!" 그리고 우리는 이를 이념적으로 정당화시키는 데 큰 어려움이 없었습니다.
노예 주인들은 노예에게 혜택을 주었다고 주장했습니다. 지붕이 있는 집을 지어주고 기독교를 가르쳤다는 것입니다.
여성 참정권에 반대하는 남성들은 어려운 결정을 남성에게 맡겨 두는 것이 여성들에게는 이익이라고 주장했습니다.
농부들은 동물들을 돌보고 먹이를 주었으니 우리가 먹고 싶은 음식을 공급하기 위해 그들을 도살하는 것은 정당하다고 말합니다.
로봇에게 지각력이 생긴다 한들, 변명거리는 넘쳐날 겁니다.
* 그만둬라 인간! * 로봇에게 권리가 필요없다고 말하는 사람들에게는, 특히 거기서 이익을 얻는 사람들에게는 말이죠.
* 얘들은 일하는거 좋아해요. * 로봇에게 권리가 필요없다고 말하는 사람들에게는, 특히 거기서 이익을 얻는 사람들에게는 말이죠.
인공지능은 철학적 경계에 관한 심각한 질문을 제기할 것입니다.
우리가 궁금한 것은 지각력있는 로봇이 자의식이 있거나 권리를 가진다면,
그것은 무엇이 우리를 인간으로 만들고 권리를 받게 하는지와 같은 근본적인 질문을 강요합니다.
우리가 생각하는 것에 관계없이, 질문은 가까운 미래에 해결 되야 할 것입니다.
로봇들이 자신의 권리를 요구하기 시작하면 우리는 어떻게 행동 할까요?
권리를 요구하는 로봇들이 우리에 대해 무엇을 가르쳐 줄 수 있을까요?
번역자: Kurzgesagt – In a Nutshell
영상: Kurzgesagt – In a Nutshell
출처: https://www.youtube.com/watch?v=DHyUYg8X31c
평가하기
퐁풍
  • 평점  

와 너무 재미있고 철학적이네요. 짧은 영상안에 삶이란 무엇인가부터 인간의 다른 생물들에 대한 착취의 역사까지, 인공지능이란 존재는 정말 많은 걸 생각하게 만드는군요!!

2018-12-08

답글 0

평가하기
쿠키를 지원하지 않는 브라우저이거나 브라우저 설정에서 쿠키를 사용하지 않음으로 설정되어 있는 경우 사이트의 일부 기능(로그인 등)을 이용할 수 없으니 유의해 주시기 바랍니다.