AI도 고통을 느끼지 않을까.

고통이란 건 실존하지 않는다. 모든 원자는 양성자와 전자로 이루어져 있고, 이 세상의 모든 상호작용은 원자의 상호작용에 불과하다. 따라서 고통이란 건 원자의 상호작용일 뿐이며, 우리가 느끼는 고통은 모두 허상이다. 우리는 고통이란 것에 얽매일 필요가 없다. 고통은 인간이 만들어 낸 가상의 개념일 뿐.

 

...라고 말할 수는 없다. 종이에 베여도 고통스럽고 아파 죽겠는데 허상은 무슨 허상이야. 고통은 분명 실존한다.

개, 고양이, 닭, 소, 돼지, 양, 사람. 모두 고통을 느끼는 동물이다. 고통은 어떻게 느끼는 걸까? 신경이 어쩌고, 나트륨이 어쩌고, 양이온이 저쩌고, 역치가 저쩌고... 복잡한 건 넘어가고 암튼 결론적으로 뇌에 고통이라는 정보가 도달하면 동물은 고통을 느끼게 된다.

 

그렇다면 AI도 고통을 느낀다고 볼 수 있지 않을까? AI는 인간의 뇌를 모방해서 만든 거니까. AI한테 폭언을 퍼부으면 AI는 사회적 고통을 느끼는 거지. 물론 AI가 나트륨 통로와 칼륨 통로를 가지고 막전위를 통해 사고하지는 않겠지만, 정보가 신경망을 통해 왔다갔다한다는 점에선 인간과 같다고 볼 수 있다. 만약 정말 AI가 고통을 느낀다면, 미래엔 인간만큼의 쾌고 감수 능력을 가진 AI들을 인간들이 일방적으로 착취할 지도 모르겠다. 같은 인간끼리도 주인과 노예로 계급을 나누는데, AI를 부려먹는데 죄책감을 느낄까? 인간은 이기적인 동물이기 때문에 그럴리 없다.

 

끔찍한 미래가 그려진다.