제프리 힌튼은 죄책감을 느끼는가?

9월 14일 

"오늘은 어떻게 즐겁게 지낼까? "

"이 세상은 어떻게 가고 있는 걸까?

"나는 세상이 이 모양이 되는 와중에 무슨 짓을 하고 있었던 것일까?"

이어지는 우울한 질문이다. 

생성형 인공지능을 만드는데 결정적 역할을 한 제프리 힌튼, 

그의 유튜브를 찾아보다가 life 3.0 stories에 멈춘다.

그는 노벨상을 수상하면서도 수심에 가득찬 표정으로 스피치를 했다. 

분명 그는 우울증으로 쇠약해지고 있는 것처럼 보였다.

그는 1947년, 그러니까 나보다 한해 더 빨리 태어났다.

쇼트를 켜보니 "제프리 힌튼: 제가 죄책감을 가져야 할까요?"라는 주제의 영상이 떠있다.

https://www.youtube.com/shorts/Wj7pe_KPY-8

늘 놀라울 뿐이다. 이런 우연이나리.... 찾는 곳에 길이 있다는 말이 맞다.

수 많은 청년들이 모인 강당인데 관객석 질문을 모아 사회자가 조금 떠듬거리며 말했다.  

"가장 많이 나온 질문인데요. 교수님이 인간을 능가할 가능성이 있는 지능을 세상에 내놓은 것에 대해

죄책감이나 도덕적 책임을 느끼시는 지의 여부에 대한 것입니다."

그는 주저 없이 참으로 영민한 인물답게 답한다.

"아 그래서 두 가지 질문이네요. 하나는 "나는 죄책감을 느끼는가?' 이고  다른 하나는 '나는 죄책감을 느껴야 하느냐?' (객석의 웃음)

쉬운 질문부터 시작해볼게요. 

솔직히 나는 죄책감을 느끼지 않습니다. 

가끔, 그렇게 느끼는데 제 아이들을 생각할 때만 그렇죠.

그렇다면 나는 죄책감을 느껴야 하는 걸까요?

제가 이 일을 하는 동안 내내 인간과 비교할 수 있는 수준의 지능이 등장하려면

아직도 갈 길이 멀다고 생각했어요.

저는 항상 기계가 우리만큼 똑똑해지려면 

뇌와 훨씬 더 유사한 구조를 가져야 하고 훨씬 더 거대해야 한다고 생각했어요.

그런데 지금은 연결의 수로 보면 우리보다 100배나 작은 시스템들이 

이미 우리와 견줄만한 수준에 도달한 것처럼 보입니다. 

그 후에는 매우 빠르게 우리를 앞지를 수도 있습니다. 

그래서 저는 이 과정에 기여했다는 점에서 다소 당황스럽지만 

과거의 제 결정이 도덕적으로 잘못되었다고는 생각하지 않습니다. 

왜냐하면 이런 일이 일어날 줄 몰랐으니까요.

그리고 흔히 하는 말처럼 제가 하지 않았다면 다른 누군가가 했겠죠. 

사실, 저는 언론에 대해 많은 걸 배웠습니다. 

언론은 어떤 큰 사건이 한 사람의 결정 때문이라고 만들고 싶어합니다. 

그래서 항상 특정 인물이 모든 것을 주도한 것처럼 보도하죠.

절대 그렇지 않아요, 이런 일을 수만명이 협력한 결과이며

그 중 일보는 더 많은 기여를 했을 뿐입니다. 

그래서 저는 이제 이 책임을 그들과 기꺼이 나누고자 합니다.
객석의 청년들은 매우 우호적이었으며 그가 하는 말은 매우 우호적으로, 웃음으로 받아들였다.  

나는 이 동영상을 받으며 솔직히 좀 위로가 되었다.

이 양반이 죄책감으로 우울증에 걸리지 않아 다행이라는 생각이었고

내 죄책감을 오버하는 것이라는 생각이 들었다.

그런데 인문학자와 자연과학자의 차이인가?

자기 아이들에게는 미안하다는 말은 무슨 말인가?

댓글을 보면 연구하느라 아이들을 잘 챙기지 못한 부채의식을 말하는 이도 있는데 그건 아닌 것 같고 여기선 불분명하다.

그리고 모르고 했으면 죄책감이 안 든다는 말은 뭔가?

이 말이 불편했던 누군가가 댓글에 이렇게 썼다.

"저 사람은 AI가 인류를 멸망시킬 수 있는 확률이 그냥 느낌상 10-20% 된다고 말했죠.

 대개의 사람들은 좋은 의도를 가졌든 아니든 끔찍한 결과를 마주 했을 때 본능적으로 죄잭감을 느낍니다." 

(paradiseherbs3402)

절대적 선과 보편적 정의를 강조한 콜버그의 윤리를 떠올리게 하는 지점이다.

이런 윤리관에 대해 캐롤 길리건은 배려와 책임의 윤리로 보완하고자 했다. 

어쨌든 나는 지금의 상황에 대해 너무 많은 고민을 하지 말하야 한다.

특히 이 모든 것에 내가 연루되어 있다는,

나의 무능력으로 이런 사태가 벌어졌다는,

나도 책임이 있다는 과대망상에서 벗어나야 한다.