<인공지능의 시대, 인간을 다시 묻다> 김재인 지음, 동아시아 펴냄

“결과란

나의 노력과

우주의 조건이

어우러져서 생겨나는 법이다.”

***********************

알파고를 볼까요. 바둑은 경우의 수가 정말 많아요. 우주에 존재하는 원자의수보다도 많다고 하지요. 그렇긴 해도 바둑은 어쨌건 수학 계산입니다. 그런 점에서 바둑은 비인간적인 활동이에요. 인간은 본래 계산을 잘 못해요. 그게 정상입니다. 계산 대결에서 컴퓨터가 인간에게 이겼다고 충격적일 것도 없어요. 인간보다 컴퓨터가 계산을 더 잘하는 건 당연하니까요. 컴퓨터는 ‘계산기’라는 뜻이고, 계산 기능은 발전에 발전을 거듭해왔잖아요. 컴퓨터가 인간보다 잘하는 모든 분야는 컴퓨터가 ‘원리상’ 더 잘하는 분야일 수밖에 없어요. 이 점에 주목해야 합니다. -7쪽

사실 문제나 목표와 관련된 주제는 인공지능 연구자들의 주된 고민이 아니에요. 연구자들은 실질적인 성과에 관심이 있거든요. 올바르게 작동하느냐 아니냐, 주어진 과제를 잘 해결하느냐 아니냐. 그렇지만 철학자는 달라요. 원리를 파악하고 싶어 해요. 인공지능은 스스로 문제를 제기할 수 있을까? 혼자서 목표를 세울 수 있을까? 그럴 수 없어요. 원리상 안 되는 겁니다. 그런데 인간은 달라요. 문제도 제기하고 목표도 세웁니다. 인공지능은 인간지능과 마찬가지로 문제해결이나 목표 성취를 위해 각자 합리적으로 접근하지만, 인공지능에서 문제나 목표는 에이전트 바깥에서(더 구체적으로 인간에 의해) 주어지는 반면 인간지능은 문제나 목표를 스스로 정한다는 점에서 이 둘은 결정적으로 다릅니다. 인공지능과 인간지능의 원리상의 차이는 문제나 목표가 외적이냐 내적이냐에 있습니다. -47쪽

“진정한 합리성은 최상의 결과물을 성취하는 데 있지 않고 올바른 문제를 정하는 데 있다” -68쪽

일찍이 흄은 인간을 이기적이기보다는 오히려 편파적인 존재라고 파악했어요. 그런데 놀랍게도 인간이 편파적인 게 연민 때문이라는 겁니다. 연민은 가까운 사이일수록 강하게 작용하고 멀어질수록 작용이 약해져요. 나와 가까운 사람에게는 잘 공감하지만 나와 먼 사람들에게는 공감이 줄어들게 되고, 내 편과 저쪽 편 사이에 갈등이 생기면 악랄하게 적대적이 됩니다. … 사정이 이렇다면 인공지능이 꼭 인간지능을 흉내 낼 필요는 없다고 봅니다. 인간의 방식과 다른 알고리즘으로 작동하는 인공지능이 인간을 위해 더 나을 수도 있어요. 편파성을 지닌 인공지능은 상상만으로도 끔찍하지 않나요? -114쪽

계산기가 승리한 영역은 모두 계산 문제와 관련된 영역이었습니다. 우리는 여기서 교훈을 얻을 수 있습니다. 현존하는 일들 중에는 계산과 관련된 일들이 있고 그렇지 않은 일들이 있는데, 이들을 잘 구별해서 계산과 관련된 일은 인공지능의 몫으로 떼어주고 그렇지 않은 일들을 인간 몫으로 남겨야 한다는 거죠. 이런 구별은 미래의 직업과 관련해서 중요한 의미를 지니고, 무엇을 배우고 가르쳐야 할지와 관련해서는 더 큰 의미를 지닙니다. -116~117쪽

실패란 처음에 의도한 목표와 내가 노력해 생겨난 결과가 어긋날 때, 목표에 이르지 못했을 때를 가리킵니다. 그 어긋남 때문에 사람들은 좌절하고 후회합니다. … 하지만 결과란 나의 노력과 우주의 조건이 어우러져서 생겨나는 법입니다. 내 노력이 바라던 결과를 낳는다는 보장은 없습니다.…따라서 우리는 노력하는 순간에 집중해야 합니다. 매 순간 최선을 다할 때, 그 결과와 상관없이 후회가 남지 않습니다. …노력과 결과를 분리하는 일은 쉽지 않습니다. 하지만 그래야 합니다. 노력은 최선을 다하되 결과는 무조건 수용하기, 그러고 나서 최선을 다한 또 다른 실험을 진행하기, 이런 것의 연속이어야 하고 이것이 삶이어야 한다는 게 니체가 명명한 운명애의 진짜 의미입니다. -220쪽

(‘스경의 한 줄 책’에 소개를 원하는 출판사는 책 속의 보석 같은 문장들을 뽑아 보내주세요. 신·구간 불문입니다. 단 수험서나 교재, 개인출판 도서, 출판윤리를 훼손하는 책은 사양합니다.)