unattached.me

AI의 위험을 지적하며 양심선언했다는 연구자들 보면 죄다 그냥 자기 생각에 그럴 수도 있다는 거지 증거는 하나도 없다. 뭐 그러면 안되는 건 아니지만, 세상에서 가장 하기 쉬운게 뭔가 더하는 거 없이 심지어 대안 제시도 없이 그냥 안될 가능성만 주구장창 얘기하는 거다.

게다가 이런 근거없는 비판만으로도 AI 연구자로서 월급받는 것도 가능해서 더 그렇다. 지금은 AI가 뭐가 될지 아무도 몰라서 개발 경쟁중인 기업들이 안전/제동/감시를 위한 부서를 키우느라 인력을 대규모 고용할 수 밖에 없는 상황이다. 구색을 갖추기 위해서라도. 무책임하다는 사회적 시선에 대응하기 위해.

그 반대로 AI 긍정론자들은 그렇게 ”양심고백“을 하지 않는다. 그 시간에 개발에 열중하거나 AI로 사업기회를 만드느라 바빠서. 그리고 긍정론을 얘기해봤자 그걸로는 월급이 나오지 않는다.

죄다 근거가 빈약하다보니 그 많은 반대 주장 중에 영양가 있는 게 어떤 건지 걸러낼 방법이 없다.

ChatGPT가 뜨기 전에 구글 내부에서 AI 챗봇과 대화하다가 그 AI가 의식이 있음을 확인했다고 ”양심선언“했던 직원 기억하나? 진짜 의식이 있었으면 구글이 지금 이렇게 OpenAI 추격하느라 고생중이겠나…

먼저, 전에도 말했지만 이런 이슈는 잡음이다. 우리가 이런 일에까지 신경쓸만큼 느긋한 상황이 아니다.

근데 한가지 관찰점을 짚고 넘어가야겠다. 나만 그렇게 생각한건지 모르겠지만 수년 전까진 그래도 다들 합리적 사고가 바람직하고 순간의 감정에 너무 큰 비중을 두면 옳은 결정이 힘들다는 합의같은 게 있었다. 아니면 내가 INTP라 착각하고 산 것일 수도 있고.

근데 언젠가부터 감정이 옳다는 사회운동이 힘을 얻었다. 평소에 너무 감정을 배제하고 사실관계에 집착한다는 지적을 받아온 사람으로서 그것도 가치가 있는 관점일거라고 긍정적으로 생각했는데, 왠지 꽤 많은 사람들이 그냥 그 명제를 다른 논리에 우선하는 진리같이 받아들이고 있는 것 같다.

민희진과 민희진을 채용해 걸그룹 하나 제작을 맡긴 하이브를 동급에 놓고 생각하거나, 민희진이 상대적으로 약자니까 민희진 편을 들거나, 민희진이 감정을 실어 호소했으니까 옳다는 사람이 이렇게 많이 나올 줄은 솔직히 몰랐다.

감정에도 비중을 더 두려 노력하지만 합리주의라는 근본을 포기하지 못하는 사람으로서 참담하다. 대중이 가끔 날 실망시킨다.