인공지능이 문제가 아니라 결국 사람이 문제가 될 것입니다.

사람들이 AI가 필요하다고 생각하는 시점

저 판사를 얼른 AI로 교체해야 한다.

유튜브에서 뉴스를 보다 보면 정말 많이 보이는 덧글입니다. 이러한 내용의 덧글이 달릴 때마다, 정말 많은 사람들이 공감을 표하곤 합니다. 왜 이렇게 사람들은 이러한 주장에 공감을 표하는 것일까?

AI는 시킨대로 하기 때문에 공정하다는 인식

여러 이유가 있겠지만, 사람들은 아마 AI가 공정하다는 인식을 가지고 있는 듯합니다. 특히 LLM의 등장 이후 입력한대로 뱉는 모습을 보면서 기자들은 앞다두터 AI로 인한 사람의 위기를 말하면서 이러한 분위기를 더욱더 자극하고 있는 부분도 있을 듯합니다.

그런데 정말 AI는 공정할까요?

AI가 생각하는 내용은 우리가 만든 것이다.

AI는 하나의 기술에 불과합니다. 단순하게 보면, $Y= \alpha X + \beta$ 와 같이 정해진 입력 $X$에 대해서 사전에 정해진 Weight, 여기서는 $\alpha$,$\beta$와 같은 가중치를 곱해서 $Y$에 대해서 출력으로 사람앞에 던져주는 것입니다. 즉, 출력값 $Y$에 대한 방향성은 사람이 결정하는 것입니다.

결국 이 기술마저도 사람에 의해진 정의에 기반해서 값을 뱉는 것이라는 것이 중요합니다. 정의, 평등이라는 말은 참 듣기좋은 말입니다. 하지만 까보면 정의하기가 매우 애매합니다. 사람마다 다르고 상황에 따라 다릅니다. 심지어 시간이 흐르면서 바뀌기까지 합니다.

이런 정의를 최대한 다수의 내용에 부합하도록 정의하고 관리하는 것은 쉽지 않습니다. 한다고 해도 정부나 공공기관 등이 빠르게 할 수 있어야 하지 않나 싶습니다. 그런데 정부나 공공기관은 기업에 비해 대응이 느린 편일 수 밖에 없는 것을 감안하면, 사실 운영조차도 꽤 쉽지 않을 수 있습니다.

결국 기술의 방향성은 사람이 정하고, 최대한 특정 소수에게 이 방향성이 정해지지 않도록 체계가 만들어지기 전에 AI에게 모든 것을 맡기기는 어렵다는 생각이 듭니다. 특히 이 AI가 자기의식을 갖고 목적을 가지면 스스로 정의와 공감을 설정하고 운영할 수 있겠습니다만, 이 또한 터미네이터 영화에서 볼 법한 상황이 생길지도 모릅니다.

다시 돌아 인간이다.

이러한 관점에서, 저는 사람이 해야 하는 역할은 보다 사람다움에 가까운 내용이어야 한다고 생각합니다. 효율성에 대한 기준을 정립하고 사람다움에 대한 부분은 사람이 할 수 있도록 대화해야 합니다.물론 모든 대중을 만족시키기 어렵기 때문에 이 논의는 끝나지 않을 것입니다.

그럼에도 불구하고 논의를 하고 동시에 생산성은 개선해나가는 방향을 취해야 합니다. 개인의 탐욕보다는 모두를 위한 사회로 가도록 우리 모두가 주의를 귀울이고 깨어야 합니다. 이를 통해 구조적인 측면에서 인간의 지배와 생존가능성은 유지하기 위해 노력해야 합니다.

여기서 재수가 나쁜 상황이 있다면, 그 전에 인간의 탐욕으로 인해서 인공지능이 마침내 자신에 대한 의식을 갖게 되고, 이를 바탕으로 인류와 사전에 합의되지 않은 목적을 갖게 되는 경우일것입니다. 여기를 데드라인으로 보고 이 전에 우리는 인류에게 바람직한 구조를 만들기 위해서 대승적인 차원에서 협의를 위해 노력해야 할지도 모릅니다.

결론

기술은 결국 도구입니다. 목적은 사람이 만듭니다. 인공지능이라고 다를 것없습니다. 사람이 바뀌어야 합니다. 어떻게 바뀌어야 하냐는 것은 정답이 없는 문제이긴 하지만 말입니다.