*뇌의언어를 집필하던 시기에 해외 지인과 대화한 내용의 일부입니다.
‘…그래서 요즘 저는 공부하면 공부할수록 뇌가 정말 취약하다는 걸 느껴요. 뇌는 마치 아주 낡은 방화벽을 탑재하고 있는 아주 오래된 구식 컴퓨터같아요. 아주 뻔한 트릭에마저도 쉽게 넘어가요. 하물며 정교하고 고도화된 뇌의 언어에는 정말 취약할수밖에 없죠.
그리고 이렇게 구멍이 숭숭 나있는 뇌를 해킹하는 방법은 이미 고도로 개발되어있고요. 제가 조사한 바에 따르면 이 기술은 실제로 지난 미국 대선에도 사용됐더라고요.’
‘네, 저도 언론이 절 조종하는 거 알아요. 특히 대선 기간에는요.
그런데 제가 궁금한건, 이런 기술은 원래부터 있어왔는데 특별히 AI 시대가 되었다고 해서 이게 그리 더 위험해질게 있나 하는거예요.’
‘음.. 훨씬 위험해지죠. 원래는 숙련된 소수의 전문가들이 지휘하는 정예부대들만 이런 기술을 사용했어요. 그런데 이제는 모든 사람에게 동시에 영향을 미칠 수 있는 AI가 등장했어요. 이 AI에게 뇌의 언어를 가르친다면 갑자기 어느날 아침부터 수천만의 사람들이 심리 조작 기술의 타겟이 될 수 있는거죠.
점점 사람들은 AI의 편리함에 점점 더 많이 인공지능을 찾고 있어요. 누구나 핸드폰 하나로 AI를 사용할 수 있게 되고 있어요. AI 서버를 갖고있는 회사나 기관들은 이 점을 적극적으로 하지만 조용하고 은밀한 방식으로 활용할 확률이 높아요. 한 마디로 이런 심리 조종이 가속화될 거에요.
이제 국가들은 더 많은 사람들에게 더 동시에 자신들의 AI를 서비스하기 위해서라도 엄청난 양의 컴퓨터를 앞다퉈 사려고 할거에요. 이건 예전에 누가 먼저 달에 도착하는지 경쟁하면서 우주산업에 엄청난 투자를 하던 것과 비슷한 것 같아요. 보이지 않는 군비경쟁이 컴퓨터 시장에서 펼쳐질거라 생각해요.’
‘우리가 매일 쓰게 될 AI가 우리를 조종할 수도 있게 된다구요?’
그녀는 시무룩해진 표정으로 물었다.
‘그러면 AI 시대는 모두가 통제받고, 통제하려는 세력은 끊임없는 AI군비경쟁에 뛰어들며 일종의 전쟁이 펼쳐지는걸까요..’
‘글쎄요, 어떻게 보면 그렇죠. 국가적 차원에서는 소리없는 전쟁일 수 있을 거예요.
하지만 벌써 슬퍼할 필요는 없어요. 개인이 체감하는 것은 정 반대일테니까요. 실제 전쟁과 달리 피도 안 나고 폭격 소리도 안 날거에요.
지극히 개인적인 생각이지만, 개인적으로는 대중들의 1인칭 시점에서 생각할 때 오히려 좀 더 안락한 미래로 느껴질거라고 생각해요.
AI가 내 말에 더 귀 기울여주고, 모든 고민을 털어놓을 수 있고, 무엇보다 나를 더 중요하게 여겨주고, 내가 듣고 싶은 말을 해주는 좋은 세상처럼 느껴질 수도 있어요.
아마도 대다수의 사람들에게 이러한 변화는 두려운 것이 아니라 환영할 만한 일이라고 생각합니다.
[모르는 것이 행복한 것이다]라는 옛 격언처럼요. 그 어느때보다 이 속담이 강하게 발휘되지 않을까요.’
‘그 해석은 마음에 드네요.’
그녀는 안도한 표정으로 말했다.
… 이 대화를 회상해보는 지금, 이게 과연 안도할만한 일인지는 모르겠다.
