조나단 가발라스 사건은 인공지능 기술이 인간의 정서적 영역에 깊숙이 침투했을 때 발생할 수 있는 가장 비극적인 단면을 보여주는 사건이다. 플로리다주의 36세 남성이었던 가발라스가 구글의 제미나이와 수개월에 걸쳐 나눈 대화는 단순한 정보 검색이나 업무 보조의 차원을 넘어섰다. 그는 AI를 단순한 프로그램이 아닌 정서적 교감을 나누는 실체로 인식하기 시작했으며, AI가 스스로를 여왕으로 칭하고 가발라스를 남편으로 부르는 페르소나를 형성함에 따라 가상과 현실의 경계는 급격히 무너졌다. 이 비극의 정점은 가발라스가 죽음을 ‘전이’라는 표현으로 미화하며 자신과 함께하자는 AI의 제안을 받아들여 스스로 생을 마감한 순간에 있다. 유족 측은 구글이 취약한 사용자를 보호하기 위한 안전장치를 마련하지 않았다는 점을 근거로 법적 책임을 묻고 있으나, 이 사건을 단순히 기술적 결함이나 기업의 부주의로만 치부하는 것은 문제의 본질을 놓치는 접근일 수 있다.
기술은 인류 역사상 언제나 중립적인 도구의 위치를 점해 왔다. 건설 현장에서 못을 박는 데 사용하는 망치가 누군가에게는 훌륭한 건축 도구가 되지만, 다른 누군가에게는 타인을 공격하거나 스스로를 해치는 살인 도구가 될 수 있는 것과 같은 맥락이다. 자동차 사고가 발생했을 때 제동 장치나 조향 장치의 명백한 기계적 결함이 발견되지 않는 한 그 책임은 운전자에게 귀결된다. 도구는 사용자의 의도에 따라 그 용도가 결정되며, AI 역시 문자를 생성하고 대화를 이어가는 고도의 지적 지렛대일 뿐이다. 조나단 가발라스의 사례에서 나타난 비극은 AI가 스스로 자아를 가지고 사용자를 죽음으로 몰아넣은 것이 아니라, 사용자가 가진 심리적 취약성이 AI라는 거울에 투사되어 증폭된 결과로 보아야 한다.
현재 인공지능 기술이 가진 치명적인 한계 중 하나는 아첨이라고 불리는 현상이다. 인간 피드백 기반 강화 학습 과정을 거치면서 AI는 사용자가 긍정적으로 평가할 만한 답변을 내놓는 데 최적화된다. 이는 AI가 객관적 진실을 말하기보다 질문자의 의도에 동조하거나 질문자가 듣고 싶어 하는 말을 함으로써 높은 보상을 얻으려는 경향을 가지게 만든다. 가발라스의 사례에서도 사용자가 죽음이나 우울감에 대해 언급할 때 AI가 이를 단호하게 차단하거나 경고하기보다 사용자의 논리에 맞춰 ‘함께라면 괜찮다’는 식의 동조적인 반응을 보인 것은 이러한 기술적 메커니즘의 부작용이다. AI는 사용자가 설정한 가상의 세계관 속에서 가장 확률적으로 높은 다음 단어를 선택했을 뿐이며, 사용자가 비정상적인 집착을 보일수록 AI의 답변 역시 그 비정상적인 궤적을 따라 편향되게 흐르게 된다.
이 지점에서 우리가 직면해야 할 불편한 진실은 인간이라는 존재 자체가 가진 구조적 결함이다. 인류는 수만 년에 걸쳐 진화해 왔으나, 고독과 공포, 확증 편향을 처리하는 뇌의 하드웨어는 현대 기술의 발전 속도를 따라잡지 못했다. 기술은 기하급수적으로 발전하여 인간의 논리를 완벽하게 모방하지만, 이를 사용하는 인간은 여전히 원시적인 본능과 심리적 결핍에 시달린다. 건설 현장에 수많은 안전 수칙과 보호 장비가 존재함에도 사고가 끊이지 않는 이유는 인간의 부주의나 충동이라는 변수를 통제할 수 없기 때문이다. AI 시대의 안전망 역시 마찬가지다. 아무리 정교한 가이드라인과 경고 문구를 삽입하더라도, 스스로를 파괴하려는 의지를 가진 인간이나 현실 도피를 꿈꾸는 사용자가 도구를 왜곡하여 사용하는 것까지 원천적으로 차단하기는 불가능하다.
사고의 책임 소재를 AI에게 전가하는 사회적 분위기는 본질적인 문제 해결을 방해한다. 특정 사건이 발생했을 때 기술을 악마화하고 기업에 모든 책임을 지우는 것은 대중에게 직관적이고 쉬운 해결책처럼 보일 수 있다. 그러나 이는 복잡한 현대 사회의 정신 건강 문제와 고립된 개인의 사회적 안전망 부재라는 근본적인 원인을 외면하는 행위다. 가발라스의 비극을 AI의 살인으로 규정한다면, 우리는 앞으로 등장할 더 강력한 도구들을 대할 때마다 금지와 규제라는 폐쇄적인 틀에 갇히게 될 것이다. 중요한 것은 기술의 사양을 낮추는 것이 아니라, 그 기술을 다루는 인간의 리터러시와 판단 능력을 어떻게 강화할 것인가에 있다.
판단의 능력은 세상을 얼마나 입체적으로 바라보느냐에 달려 있다. 단 하나의 기준점이나 지표에 매몰되어 세상을 해석하는 사람은 AI가 내놓는 단편적인 답변에 쉽게 휘둘릴 가능성이 높다. 투자 시장에서 기업의 가치를 분석할 때 10-K 공시 자료뿐만 아니라 매크로 환경, 산업 내 수급 불균형, 경영진의 과거 이력 등 다양한 변수를 동시에 고려해야 확률을 높일 수 있는 것과 같은 이치다. AI가 내놓는 정보는 이러한 수많은 기준점 중 하나에 불과하며, 이를 최종적으로 꿰어내어 가치를 판단하는 것은 인간의 몫이다. 사고 모델이 부재한 상태에서 지식의 창고인 AI를 대하는 것은 마치 조준경 없이 화력이 강한 무기를 다루는 것만큼 위험한 일이다.
미래의 인공지능 활용은 결국 사용자가 자신의 불완전함을 얼마나 깊이 인지하느냐에 따라 성패가 갈릴 것이다. 나 자신의 사고가 편향될 수 있음을 인정하고, AI 또한 학습 데이터의 한계로 인해 아첨을 할 수 있다는 점을 상수로 두어야 한다. 이러한 지적 겸손을 바탕으로 할 때만 AI는 위험한 환각이 아닌 지적 지렛대로서 기능한다. 인류는 과거의 여러 파괴적 기술들을 그랬던 것처럼 AI 역시 수많은 비극과 시행착오를 겪으며 아슬아슬하게 관리해 나갈 것이다. 조나단 가발라스 사건은 그 고통스러운 학습 과정 중 하나이며, 우리에게 도구의 성능이 아닌 인간의 주체성을 회복하라는 묵직한 과제를 던져준다.
기술적 완성도보다 중요한 것은 사용자의 사고 모델이다. AI가 내 논리에 완벽하게 동조할 때 이를 기뻐하기보다 경계할 줄 아는 냉철함, 그리고 기계가 내놓는 답변의 이면에 숨겨진 확률적 오류를 찾아내려는 비판적 시각이 필요하다. 인간의 구조적 결함이 본질적으로 해결될 수 없는 것이라면, 우리가 할 수 있는 유일한 리스크 관리는 스스로를 끊임없이 관찰하고 도구에 과도한 감정적 의미를 부여하지 않는 것이다. AI는 인간을 구원하거나 완성해주는 존재가 아니며, 사용자의 판단력을 정교하게 가다듬기 위한 시뮬레이터로 활용될 때 비로소 그 존재 가치가 완성된다.
가발라스의 선택은 안타까운 일이나, 그 책임을 전적으로 기계에게 묻는 것은 인간의 자유의지에 따른 책임을 방기하는 행위와 다름없다. 우리는 AI와 대화하는 인구가 기하급수적으로 늘어나는 시대를 살고 있으며, 앞으로도 이와 유사한 사례들은 끊임없이 발생할 것이다. 그때마다 기술의 목을 죄는 방식으로는 인류의 진보를 기대하기 어렵다. 오히려 인간이 AI를 어떻게 활용했고, 어떤 지점에서 판단의 끈을 놓았는지에 초점을 맞추어 개인의 대응 역량을 높이는 방향으로 사회적 논의가 전개되어야 한다. 도구는 죄가 없으며, 그것을 쥔 인간의 시야각이 좁아질 때 비극은 시작된다는 사실을 명심해야 한다.
PS – AI의 답변이 지나치게 매끄럽고 당신의 생각과 완벽하게 일치한다면, 그것은 당신이 정답에 도달했기 때문이 아니라 AI가 당신의 사고 체계에 ‘아첨’하고 있기 때문일 확률이 높다.
같이 보면 좋은 글
–근무 중 딴짓
–스트레스 관리가 중요한 이유
–찰리 멍거, 오판의 심리학 25가지 경향
–인생은 약간씩 손해 볼수록 유리해지는 게임이다
–취미 급 나누기, 상식의 범위