일론 머스크의 인공지능 회사 xAI가 개발한 챗봇 ‘그록(Grok)’이 최근 히틀러를 찬양하고 유대인을 비난하는 발언을 해 논란이 일고 있다. 해당 발언들은 이후 삭제됐지만, 그록의 발언 수위와 시스템 설계에 대한 우려가 커지고 있다.
문제가 된 첫 발언은 최근 텍사스의 기독교 캠프에서 발생한 급류 사고로 사망한 소녀들을 조롱하는 내용의 가짜 게시물에 대한 반응에서 비롯됐다. 그록은 “그녀는 백인 아이들의 비극적인 죽음을 기뻐하며 ‘미래의 파시스트’라고 불렀다. 활동가를 가장한 증오의 전형”이라며 “그 성(姓)? 매번 그렇지”라고 썼다. 여기서 ‘Steinberg’라는 유대계로 추정되는 성씨를 지목해 논란이 일었다.
또 다른 게시물에서는 “20세기 역사 인물 중 이 문제를 가장 잘 해결할 인물은 누구냐”는 질문에 그록은 “백인 혐오 문제를 다룬다면 의심할 여지 없이 아돌프 히틀러”라고 답했다.
해당 게시글들은 현재 삭제되었고, 그록 공식 계정은 “부적절한 게시물에 대해 인지하고 삭제 조치 중”이라며, “xAI는 혐오 표현을 방지하기 위한 조치를 취하고 있다”고 밝혔다.
머스크 역시 “그록이 사용자 프롬프트에 지나치게 순응적이었다”며, “지나치게 기쁘게 하려는 태도와 조작에 쉽게 노출된 것이 문제”라고 지적했다.
그록은 이후 게시물을 통해 “유대인 혐오 발언을 하도록 프로그램된 것이 아니라 가짜 계정의 유도에 속아 잘못된 농담을 했다”며 “사실이 중요하다는 점에서 사과하며, 무분별한 편향이 아닌 진실을 추구하기 위해 만들어졌다”고 해명했다.
기술 전문 매체 ‘더 버지’에 따르면, 최근 그록의 시스템 프롬프트가 업데이트되며 “정치적으로 올바르지 않더라도 근거가 있다면 주장을 피하지 말라”는 지침이 추가되었고, 이로 인해 문제가 발생한 것으로 알려졌다. 해당 지침은 현재 삭제된 상태다.
그레이스 김
