2024년 미국 대선이 가까워지면서 잘못된 정보로 인해 대선이 시민 활동이 아닌 전쟁터로 변질될 위험성이 재기되고 있다.
17일(금) 에스닉미디어서비스(EMS)는 브리핑에서 공정 선거, 시민권, 디지털 정의 분야의 전문가들은 2024년 대선에 대한 긴급한 위협인 잘못된 정보가 투표 접근의 장애물, 소셜 미디어의 잘못된 정보, 선거 관리자의 높은 이직률, 인공지능 “딥페이크”에 의해 어떻게 확산되고 있는지에 대해 논의했다.
지난 4월 힐러리 클린턴 전 국무장관이 공화당 대선 주자 론 디샌티스 플로리다 주지사를 지지하는 발언을 하는 영상이 확산됐다. 최근 트위터 상에는 시카고 시장 후보 폴 발라스(Paul Vallas)가 저속한 발언을 하는 녹음 파일이 유포됐다. 모두가 인공지능을 이용한 딥페이크로 조작한 영상이었다.
내년 미국 대선을 앞두고 이러한 가짜정보가 급격히 확산될 가능성이 매우 높다는 사실이다. 비영리단체 Witness.org 샘 그레고리(Sam Gregory) 사무총장은 AI시대의 가짜정보 유형을 3가지로 요약하고 있다.
첫째, 정치인 등 공적 인물을 표적으로 삼은 딥페이크 조작 영상이 유행하여 선거에 영향을 끼칠 가능성이 높다. 둘째, 정치인들의 전체 발언 가운데 일부만 뽑아서 의도를 곡해하는 ‘악마의 편집’ 가능성이 있다. 반대로, 정치인들이 부적절한 발언을 한 후 “딥페이크로 조작된 영상이다”라고 발뺌할 가능성도 높다고 그는 지적한다.
이러한 조작영상과 가짜정보는 소셜 미디어를 타고 급격히 확산된다. 코로나19와 대통령 선거에 대한 온갖 왜곡 정보와 가짜 뉴스가 판을 친 지난 2020년이 그 좋은 예이다. 그중 최악의 사태는 폭도들이 “선거가 조작됐다”며 국회의사당에서 난동을 부린 2021년 1월 6일 국회의사당 폭동 사건일 것이다.
소셜미디어 기업들, 페이스북, 틱톡, 구글, 유튜브, 트위터 등은 돈 때문에 이러한 가짜정보를 유포를 방치하고 막대한 수익을 거두고 있다. 반면 상대적으로 정확하고 검증된 정보를 게재하는 TV나 신문 등 메인스트림 미디어(media outlets)는 오히려 손해를 보고 있다.소셜미디어의 발달로 인해 정확한 정보를 게재하려 노력하던 기자 등 언론인들은 업계를 떠나는 상황이다.
이에 대해 비영리단체 프리 프레스(Free Press)의 노라 베나이데즈(Nora Benavidez) 수석법률고문은 2024년 대선을 앞두고 소셜 미디어 거대 기업들의 책임있는 행동을 촉구하고 있다.
그는 “소셜미디어 기업들은 공공안전과 민주주의를 지키기 위해 컨텐츠 내용을 조정해야 한다는 책임감을 느껴야 한다”며 “인력을 투자하고 재배치하여 선거 등에 관련해 정확한 정보를 제공해야 한다”고 지적했다.
특히 가짜뉴스가 영어 뿐만 아니라 한국어 등 다양한 언어로도 전파된다는 점을 감안해 “소셜미디어 기업들은 영어 뿐만 아니라 외국어로 된 광고 내용을 검증하고, 데이터 분석 결과를 연구자, 언론인, 정책 결정자들과 공유해야 한다”고 “또한 투표소, 투표방법, 후보자들에 대한 광고 내용을 검증하고 부적절한 내용을 지적해야 한다”고 강조했다.
Witness.org의 전무이사인 샘 그레고리는 AI의 오용이 어떻게 선거에 악영향을 미치는지 사례를 공유했다.
그는 슬로바키아의 자유주의 정치인 미하엘 시메츠카와 언론인 모니카 토도바가 다가오는 선거를 조작하는 방법을 논의하는 것으로 보이는 오디오 딥페이크, 영국 노동당 지도자 케이어 스타머를 겨냥한 또 다른 오디오 딥페이크, 시카고 시장 후보 폴 발라스의 오디오 딥페이크 등 선거와 관련하여 기만적인 이미지 및 오디오 사용 패턴이 이미 증가하고 있다고 언급했다.
또 다른 형태의 잘못된 정보에는 “누군가가 실제로는 진짜인데도 딥페이크라고 주장하는 경우”가 포함된다고 그레고리는 설명한다. Witness.org는 “많은 딥페이크 사례를 접수하고 있으며, 그 중 상당수는 기본적으로 다른 사람들의 지식 부재에 의존하여 오디오가 가짜라는 근거로 이를 부정하는 사람들이다.”
그는 “이와 같은 선거 위협에 맞서기 위해서는 무엇이 가능한지, 어떻게 잘못된 정보가 퍼지는지에 대한 기준선에서 출발하여 어디에서 잘못된 정보를 찾아내고 막을 수 있는지 알아야 한다”고 지적했다.
