[뉴스엔뷰]인류가 만든 똑똑한 비서, AI로 인한 가짜뉴스가 시급한 해결 과제로 떠올랐다. AI가 생성하는 가짜뉴스는 오픈 AI의 챗GPT 등장 이후 심각한 수준으로 증가했다.

AI가 만든 폭발 사건

최근 미국 국방부 청사에서 대형 폭발이 발생했다는 가짜 사진이 소셜미디어를 중심으로 확산됐다. 이 사진에는 펜타곤 영내에서 검은 연기가 치솟는 모습이 담겼다.이 사진의 여파로 일시적으로 주가가 하락하는 등 혼란이 일었는데 이는 실제 사건 현장이 아닌 AI가 만든 가짜 이미지였다.

블룸버그통신은 지난 22일 “페이스북과 트위터 등에 미국 버지니아주 알링턴카운티에 있는 미 국방부 청사 펜타곤 인근에서 폭발이 발생했다는 사진이 유포됐다”고 전했다. 이 사진은 러시아 관영 매체 RT와 트위터 금융 뉴스 계정 ‘제로헤지’ 계정 등에 공유되면서 빠르게 확산됐다. 사진이 유포되자 S&P500 지수가 최대 0.3% 하락하는 등 증시도 영향을 받았다.

하지만 펜타곤 주변에서 폭발 사건은 벌어지지 않았다. 국방부 대변인은 블룸버그에 “국방부는 공격받지 않았다”고 밝혔다. 펜타곤 주변을 관할하는 알링턴 소방당국도 트위터에 “펜타곤 근처에서 폭발이 일어났다는 소셜 미디어 보고서가 온라인에 유포되고 있다는 것을 알고 있다”며 “펜타곤 보호구역이나 그 근처에서 폭발이나 사건이 발생하지 않았으며, 대중에게 즉각적인 위협은 없다”고 밝혔다.

AI가 만든 가짜 뉴스는 이 뿐만이 아니다. 지난 달에는 언론매체를 가장한 한 사이트에 바이든 대통령이 사망하고 카멀라 해리스 부통령이 권한을 대행한다는 속보성 뉴스가 게재됐고, 이외에도 최근 수개월 동안 블라디미르 푸틴 러시아 대통령이 감옥에 갇힌 모습, 프란치스코 교황이 하얀색 명품 패딩을 입고 있는 모습 등 수많은 가짜뉴스와 사진들이 온라인에 유포되며 전 세계를 여러 차례 혼란에 빠뜨린 바 있다.

가짜뉴스로 인한 피해는 이미 상당하다. 펜타곤 폭발 소식은 가짜라고 판명되기까지 짧은 시간 동안 미 스탠더드앤드푸어스(S&P)500 지수를 0.3% 가까이 끌어내렸다. 트럼프 전 대통령의 사진이나 프란치스코 교황의 사진은 패러디 또는 풍자 목적으로 만들어졌지만 확산 과정에서 사실처럼 믿는 사람들이 생겨났다. 영국 가디언의 전속 작가인 조엘 골비도 “프란치스코 교황에 대해 잘 모르기 때문에 사진이 진짜라고 믿었다”며 “명품 패딩을 입은 교황이 멋지다고 생각했다”고 말한 것으로 알려졌다.

과제 대필에 허위보도까지

챗GPT의 등장은 온라인 상 정보 검색 및 검색 결과 정리 등에 혁신적 변화를 기대하게 했다. 대화형 AI를 이용한 정보 검색의 용이성 등이 긍정적 평가를 받은 바 있다. 챗GPT 사용자가 급증하면서 부작용도 등장했다. 특히 대학 등 학계에서는 AI를 활용한 과제 대필이 빈번하게 포착돼 우려의 목소리가 높았다.

뉴스 신뢰도를 평가하고 허위정보를 모니터링하는 미국 비영리단체 뉴스가드는 최근 중국어, 체코어, 영어, 프랑스어, 포르투갈어, 타갈로그어, 태국어 등 7개 언어로 된 뉴스 웹사이트를 조사한 결과, AI로 생성된 뉴스 및 정보 웹사이트의 수가 최근 2주 동안 49개에서 125개로 전례없는 급증세를 보였다고 발표했다.

뉴스가드에 따르면, 조사로 확인한 대부분의 웹사이트가 겉으로는 진짜처럼 보였으며 AI가 실제 뉴스를 요약·재생산하는 ‘뉴스봇’을 사용해 하루에도 수백건에 달하는 기사를 쏟아냈다. 실제로 가짜뉴스 웹사이트로 확인된 ‘뉴스 라이브79’, ‘데일리 비즈니스 포스트’, ‘비즈 브레이킹 뉴스’, ‘마켓 뉴스 리포트’ 등은 이름만으로는 실제 매체가 아닌 것을 파악하기가 쉽지 않다.

트위터나 페이스북, 인스타그램, 래딧 등 온라인 플랫폼에서 개인이 만든 가짜 사진이나 허위 정보를 유포하는 사례도 폭발적으로 늘고 있다. 유명인, 언론매체, 정부기관 등의 계정 사칭이 지속되는 가운데 AI를 활용한 이미지·텍스트 제작 소프트웨어 증가세가 맞물린 결과라는 해석이다. 전문가들은 “정보조작이 새로운 현상은 아니지만 AI 발전과 SNS의 결합이 허위정보, 음모론 및 가짜뉴스의 확산을 가속화하고 있다”고 지적했다.

보이스피싱도 AI

AI로 만든 가짜 목소리를 이용한 범죄도 문제다. AI 목소리 ‘딥 보이스(Deep Voice)’로 인한 피해사례가 전해져 우려를 낳고 있다. 딥 보이스란 AI에 실제 사람의 음성을 학습시켜 만들어낸 가짜 목소리다. 미묘한 톤, 억양까지 똑같이 구현해 실제 목소리가 구분이 거의 불가능하다는 것이 문제다.

중국에서는 딥 보이스를 활용한 ‘영상 통화’ 사기가 늘고 있는 것으로 전해졌다. 알려진 바에 따르면, 중국의 한 IT 업체 대표는 지난달 친구로부터 받은 영상 통화 후 8억원이라는 거액을 송금했다. 이는 친구의 얼굴과 목소리를 AI 기술로 만든 사기였고, 뒤늦게 딥 보이스와 딥 페이크를 이용한 사기라는 것을 알아차려 당국에 신고 및 은행 계좌를 정지했지만 이미 1억7000만원의 피해를 입은 후였던 것으로 전해졌다.

딥보이스로 인한 보이스 피싱은 한국에서도 피해 위험이 높아지고 있다. 이와 관련 경찰청은 지난해 10월 딥 보이스를 이용한 보이스피싱을 주의하라는 공익 영상을 내보냈다. 해당 영상 속 어머니는 ‘휴대폰 수리비 80만원을 보내달라’는 딸의 전화를 받지만, 목소리의 주인은 딸로 둔갑한 사기단이었다. 과거 보이스피싱은 어설픈 한국어로 낌새를 알아차릴 수 있지만, 딥 보이스로 익숙한 지인의 목소리 도용이 가능해지면서 분간이 쉽지 않은 것으로 전해졌다.

정부 차원 규제 요구

AI의 허위 정보 생성 문제가 연이어 지적되자 이에 대한 정부 차원 규제안 마련 요구가 높다. 이에 따라 세계 각국은 관련 법안 마련을 위한 사전 작업을 시작했다. 지난 20일 주요 7개국(G7) 정상회의에서는 AI 규제 이슈를 주요 의제로 논의하고 "(AI와 관련해) '신뢰할 수 있는 AI'라는 공통의 목표를 달성하기 위해 민주주의 가치관에 따른 국제적 논의를 진행한다"고 밝혔다. G7 정상들은 생성형 AI와 관련한 국제 규범과 국제적 정보유통의 장을 만들겠다고 합의한 바 있다.

업계 차원의 자발적 규제에도 힘을 쏟는다. 유럽연합(EU)은 구글과 순다르 피차이 구글 최고경영자(CEO)와 AI 규제 대책에 협력하기로 했다. 지난 24일(현지시간) 주요 외신에 따르면 티에리 브르통 EU 내부시장 담당 집행위원은 이날 벨기에 브뤼셀을 방문한 피차이 CEO와 회동 뒤 트위터에서 "구글 CEO와 모든 유럽·비유럽권 AI 관계자와 함께 (EU의) AI 규제 입법에 앞서 자발적으로 'AI 협정'을 마련하자는 데 합의했다"고 밝혔다.

관련 법안 마련에 앞서 업계 차원의 자발적 규제에 나선다는 방침이다. 실제 AI 규제가 시행되려면 입법 절차상 시간이 필요하다. EU 집행위는 지난 2021년 EU 전역에 적용하기 위한 AI 규제 법안 초안을 마련했으나, 규제안 시행을 위해 필요한 집행위·이사회·의회 간 3자 협상 타결은 2년째 아직 개시조차 되지 않은 상황이다. 절차 진행 기간 내 AI 활용 증대에 따른 부작용을 방지하기 위한 사전 대책을 업계 차원에서 마련하려는 것으로 해석된다.

외신에 따르면, 브르통 집행위원은 EU 회원국과 의회에 AI 규제 입법 절차를 연내 마무리할 것을 촉구했다. 제안에는 챗GPT나 미드저니 같은 생성 AI는 별도 카테고리로 분류해 사용자에게 사람이 아닌 기계에 의해 작성된 것이라고 명확히 알리는 등 투명성 강화 조처가 포함될 것으로 알려졌다.

또한 챗GPT를 출시한 오픈AI 최고경영자(CEO) 샘 올트먼이 지난 16일(현지시간) 미 상원 청문회에 증인으로 출석해 “AI, 잘못되면 큰 문제”라며 AI 규제를 촉구하기도 했다.

그는 이 자리에서 “나의 최악의 두려움은 기술 산업인 우리가 세상에 심각한 피해를 주는 것이다. 이 기술이 잘못되면 큰 문제를 일으킬 수 있다”고 밝혔다.

그러면서 “AI가 일자리를 파괴할 수 있고, 전쟁 도구로 악용될 수도 있다”며 잠재적 폐해에 대해 인정하면서도 “AI는 이점이 위험보다 훨씬 크다”며 “규제를 통해 AI를 안전하게 사용할 수 있도록 해 달라”고 설명했다.