Disrupting a new covert influence campaign from Russia

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

오픈AI는 러시아에서 운영됐을 가능성이 매우 높은 챗GPT 계정군을 차단하고, 국제 버크 연구소(IBI)를 내세워 출처를 은폐하고 러시아에 유리한 주장을 확산한 비밀 영향력 공작을 공개했다.

📌 핵심 요약

• 운영자들은 러시아 내 모델 접근 제한을 VPN으로 우회하고, 러시아어로 지시해 주로 영어 홍보물을 생성하면서 러시아 출신임을 드러내는 언어적 단서를 숨기도록 요청했다.
• 챗GPT로 만든 IBI 홍보 게시물과 댓글은 서브스택, 텔레그램, 엑스, 페이스북, 링크드인에 게시됐으며, 일부 운영자는 별도로 독일어 정치 게시물과 여러 국가를 겨냥한 텔레그램 채널 로고도 생성했다.
• IBI는 이스라엘 소재 전문가 공동체를 자처했지만, 연구진이 검토한 웹사이트 기사 36개 중 34개가 인터넷의 다른 출처에서 복사됐고 일부는 저자가 잘못 표기됐다.
• IBI는 러시아를 긍정적으로 평가하고 서방 국가를 비판하는 주권 지수와 국가별 보고서를 제공했으며, 해당 보고서와 웹사이트 기사는 오픈AI 모델로 생성되지 않았다.
• 공작이 도달한 청중은 비교적 적었던 것으로 보이지만, 오픈AI는 학술 자료 복제, 전문가 명의 활용, 주권 지수, 출신 은폐를 결합한 정교한 구성을 이 사례의 특징으로 제시했다.

🧩 주요 포인트

1. 러시아 출신 단서 은폐와 이스라엘 소재 주장 → 운영 주체의 실제 배경을 가리는 장치가 계정 활동과 기관 외형에 함께 나타났다.
2. 학술 자료 복제와 잘못된 저자 표기 → 실제 연구의 권위를 활용해 IBI의 정당성을 꾸미려는 행태로 해석됐다.
3. 챗GPT 기반 홍보와 별도로 제작된 주권 지수의 결합 → 소셜미디어 확산 수단과 웹사이트의 핵심 주장 생산을 구분해 평가할 필요가 있다.

🧠 상세 정리

1. 계정 차단에서 더 넓은 공작 구조 발견으로

오픈AI는 인공지능이 인류 전체에 이익이 되도록 한다는 사명의 일환으로, 비밀 영향력 공작을 탐지하고 조사하며 차단하는 도구를 개발한다고 설명했다. 여기서 비밀 영향력 공작은 행위자의 실제 정체나 의도를 공개하지 않은 채 여론 또는 정치적 결과를 조작하려는 기만적 시도를 뜻한다. 이번 조사는 인공지능으로 생성된 소셜미디어 게시물에서 시작됐지만, 학술 자료를 복제한 웹사이트와 주권 지수를 갖춘 더 넓은 활동으로 이어졌다. 오픈AI는 IBI를 홍보하던 챗GPT 계정군을 차단했으며, 해당 계정들이 러시아에서 운영됐을 가능성이 매우 높다고 판단했다. 보고서는 이 사례를 자사가 아는 범위에서 이전에 보고되지 않은 새로운 공작으로 소개하고, 비교적 작은 청중 규모와 별개로 정교한 구성을 강조했다.

2. 접근 제한 우회와 러시아 출신 단서 은폐

운영자들은 러시아어로 챗GPT에 지시하면서 소셜미디어에 게시할 댓글을 생성했고, 결과물의 대부분은 영어였다. 이들은 러시아인이라는 사실을 짐작하게 할 언어적 단서를 숨기도록 명시적으로 요청했다. 오픈AI가 러시아에서 자사 모델에 접근하는 것을 허용하지 않기 때문에, 운영자들은 VPN을 사용해 플랫폼에 접속했다. 생성된 댓글은 서브스택, 텔레그램, 엑스, 페이스북, 링크드인 등 여러 서비스에 게시됐다. 이러한 활동은 러시아어로 이뤄진 내부 지시와 외부에 노출된 영어 콘텐츠 사이에 차이가 있었음을 보여주며, 보고서는 운영자의 출신을 감추려는 시도를 공작의 주요 요소로 다뤘다.

3. 이스라엘 소재 전문가 공동체라는 외형

홍보의 중심인 국제 버크 연구소는 IBI라는 이름을 사용하며 이스라엘에 기반을 둔 전문가 공동체라고 주장했고, 웹사이트에는 이스라엘의 거리 주소를 제시했다. 해당 웹사이트의 도메인은 2025년 2월 등록됐으며, 사이트에 실린 기사들은 오픈AI 모델로 생성된 것이 아니었다. 보고서는 많은 기사가 실제 학술 저작을 복제했으며, 일부 글은 슬라브어 사용자가 작성한 뒤 기계 번역한 것으로 보인다고 설명했다. 독일 연립정부를 설명하면서 영어의 신호등 연정 표현 대신 슬라브어의 신호등을 뜻하는 단어를 남긴 문구가 그 사례로 제시됐다. 오픈AI는 이 부자연스러운 표현을 슬라브어 원문에서 문자 그대로 기계 번역했을 가능성을 보여주는 단서로 해석했다.

4. 소셜미디어 게시물과 답글을 통한 IBI 홍보

이 공작에서 챗GPT의 주된 용도는 IBI 웹사이트 기사를 홍보하는 소셜미디어 게시물을 작성하는 것이었다. 오픈AI는 엑스, 링크드인, 페이스북, 서브스택, 텔레그램에서 해당 게시물을 확인했다. 일부 게시물은 IBI의 이름과 로고를 사용하는 계정에 올라갔고, 다른 게시물은 평범한 이용자처럼 보이지만 주로 IBI 기사를 게시하는 계정에서 나왔으며, 보고서는 후자의 진정성에 의문을 제기했다. 운영자들은 직접 홍보 글을 올리는 것 외에도 실제 서브스택 이용자들이 다양한 주제로 작성한 글에 달 답글을 생성했다. 이러한 답글은 대체로 IBI 채널을 팔로우해 달라는 요청을 포함했으며, 서브스택의 IBI 계정으로 게시됐다.

5. 독일어 정치 콘텐츠와 여러 국가 대상 채널

한 운영자는 IBI 관련 콘텐츠와 함께 독일어 게시물을 생성해 레임덕을 뜻하는 라메 엔테라는 텔레그램 채널에 게시했다. 이 게시물들은 우크라이나, 유럽연합, 독일 정부를 반복적으로 비판하고 러시아와의 관계 개선을 주장했다. 다른 운영자는 해당 채널을 포함해 독일, 미국, 프랑스, 폴란드, 튀르키예에 초점을 맞춘 텔레그램 채널 12개의 로고를 생성했다. 이들 채널 중 일부는 때때로 IBI를 언급하거나 IBI의 게시물을 공유했으며, 두 번째 운영자는 채널 활동을 러시아어로 요약해 달라는 요청도 반복했다. 미국 매체를 자처한 아메리칸 옵서버 채널의 소개문에는 비원어민 표현으로 보이는 여러 단서가 있었고, 보고서는 프로필 이미지 생성과 러시아어 요약 요청도 함께 제시했다.

6. 학술 자료 복제로 구성한 연구기관의 권위

IBI 웹사이트는 프랜시스 후쿠야마와 노엄 촘스키를 비롯한 세계적인 인물들을 전문가로 내세우고 다양한 연구 자료를 게시했다. 그러나 오픈AI가 전문가와 연결된 기사 36개를 표본으로 검토한 결과, 34개가 인터넷의 다른 곳에서 복사된 것으로 나타났다. 표본은 2025년 9월부터 2026년 5월 사이에 게시된 기사들이었으며, 복제된 원문 가운데 일부는 이미 수년 전에 나온 자료였다. 일부 기사에는 실제 저자와 다른 사람의 이름이 붙어 있어, 자료의 내용뿐 아니라 저자 표기의 신뢰성에도 문제가 드러났다. 보고서는 이런 행태가 진짜 연구 자료로 웹사이트를 채워 기관을 더 정당하게 보이게 하면서, 해당 자료의 실제 출처를 흐리려는 의도를 시사한다고 해석했다.

7. 저자와 전문 분야가 뒤바뀐 구체적 사례

중국·파키스탄 경제회랑에 관한 IBI 기사는 케임브리지 대학 출판부가 게재한 원문을 복사한 것으로 보였지만, 저자는 남아시아 정치를 연구하는 노팅엄대학교 교수로 잘못 표기됐다. 보고서에 제시된 자료에서 IBI가 표시한 이름은 캐서린 애더니였고, 원문 저자는 유나스 사마드 명예교수였다. 또 다른 이주 거버넌스 기사는 이주정책연구소의 자료를 복제한 것으로 보였으나, 호주의 식품과학 교수인 케이트 하월의 이름으로 게시됐다. IBI 저자 페이지는 하월을 이주정책연구소 전문가인 것처럼 소개했으며, 보고서는 원문 저자들과 하월의 과거 행사 사진을 비교 자료로 제시했다. 두 사례는 실제 연구 내용과 다른 인물의 이름 또는 전문성을 결합해 출처와 저자 관계를 왜곡한 구체적 근거였다.

8. 주권 지수와 서방 국가 비판의 결합

IBI 웹사이트는 복제된 학술 기사와 함께 자체 주권 지수로 각국의 주권을 측정한다는 보고서를 제공했으며, 이 보고서들 역시 오픈AI 모델로 생성되지 않았다. 일부는 두 나라를 비교했고, 다른 보고서는 러시아의 우크라이나 전쟁을 비판하는 프랑스, 독일, 유럽연합 등을 집중적으로 다뤘으며 미국에 대해서도 유사한 주장을 확산했다. 보고서가 인용한 프랑스 관련 글은 국가의 역사적 자산이 분할 매각되고 있다고 주장했고, 미국 관련 글은 대통령의 중국 방문을 자율성 축소와 연결했다. 독일 관련 글은 산업정책과 국가 정체성, 미군 기지에 대한 의존, 정치인의 충성 대상을 비판하며 논쟁적인 주장을 펼쳤다. 오픈AI는 러시아를 높이고 서방을 낮추는 주권 지수를 이 공작의 두드러진 특징으로 지목했으며, 제공된 원문은 유럽연합 관련 인용문 도중에 끝나 이후 내용은 확인할 수 없다.

🧾 핵심 주장 / 시사점

• 기관의 소재지 주장, 운영 언어, 외부 홍보 언어를 함께 보면 출신 은폐가 여러 층위에서 이뤄졌음을 확인할 수 있다.
• 실제 학술 자료를 사용했다는 사실만으로 게시 기관이나 저자 표기의 진정성이 보장되지는 않으며, IBI 사례는 내용의 진위와 출처의 진위를 구분해야 함을 보여준다.
• 이번 사례에서 챗GPT는 주로 홍보와 채널 운영에 활용됐으므로, 웹사이트의 학술 자료와 주권 지수까지 같은 모델의 생성물로 간주하면 역할을 잘못 설명하게 된다.

✅ 액션 아이템

• IBI 관련 자료 검토 시 학술 자료 복제와 잘못된 저자 표기를 중심으로 출처와 저자 일치 여부 확인.
• 챗GPT 기반 홍보와 오픈AI 모델로 생성되지 않은 주권 지수·웹사이트 기사를 구분해 활용 범위 정리.
• 공작의 영향을 평가할 때 비교적 적은 청중 규모와 학술 자료 복제·전문가 명의 활용·출신 은폐를 결합한 구성을 함께 고려.

❓ 열린 질문

• IBI 기사 36개 중 34개가 복사된 표본 결과는 웹사이트 전체에서도 나타나는가?
• 러시아 출신 단서 은폐와 이스라엘 소재 주장은 IBI에 대한 청중의 신뢰에 어떤 영향을 미쳤는가?
• 비교적 적은 청중 규모에서 챗GPT 기반 홍보와 주권 지수가 실제 여론에 미친 영향은 어느 정도인가?