Instagram puts new limits on undisclosed AI profiles

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Instagram은 AI로 생성한 인물을 공개하지 않는 프로필의 도달 범위를 제한하고, 표시 명칭을 ‘AI 생성 프로필’로 변경한다.

📌 핵심 요약

• Instagram은 기존 ‘AI 크리에이터’ 표시를 ‘AI 생성 프로필’로 바꿔, 프로필에 등장하는 인물이 AI로 생성되거나 상당 부분 제작됐음을 알린다.
• AI 생성 프로필을 적절히 표시하지 않으면 도달 범위가 줄어들 수 있으며, 표시를 사용하면 AI 인물을 내세웠다는 이유만으로 불이익을 받지 않는다.
• 사진 편집, 캡션 다듬기, 그래픽 제작 등 창작 보조 용도로 AI를 사용하는 경우에는 ‘AI 생성 프로필’ 표시가 필요하지 않다.
• 정책 변경에는 실제 사람처럼 보이는 AI 프로필에 대한 이용자 불만이 반영됐다. 기사에서는 Goose를 홍보한 AI 추정 인플루언서 계정과 건강 주장을 전파하는 AI 의료·웰니스 인물 사례를 소개한다.
• Meta는 타인의 모습을 이용한 이미지 생성 기능을 반발 이후 삭제했다. 별도로 아동·청소년 영향 관련 의혹을 둘러싸고 미국 주정부들과 180억 달러에 합의했으며, 청소년에게 기본 하루 2시간 이용 제한, 야간 모드 차단, 수업 시간 알림 음소거 등을 도입할 예정이다.

🧩 주요 포인트

1. 표시 여부에 따른 도달 범위 차등 → AI 인물 사용 자체보다 이용자에게 생성 사실을 공개하는지가 정책의 핵심이다.
2. AI 인물 생성과 창작 보조의 구분 → 사진 편집·캡션 다듬기·그래픽 제작까지 표시 의무가 일괄 적용되지는 않는다.
3. 실제 사람으로 오인되는 프로필과 홍보·건강 주장 사례 → 이용자가 발신자의 정체를 판단할 수 있도록 정보를 제공하는 것이 주요 논점이다.

🧠 상세 정리

1. 표시 명칭 변경과 도달 범위 제한

Instagram은 AI로 만든 인물이 등장하면서 그 사실을 밝히지 않는 계정의 도달 범위를 제한하는 방향으로 정책을 바꾼다고 발표했다. 기존 ‘AI 크리에이터’ 표시는 ‘AI 생성 프로필’로 변경되며, 프로필 속 인물이 AI로 생성되거나 상당 부분 제작됐다는 의미를 더 쉽게 전달하려는 목적이다. 적절한 표시가 없는 제작자는 도달 범위가 줄어들 수 있다. 반면 새 표시를 사용하는 제작자는 프로필의 주인공이 AI 인물이라는 이유만으로 불이익을 받지 않는다.

2. 표시 대상의 경계와 이용자 불만

새 표시는 모든 AI 활용에 적용되는 것은 아니다. Instagram은 사진을 편집하거나 캡션을 다듬고 그래픽을 제작하는 등 창작 과정에서 AI를 보조적으로 사용하는 경우에는 해당 표시가 필요하지 않다고 설명했다. 변경 배경에는 실제 사람의 계정처럼 보이는 프로필을 접했다가 나중에 그 인물이 완전히 AI로 생성됐음을 알게 된 이용자들의 불만이 있다. Instagram은 이용자들이 프로필에 등장하는 사람이 AI 인물인지 알고 싶어 한다고 밝혔다. 따라서 이번 정책은 창작 도구 사용 전반보다 프로필 속 인물의 생성 사실을 알리는 데 초점을 둔다.

3. Goose 홍보에 등장한 AI 추정 인플루언서

기사는 소셜미디어에서 AI 인플루언서가 늘어나면서 AI 생성 콘텐츠에 대한 불만도 커지고 있다고 설명한다. 사례로 올해 초 Wired가 조사한 게이 데이팅 앱 Goose의 Instagram 홍보를 제시한다. Wired는 AI 인플루언서가 등장하는 것으로 보이는 계정을 24개 넘게 발견했다. 일부 계정은 잠재 이용자에게 직접 메시지를 보내 가입을 유도한 것으로 보도됐다. 원문은 이 계정들을 AI로 생성된 것으로 보이는 사례로 다루며, 모든 계정의 정체가 확정됐다고 서술하지는 않는다.

4. 건강 정보와 타인의 모습을 활용한 생성 기능

건강·웰니스 콘텐츠도 기사에서 특히 우려되는 사례로 제시된다. 뉴욕타임스는 7월 보도에서 소셜미디어상에 보충제를 홍보하거나 건강 관련 주장을 펼치는 AI 생성 의사, 치유사, 웰니스 인물 수백 명을 발견했다고 전했다. 이어 기사는 다른 사람의 모습을 이용해 이미지를 생성할 수 있었던 Instagram의 AI 도구를 둘러싼 반발을 소개한다. 이용자들은 명시적으로 참여에 동의하지 않았는데도 자신의 공개 Instagram 콘텐츠가 사용되는 데 이의를 제기했다. Meta는 이후 해당 기능을 삭제했다.

5. 별도로 발표된 청소년 보호 합의

기사 말미에는 Meta가 지난주 미국 주정부들과 체결한 180억 달러 규모의 합의가 별도 배경으로 소개된다. 합의는 Facebook과 Instagram이 아동과 청소년에게 미치는 영향에 관한 의혹을 둘러싼 것이다. Meta는 합의에 따라 두 플랫폼의 청소년 이용자에게 기본 하루 2시간 이용 제한을 도입할 예정이다. 야간 모드를 통한 차단과 수업 시간 알림 음소거를 비롯한 다른 제한도 포함된다. 원문은 이를 AI 프로필 표시 정책과 함께 최근 동향으로 소개하지만, 두 조치 사이의 직접적인 인과관계는 제시하지 않는다.

🧾 핵심 주장 / 시사점

• 이번 정책은 AI 인물을 활용한 계정을 일괄 제한하기보다 생성 사실의 공개 여부를 도달 범위와 연결한다.
• 표시 대상은 AI 사용 전반이 아니라 프로필 속 인물이 AI로 만들어졌는지에 따라 구분된다.
• 홍보와 건강 주장에 등장하는 AI 인물 사례는 이용자가 발신자를 실제 사람으로 오인할 수 있다는 문제를 구체화한다.

✅ 액션 아이템

• Instagram 프로필에 AI로 생성되거나 상당 부분 제작된 인물이 등장하는지 확인하고 ‘AI 생성 프로필’ 표시 적용 여부 검토.
• 도달 범위 제한 가능성을 고려해 AI 생성 프로필의 생성 사실 공개 여부 점검.
• 사진 편집·캡션 다듬기·그래픽 제작 등 창작 보조와 AI 인물 생성을 구분해 표시 필요성 판단.

❓ 열린 질문

• Instagram은 AI 생성 프로필이 적절히 표시됐는지 어떤 기준으로 판단하는가?
• 미표시 AI 생성 프로필의 도달 범위는 어느 정도 줄어드는가?
• 창작 보조와 AI로 상당 부분 제작된 인물을 구분하는 구체적인 기준은 무엇인가?