AI로 쓴 거, 다 티 납니다

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

AI로 쓴 거, 다 티 납니다를 중심으로, AI 글의 문제는 매끄러운 문장만으로 해결되지 않는다. 고이어는 검토 없이 전달된 듯한 대본 수정 의견에서 오류와 무성의함을 느꼈를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. AI 글의 문제는 매끄러운 문장만으로 해결되지 않는다. 고이어는 검토 없이 전달된 듯한 대본 수정 의견에서 오류와 무성의함을 느꼈으며, 주제만 주고 생성한 대본은 상투적이라고 평가한다.
2. 인간이 초안과 방향을 정하면 AI는 집필을 도울 수 있다. 고이어는 직접 쓴 독백의 여러 압축안을 조합해 한두 시간 걸리던 작업을 약 5분으로 줄였고, 장편영화 초안 집필도 대체로 8~10주에서 4~5주로 단축했다고 설명한다.
3. 편향 교정과 맥락 이해는 별개다. 앤드루 응은 교정의 성과를 인정하면서도, 특정 업무에서 무엇이 중요한지 판단하는 인간의 지식과 경험에는 AI가 확보하기 어려운 부분이 있다고 본다.
4. AI 생성물을 반복 학습하면 표현의 다양성과 정확성이 약해질 수 있다. 소개된 소형 모델 실험에서는 드문 아이디어가 사라지고 오류가 이어지는 모델 붕괴가 나타났으며, 인간이 쓴 글을 섞자 붕괴가 크게 줄었다고 한다.
5. 창작 도구로서의 유용성과 학습 자료 이용의 정당성은 함께 따져야 한다. 소개된 판결은 학습의 변형성과 책의 취득 경로를 구분했으며, 창작자에게 누구를 기준으로 얼마를 보상할지는 미해결 과제로 남았다.

🧩 배경과 문제 정의

• AI에 창작을 통째로 맡기면 흔하고 예측 가능한 결과로 수렴할 수 있다. 이런 결과물이 다시 학습 자료가 되면 표현의 다양성과 독창성이 줄어들 수 있다는 우려가 출발점이다.
• 인터넷의 디지털 자료는 인간의 현실과 경험 전체를 담지 못한다. 편향을 교정하더라도 특정 작업의 맥락과 개인의 경험까지 AI가 충분히 이해하는지는 별개의 문제다.
• 창작자가 AI를 조사·수정·발상 도구로 활용하는 것과 창작의 주도권을 넘기는 것은 구분된다. 생산성 향상과 함께 인간의 판단이 어떤 역할을 맡아야 하는지가 쟁점이다.
• AI 학습의 정당성에는 결과물의 독창성뿐 아니라 자료의 취득 경로, 저작권, 보상과 공정성도 얽혀 있다.

🕒 시간순 섹션별 상세정리

1. 평균적인 창작물과 현실을 왜곡하는 학습 자료

• “흥행할 영화나 노래를 만들어 달라”는 요구만으로 창작을 맡기면 특별한 작품보다 예측 가능한 결과가 나오기 쉽다. AI로 평균화한 글이 다음 AI의 학습 자료가 되는 순환도 문제로 제기된다. [00:16]
• 데이비드 고이어의 ‘플라톤의 동굴’ 비유에서 디지털 자료는 현실 자체가 아니라 벽에 비친 그림자다. 디지털화되지 않은 인간의 작업이 많고 인터넷도 현실을 왜곡하므로, 그 자료로 학습한 모델의 현실 재현 능력에 의문이 생긴다. [00:39]

2. 편향 교정의 성과와 인간에게 남는 맥락의 우위

• 앤드루 응은 AI 팀의 교정 덕분에 현재 모델이 평균적인 사람보다 인종·성차별적 편향을 덜 보인다고 평가한다. 다만 팀이 알아차리지 못한 편향과 왜곡은 남으며, 인간이 가진 지식과 맥락 중에는 모델이 우리 생애 동안 얻지 못할 것도 있다고 본다. [02:04]
• 브레인스토밍 결과 열 개 중 한두 개는 좋고 하나는 무난하지만 나머지 일곱 개는 형편없다는 경험은 맥락 부족의 사례다. 특정 업무나 대본에서 무엇이 중요한지 아는 인간의 우위가 상당 기간 유지될 것이라는 전망으로 계속된다. [03:36]

3. 초안의 압축과 장면 조사로 집필 시간을 단축하는 방식

• 고이어는 직접 쓴 네 쪽짜리 독백을 AI에 넣고, 맥락을 유지하면서 방향이 다른 두 쪽짜리 버전 여섯 개를 요청한다. 완벽한 버전을 고르는 대신 좋은 부분을 조합해, 한두 시간 걸리던 압축 작업을 약 5분으로 줄인다. [05:27]
• 헬리콥터 탈출 장면에서는 기종과 기내의 기본 물품을 조사하고, 헤드폰·줄·안전벨트 같은 요소를 활용하도록 반복 수정했다. 해상 약 30미터 높이에서 탈출하는 장면 전체를 구성하는 데 약 한 시간이 걸렸다는 사례다. [06:21]

4. 다음 단어 예측과 인터넷 자료의 선택 구조

• 동굴 속 그림자의 순서를 기억하고 다음 그림자를 맞히는 경쟁은, 앞선 단어를 보고 다음 단어를 예측하는 언어모델의 학습 방식에 비유된다. 예측 능력이 뛰어나다는 것과 그림자 밖의 세계를 안다는 것은 구분된다. [07:32]
• 동굴 벽에 무엇이 비치는지는 무대 뒤에서 물체를 고르는 사람에게 달려 있다. 인터넷의 글 역시 누군가 작성하고 게시하기로 선택한 자료이므로, AI의 학습 대상에는 이미 인간의 선택이 개입해 있다. [08:25]

5. 학습 전후의 편향 교정과 AI 생성물의 유입

• 기업은 사전학습 자료에서 편향된 글을 걸러내고, 학습 이후에는 사람이 답변을 평가한 점수로 모델을 다시 훈련한다. 자료 선택과 답변 평가가 모델의 편향을 줄이는 두 개의 개입 지점이다. [09:32]
• 이런 교정은 주로 인간이 쓴 글을 대상으로 했지만, 이제 블로그·상품 후기·사람 이름으로 전달되는 문서에도 AI 생성물이 섞인다. 고이어가 받은 대본 수정 의견 중에도 AI가 작성한 것으로 판단한 사례가 있다. [10:19]

6. 생성물을 재학습할 때 나타나는 모델 붕괴

• 소개된 네이처 연구에서는 위키피디아로 학습한 소형 모델의 생성물을 다음 모델의 학습 자료로 쓰는 과정을 반복했다. 세대가 지날수록 흔한 문장이 늘고 드문 아이디어가 사라졌으며, 앞선 모델의 오류가 사실처럼 이어졌다. [10:47]
• 중세 영국 교회 탑의 설계에 관한 문장을 이어 쓰게 했을 때, 아홉 번째 모델은 여러 색깔 꼬리의 산토끼를 나열했다. 연구진은 이런 현상을 ‘모델 붕괴’라고 불렀다. [11:31]

7. 『다크 시티』가 비추는 경험 없는 기억의 재순환

• AI 글이 인간의 글과 구분하기 어려워져 사람들이 덜 쓰게 된다면, 다음 AI는 더 많은 AI 생성물로 학습할 수 있다. 새로운 경험의 유입 없이 기존 자료만 재순환하는 세계가 우려되는 이유다. [12:28]
• 영화 『다크 시티』의 주민들은 실제로 겪은 일이 아니라 주입된 타인의 기억으로 살아간다. 모두가 기억하지만 정확한 위치를 모르는 ‘셸 비치’는 경험 없이 공유되는 기억의 모순을 드러낸다. [13:03]

8. 이미지의 뜻밖의 결과와 대본의 상투성

• 고이어는 『파운데이션』 시즌 2의 초기 콘셉트 작업에 미드저니를 활용했다. 상상하지 못했던 기묘한 이미지가 나오면 인간 작가에게 넘겨 발전시켰으며, 이미지 생성에서는 환각이 발상의 재료가 될 수 있다고 평가한다. [15:50]
• 반면 주제만 주고 짧은 대본을 요청하면 현재로서는 매우 상투적인 결과가 나온다고 본다. 적어도 대본을 처음부터 창작하는 일에서는 아직 인간 자신의 경험에 의존해야 한다는 입장이다. [16:43]

9. 할리우드의 AI 서사와 직업 선택에 미치는 영향

• 앤드루 응은 AI 때문인 해고가 1.4%라는 수치를 언급하면서도 할리우드의 비율은 모른다고 선을 긋는다. 고용 우려를 없애야 한다는 뜻은 아니지만, 피해가 많은 사람이 두려워하는 만큼 크지는 않을 수 있다고 전망한다. [17:48]
• 그는 할리우드의 부정적인 AI 서사가 기술 수용과 진로 선택에 영향을 준다고 본다. AI를 인류 멸종과 연결해 관련 진로를 포기한 고등학생의 사례를 들어, 공포뿐 아니라 문제 해결 가능성도 담는 균형 있는 이야기가 시급하다고 주장한다. [18:15]

10. 무성의한 자동 생성과 아이디어를 주고받는 활용의 차이

• AI가 타인의 작업을 훔쳐 만들어졌다는 비판에 대해, 고이어는 우선 사용자의 투입과 판단을 강조한다. 자신이 받은 스튜디오 의견 중에는 AI 작성이 분명하다고 느꼈고 오류도 많아, 발신자가 읽지도 않은 것으로 보이는 문서가 있었다. [19:36]
• 히트작을 만들어 달라는 한 줄 요청과 달리, 직접 쓴 장면을 주고 인물이 데이트에서 벗어날 독창적인 방법 열 개를 요청하면 새로운 방향을 찾을 수 있다. 그의 경험에서는 일곱 개가 평범해도 세 개 정도는 흥미로운 가능성을 열었다. [20:59]

11. 인간의 참여를 넘어 인간이 창작을 주도해야 한다는 원칙

• 고이어는 AI를 필름에서 디지털카메라로의 전환과 비슷한 도구 변화로 본다. 같은 도구로 형편없는 작품과 뛰어난 작품이 모두 나올 수 있으므로, 결과의 질에는 사용자의 판단과 노력이 중요하다. [21:39]
• 뛰어난 작품을 만들려면 창작 과정 전체를 외주화할 수 없으며, 인간이 단지 관여하는 수준을 넘어 주도해야 한다는 입장이다. 앞으로 예술이 ‘인간이 관여한 작업’과 ‘인간이 주도한 작업’으로 나뉠 수 있다고 전망한다. [22:18]

12. 모방을 통한 학습과 원작을 자기 작품으로 내세우는 행위

• 앤드루 응은 젊은 화가가 거장의 그림을 모사하며 배우는 것은 받아들여지지만, 그대로 베낀 작품을 자신의 원작이라고 주장하는 것은 허용되지 않는다고 구분한다. 작가가 다양한 글을 읽고 자기 목소리를 만드는 과정도 같은 비유에 포함된다. [23:42]
• 그는 인간에게 허용되는 모방 학습을 AI에도 허용할 수 있기를 바란다는 개인적 입장을 제시한다. 다만 타인의 작품을 그대로 재현하는 문제까지 정당화하는 것은 아니라는 경계를 둔다. [24:23]

13. 무단 취득의 경계와 해결되지 않은 보상 문제

• 고이어는 자신의 책 세 권도 포함된 앤트로픽 소송에 참여했다고 밝히며, 허락 없이 디지털 책을 가져간 행위는 선을 넘었다고 주장한다. 앤드루 응도 저작물을 그런 방식으로 이용하는 데 문제가 있다는 점에 동의한다. [24:47]
• 응은 공개된 웹페이지를 읽고 영감을 얻어 새로운 글을 쓰는 일이 허용된다면, 그대로 복제하지 않는 조건에서 AI의 학습도 허용할 수 있지 않느냐고 묻는다. 동시에 AI의 규모가 인간과 다르므로 보상·공정성·출판사의 수익 구조를 유지할 경제 모델은 별도로 해결해야 한다고 인정한다. [25:19]

14. 학습의 변형성과 책을 확보한 경로를 나누는 판결 논리

• 소개된 판결에서 책을 이용한 AI 학습은 원작을 복사하거나 대체하기보다 다른 것을 만들기 위한 ‘고도로 변형적인’ 행위로 인정된다. 그러나 결과물을 새롭게 만들었는지와 학습용 책을 어떻게 확보했는지는 별개 쟁점이다. [26:15]
• 구매한 중고책의 제본을 잘라 스캔한 뒤 종이를 버린 방식은, 책 한 권을 파일 하나로 바꿔 복제본 수를 늘리지 않았다는 논리로 공정 이용이 인정된 사례다. [27:12]

15. 같은 문장도 작성자의 경험과 시대에 따라 달라지는가

• 보르헤스의 「피에르 메나르, 『돈키호테』의 저자」에서 메나르는 원작을 베끼거나 현대적으로 고치는 대신, 자기 작업을 통해 원작과 글자까지 같은 문장을 쓰려 한다. 작품의 화자는 같은 문장도 17세기 스페인인과 20세기 프랑스인이 썼을 때 의미와 풍부함이 달라진다고 주장한다. [28:18]
• 이 관점은 글자의 일치 여부만으로 텍스트를 판단하는 기준에 질문을 던진다. 메나르는 다른 시대를 살아 같은 문장에 도달했지만 AI는 어떤 세계도 직접 살아보지 않고 같은 문장에 도달한다는 대비가 제시되며, 처리 구간은 그 질문의 결론 없이 끝난다. [29:28]

16. 보상 대상과 지급액은 미해결 과제로 남는다

• 앤드루 응도 아직 답이 없다는 점을 알고 있으며, 누구에게 얼마를 지급할지 해결해야 한다고 직접 인정했다 [30:10]

17. 낙관적인 결말에도 수혜자는 불분명하다

• 앤드루 응은 결국 모든 일이 잘 풀릴 것이라고 믿으며, 출판사들이 불안해하는 점도 이해한다고 덧붙였다 [30:19]
• 일이 잘 풀리기를 바라는 마음과 별개로, 정확히 누구에게 좋은 결과가 될지는 확신할 수 없다는 의문이 남는다 [30:28]

🧾 결론

• 핵심은 AI 사용 여부보다 사람이 목적을 정하고 결과를 선별·수정하며 창작을 주도하는지에 있다.
• 조사, 압축, 대안 발상은 유용한 활용처지만, 결과를 읽고 맥락과 사실을 확인하는 책임까지 넘길 수는 없다.
• 인간의 새로운 경험과 직접 쓴 자료는 작품의 독창성뿐 아니라 이후 모델의 학습 품질에도 중요하다.
• 제목의 표현을 모든 AI 글을 식별할 수 있다는 뜻으로 받아들여서는 안 된다. 본문에는 AI 글과 인간 글의 구분이 어려워질 가능성도 제시된다.

📈 투자·시사 포인트

• 창작 도구를 평가할 때는 생성량보다 실제 작업 시간 단축과 최종 결과의 품질을 함께 확인필요가 있다. 고이어의 사례는 생산성 개선 가능성을 보여주지만 산업 전체의 수익성을 입증하지는 않는다.
• 인간이 직접 만든 자료의 가치가 커질 수 있다는 논의는 학습 자료의 품질과 확보 경로를 주요 검토 항목으로 만든다. 다만 이것이 창작자나 출판사의 수익으로 이어질 구조는 아직 불분명하다.
• AI 학습의 허용 범위, 자료 취득의 적법성, 보상 문제를 구분해야 한다. 한 쟁점에서 유리한 판단이 나왔다고 다른 비용과 분쟁까지 해소되는 것은 아니다.
• 고용과 진로에 관한 판단에는 균형이 필요하다. 응이 언급한 해고 수치만으로 할리우드의 영향을 추정하거나 특정 직업의 미래를 단정할 수 없다.

⚠️ 불확실하거나 확인이 필요한 부분

• AI 작성 여부를 알아챘다는 사례는 고이어의 판단이다. 제공된 자료에는 이를 검증한 판별 실험이나 정확도가 없으므로, 상투적인 문장만으로 작성 주체를 단정할 수 없다.
• 집필 시간 단축과 발상 결과의 유용성은 개인의 경험이다. 작업 유형, 사용 모델, 검토 시간에 따라 같은 효과가 재현되는지 확인해야 한다.
• 모델 붕괴 연구는 소개된 소형 모델과 반복 학습 조건에 관한 결과다. 인간 글을 열 개 중 하나꼴로 섞었다는 설명을 모든 모델에 적용되는 안전 기준으로 볼 근거는 없다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• AI를 쓰기 전에 글의 목적, 독자, 핵심 주장, 직접 경험에서 나온 소재를 먼저 정리한다.
• 직접 쓴 초안을 바탕으로 압축안이나 대안을 여러 개 요청하고, 필요한 부분을 선별해 다시 쓴다.
• 제출하거나 공유하기 전에 사실 오류, 맥락 누락, 상투적인 표현을 읽고 수정한다.
• AI 활용 전후의 작업 시간과 최종 품질을 함께 기록해 자신의 업무에서 효과를 확인한다.

❓ 열린 질문

• 인간이 단순히 결과를 승인한 작업과 창작을 주도한 작업을 어떤 기준으로 구분할 수 있을까?
• AI 생성물이 늘어나는 환경에서 인간의 새로운 경험이 담긴 자료를 어떻게 확보하고 보상할 수 있을까?
• 창작 생산성 향상으로 생긴 이익은 도구 기업, 스튜디오, 출판사, 창작자 사이에 어떻게 배분될까?