How we built ChatGPT’s novel ad stack for user trust and relevance

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI는 대화에 따라 변하는 사용자 의도를 반영하기 위해 상태 유지 세션과 사후 학습 LLM 오케스트레이터를 결합하고, ChatGPT 답변 생성과 독립적으로 광고를 선별하는 시스템을 구축했다.

📌 핵심 요약

• ChatGPT 광고 시스템은 여러 대화 턴과 대화에 걸쳐 발전하는 사용자 목표를 반영하도록 상태 유지 광고 세션, 맞춤형 사후 학습 LLM, 답변 생성과 분리된 광고 서비스를 핵심 설계로 채택했다.
• 광고 서비스는 ChatGPT 답변 생성과 서비스·모델·코드를 분리해 광고가 답변에 영향을 주지 않도록 설계됐다. OpenAI는 광고 서비스가 느리거나 중단돼도 일반 답변은 영향을 받지 않으며, 광고를 표시하지 않는 것도 정상적인 성공 결과라고 설명한다.
• LLM 오케스트레이터는 현재 의도와 오래된 맥락, 가정적 언급을 구분하고 도구를 반복 호출해 검색·적격성 필터링·관련성 평가·순위 결정·경매·전달을 조율한다. 사용자가 광고 개인화를 선택하면 이용 가능한 과거 대화의 비민감 정보도 고려한다.
• 광고 검색은 대화를 하나 이상의 질의와 의미 임베딩으로 변환하고 근사 최근접 이웃 검색인 ANN으로 후보를 넓게 확보한다. 이후 예산·정책·타기팅 등 적격성과 의미적 관련성·예상 참여·과거 성과를 평가하며, 경매 전 관련성과 안전성도 점검한다.
• OpenAI에 따르면 ChatGPT Ads는 출시 후 200일이 되기 전에 연환산 매출 실행률 10억 달러에 도달했고, 출시 이후 광고를 집행한 광고주는 10만 곳을 넘었다. 제공된 본문은 점수 평가 설명 중간에서 끝나므로 구체적인 경매·가격 결정 방식이나 후속 평가 체계는 확인할 수 없다.

🧩 주요 포인트

1. 대화마다 달라지는 사용자 목표 → 개별 메시지에 즉시 반응하기보다 상태 유지와 반복적인 의도 해석으로 광고 시점과 후보를 조정하는 구조가 필요하다.
2. ChatGPT 답변 생성과 광고 서비스의 독립성 → 광고의 답변 개입과 장애 전파를 차단하고, 적합한 광고가 없으면 표시하지 않는 운영을 뒷받침한다.
3. LLM 오케스트레이터와 ANN 기반 후보 검색의 결합 → 복수의 상업적 의도를 폭넓게 탐색하면서 적격성·관련성·안전성 평가로 게재 대상을 좁힌다. 제시된 사업 규모 수치만으로 이러한 설계의 개별 효과를 판단하기는 어렵다.

🧠 상세 정리

1. 대화형 광고를 위한 세 가지 설계

2026년 10월 21일 공개된 이 글에서 OpenAI의 Ritendra Datta와 Karthik Gopalratnam은 ChatGPT의 대화 특성에 맞춰 광고 전달 시스템을 새로 구축한 배경을 설명한다. 기존 광고 시스템이 검색어나 페이지 조회처럼 분리된 사건에 반응하는 데 비해, ChatGPT에서는 사용자 의도가 여러 턴에 걸쳐 발전하고 적합한 광고 기회가 생기지 않을 수도 있다는 것이 출발점이다. 이를 위해 대화 상태를 기억하는 광고 세션, 도구 호출을 수행하는 맞춤형 사후 학습 프런티어 LLM, 답변 생성과 독립된 광고 서비스를 핵심 설계로 채택했다. OpenAI는 ChatGPT Ads가 출시 후 200일이 되기 전에 연환산 매출 실행률 10억 달러에 도달했고, 출시 이후 광고를 집행한 광고주가 10만 곳을 넘었다고 밝혔다.

2. 개별 메시지에서 상태 유지 세션으로

기존 광고 흐름에서는 사용자가 검색하거나 웹페이지를 열면 후보 검색, 순위 결정, 경매, 광고 표시가 이어지지만, ChatGPT 대화에서는 광고 요청의 출발점이 그처럼 명확하지 않다. 달리기에 관한 일반적인 질문이 여러 턴 뒤 훈련용 신발에 관한 질문으로 발전하는 사례처럼, 새로운 조건이 추가될 때마다 대화의 상업적 의미도 달라진다. 모든 메시지를 독립 요청으로 처리하면 목표를 단순화해 오해하거나, 필요가 분명해지기 전에 광고를 시작하거나, 사용자 여정을 방해하고 처리 비용을 낭비할 위험이 있다. 상태 유지 광고 세션은 광고 대상이 되는 턴 동안 정보를 기억하고 갱신하며, 설계 전반에서는 여러 턴과 여러 대화에 걸친 맥락의 발전도 반영한다. ChatGPT가 초기 요청 맥락을 광고 서버로 보내면 광고 시스템은 단일 질의에만 의존하지 않고 이후 대화 변화에 맞춰 작동한다.

3. 답변 생성과 광고 전달의 독립성

광고 선택은 ChatGPT의 일반 답변 생성과 나란히 실행되지만, 별도의 서비스와 모델, 코드에서 처리된다. 핵심 ChatGPT 서버가 일반 답변을 생성하는 동안 광고 시스템은 자체 적격성·품질·전달 제약에 따라 대화를 검토하고, 적절한 기회가 있으면 별도 제공 절차로 스폰서 광고를 준비한다. OpenAI는 두 서비스가 콘텐츠 생성 모델을 공유하지 않고 ChatGPT도 광고 시스템에 의존하지 않으므로, 광고 서비스가 느리거나 사용할 수 없어도 일반 답변이 지연되거나 중단되지 않는다고 설명한다. 이 경계는 광고가 답변에 영향을 주지 않고 ChatGPT의 중립적인 목소리를 유지하도록 하기 위한 설계이기도 하다. 광고를 반환하지 않는 것은 정상적인 성공 결과로 취급되며, 시스템은 사용자와 광고주에게 분명한 이익이 있다고 판단할 때만 광고를 전달한다.

4. 오케스트레이터의 의도 해석과 반복 실행

광고 흐름을 조율하는 사후 학습 LLM은 오케스트레이터라고 불리며, 검색부터 순위 결정, 경매, 전달까지 핵심 기능을 도구로 호출하는 반복 구조를 사용한다. 대화가 점진적으로 전달되면 맥락은 풍부해지지만 해석도 모호해지므로, 오케스트레이터는 현재 의도와 오래된 맥락을 구분하고 앞선 메시지에 대한 참조나 가정적 발언을 이해해야 한다. 제품이나 서비스가 언급됐다는 이유만으로 구매 의도로 간주해서는 안 되며, 사용자 가치를 우선하면서 광고주 가치도 함께 고려하도록 설계됐다. 사용자가 광고 개인화를 선택한 경우에는 이용 가능한 과거 대화의 비민감 정보도 광고 매칭에 활용한다. 새로운 정보가 들어오면 도구를 다시 호출해 더 나은 후보를 클라이언트에 보낼 수 있고, 클라이언트는 그 광고가 제때 도착하면 사용할 수 있다.

5. 복수 질의로 보존하는 상업적 의도

오케스트레이터는 관련된 상업적 의도를 나타내는 하나 이상의 질의를 만들고, 여러 턴의 대화를 검색에 적합한 짧은 텍스트로 요약한 뒤 의미 임베딩으로 변환한다. 이 과정에는 대화 맥락을 재작성해 일대일 검색어 대응보다 넓은 상업적 가능성을 탐색하는 작업도 포함된다. 여행 계획에 교통, 숙박, 활동처럼 서로 다른 필요가 섞여 있다면, 여러 질의를 통해 각 의도를 보존하고 전체 대화를 하나의 문자 그대로의 검색어로 압축하지 않을 수 있다. 본문의 등산화 사례에서는 사용자가 신발 브랜드 질문과 Yosemite 여행을 직접 연결하지 않았더라도, 등산 여행에 적합한 신발과 여행에 좋은 해당 브랜드의 신제품군이라는 두 방향으로 대화를 표현할 수 있다고 설명한다. 이러한 표현은 최초 시도에 그칠 수 있으며, 오케스트레이터는 보유 광고 중 사용자에게 가치가 높은 후보를 찾기 위해 표현을 반복적으로 조정하도록 설계됐다.

6. 여러 인덱스와 ANN을 이용한 후보 검색

검색 단계의 목적은 최종 광고 하나를 즉시 확정하는 것이 아니라, 이후 평가할 광고 후보를 의도적으로 넓게 확보하는 것이다. 서로 다른 검색 전략에서 나온 후보도 이후 동일한 광고 제공 제약 아래 경쟁할 수 있으며, 시스템은 제품과 시스템의 요구에 맞춘 여러 인덱스를 구축한다. 예를 들어 상품 피드 광고용 인덱스는 긍정적·부정적 상품 리뷰를 고려하도록 설계되지만, 리뷰가 연결되지 않은 다른 유형의 광고에는 이 요소가 해당하지 않는다. 각 인덱스는 사용자 의도를 나타내는 임베딩을 활용하는 근사 최근접 이웃 검색인 ANN의 어떤 형태에 맞춰 최적화된다. ANN은 대규모 의미 인덱스에서 정확한 해답을 전부 탐색하기보다 좋은 해답에 가까운 후보를 빠르게 찾는 근사 방식이며, 관련 후보 대부분을 유지하면서 검색 속도를 확보한다는 설명이다.

7. 게재 자격을 좁히는 필터링

후보 검색 뒤의 필터링은 관련성, 입찰, 예산 측면에서 게재 기준에 미달하는 광고를 제외하기 위한 단계다. 후보와 설정에 따라 광고 소재와 캠페인이 활성 상태인지, 캠페인이 허용된 지역을 대상으로 하는지, 광고 가능한 내용에 관한 정책 제한을 충족하는지 등을 확인한다. 예산이 남아 있는지도 검토하며, 하루 중 현재 시점에 예산을 지출하는 것이 적절한지를 판단하는 페이싱도 필터링 조건에 포함될 수 있다. 광고가 어떤 종류의 대화에 게재될 수 있는지에 관한 배치 호환성과 광고주·캠페인 수준의 중복 제거도 고려 대상이다. 중복 제거는 광고주별로 적절한 수의 광고를 선택해 기업들이 공정하게 참여하도록 하기 위한 것이며, 이러한 검사 항목은 모든 후보에 일률적으로 적용된다고 단정할 수 없고 후보와 구성에 따라 달라진다.

8. 점수 평가와 제공된 본문의 범위

적격성 검사를 통과한 후보는 점수 평가로 넘어가며, 오케스트레이터가 여러 평가 시스템을 도구로 호출한다. 평가 항목에는 광고가 사용자 목표와 맞는지를 보는 의미적 관련성, 조회·클릭·광고주가 원하는 결과로의 전환 가능성을 예측하는 참여도, 지금까지 사용자에게 표시됐을 때의 과거 성과가 포함된다. 오케스트레이터는 경매에 들어가기 전에도 관련성과 안전성을 확인하며, 전체 흐름에서는 최종 순위를 통해 답변 끝에 배치할 가치가 높은 기회를 식별한다고 설명한다. 다만 제공된 본문은 이러한 점수 평가 시스템을 설명하는 도중에 끝나므로, 경매의 구체적인 규칙과 가격 산정 방식, 이후 평가 절차를 이 자료만으로 상세히 정리할 수는 없다. 따라서 확인 가능한 설명의 범위는 후보 검색과 적격성 검사, 점수 평가 항목 및 경매 전 관련성·안전성 점검까지이며, 전체 광고 흐름을 조율한다는 소개와 구체적인 구현 설명의 범위를 구분해야 한다.

🧾 핵심 주장 / 시사점

• 광고 시점 판단은 후보 선택만큼 중요한 설계 요소다. 상태 유지와 반복적인 의도 해석은 사용자의 목표가 충분히 드러나기 전에 광고가 개입하는 위험을 줄이려는 접근이다.
• 답변 생성과 광고 서비스의 분리는 중립성 보호와 장애 격리를 함께 겨냥한다. 다만 본문이 제시하는 설계 설명만으로 실제 운영에서의 효과를 정량적으로 판단할 수는 없다.
• 폭넓은 ANN 검색과 이후의 적격성·관련성·안전성 평가는 서로 다른 역할을 맡는다. 후보를 확보하는 단계와 실제 게재를 허용하는 단계가 나뉘어 있어, 검색됐다는 사실이 곧 광고 표시를 뜻하지 않는다.

✅ 액션 아이템

• 상태 유지 광고 세션과 반복적인 의도 해석을 기준으로 사용자 목표 변화에 따른 광고 시점 조정 방식을 검토한다.
• ChatGPT 답변 생성과 광고 서비스의 독립성을 기준으로 답변 개입 방지, 장애 격리, 광고 미표시 조건을 검토한다.
• 연환산 매출 실행률 10억 달러와 광고주 10만 곳이라는 수치는 사업 규모로 해석하고, 구체적인 경매·가격 결정 방식은 제공된 본문에서 확인할 수 없는 사항으로 구분한다.

❓ 열린 질문

• 상태 유지 광고 세션과 LLM 오케스트레이터는 현재 의도와 오래된 맥락을 어떤 기준으로 구분하고 광고 시점을 결정하는가?
• ChatGPT 답변 생성과 광고 서비스의 독립성 및 광고를 표시하지 않는 판단은 실제 운영에서 어떤 결과를 보이는가?
• ANN으로 확보한 후보의 관련성·예상 참여·과거 성과는 최종 순위와 경매·가격 결정에 각각 어떻게 반영되는가?