alignment-generalization-gap 태그 문서 1개 | 우성짱의 문서

우성짱의 문서

Tag1건Article 1

#alignment-generalization-gap

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#capability-alignment-race공동문서 1 · 연관도 100%#declining-monitorability공동문서 1 · 연관도 100%#rlslow공동문서 1 · 연관도 100%#value-alignment공동문서 1 · 연관도 100%#research-essay공동문서 1 · 연관도 71%#recursive-self-improvement공동문서 1 · 연관도 41%#reasoning-models공동문서 1 · 연관도 32%#gpt-6-astra공동문서 1 · 연관도 20%#openai공동문서 1 · 연관도 4%

문서 목록

총 1건 중 1-1건

Article2026년 9월 6일

An Alien Mind

OpenAI는 추론 모델의 빠른 발전에 대응해 정렬과 감시를 강화하고 있지만, 가치의 일반화와 사고 과정 감시의 한계 때문에 더 폭넓은 대응이 필요하다고 저자는 주장한다.

#openai #rlslow #gpt-6-astra #declining-monitorability