constitutional-ai 태그 문서 3개

Tag3건YouTube 1Article 2

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

OpenAI는 o series 모델에 사람이 쓴 안전 명세를 직접 가르치고 추론 과정에서 이를 검토하게 하는 ‘숙고적 정렬’을 통해 악성 요청 거부와 benign 요청 허용의 균형을 개선했다고 설명한다.

앤트로픽은 프런티어 AI를 안전하고 유익하게 만들기 위해 기술적 정렬 연구뿐 아니라 종교·철학·인문·시민사회 등 다양한 전통의 관점을 Claude의 가치와 행동 설계에 반영하려 하고 있다.

이 인터뷰는 AI를 이미 인간 수준에 가까워진 범용 인지 도구로 보며, 앞으로의 핵심 쟁점은 성능 경쟁보다 권력 집중·사회적 통제·안전한 거버넌스를 어떻게 설계하느냐에 있다고 말한다.