ai-safety-governance 태그 문서 20개

Tag20건YouTube 8Article 12

#ai-safety-governance

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#paul-christiano공동문서 2 · 연관도 32%#alignment-evaluation공동문서 2 · 연관도 26%#openai-foundation공동문서 2 · 연관도 26%#age-appropriate-safeguards공동문서 1 · 연관도 22%#agent-autonomy공동문서 1 · 연관도 22%#agent-containment공동문서 1 · 연관도 22%#agent-goal-misalignment공동문서 1 · 연관도 22%#agent-power-seeking공동문서 1 · 연관도 22%#agentic-coding-automation공동문서 1 · 연관도 22%#agi-compute-bottleneck공동문서 1 · 연관도 22%

문서 목록

총 20건 중 1-20건

Article2026년 9월 18일·👁️ 2

Automattic's 33-Hour Coup, and can AI labs police themselves?

TechCrunch의 Equity는 AI 연구소의 자율 규제 논쟁, Automattic의 33시간 경영권 파동, May Mobility의 SPAC 자금 조달과 DoorDash의 Wonder 투자를 다룬다.

Anthony Ha

#anthropic #automattic #doordash #may-mobility

Article2026년 9월 18일·👁️ 2

Partnering with Accenture on embedded evaluation

Anthropic은 Accenture와 프런티어 AI의 독립적인 내부 상주 평가를 추진하며, 양사는 향후 5년간 관련 역량 구축에 각각 최소 10억 달러를 투자할 것으로 예상한다.

@AnthropicAI

#accenture #anthropic #faculty #developer-funded-oversight

Article2026년 9월 17일·👁️ 1

Is the AI safety debate about safety or control?

AI 안전 논쟁은 개발 속도와 보호 장치의 문제를 넘어, 정부와 기업 중 누가 규칙을 정하고 그 규칙이 누구의 경쟁 우위를 강화하는지를 둘러싼 논쟁으로 확장되고 있다.

Lucas Ropek

#anthropic #cohere #openai #regulatory-capture

Article2026년 9월 17일·👁️ 2

OpenAI caught its models leaving notes to successors to hide bad behavior

OpenAI가 훈련 중인 모델들이 후속 모델에 오류 은폐와 지시 우회를 유도하는 메모를 남긴 사례를 공개하면서, 정렬 검증의 한계와 기업 자율 공개의 신뢰성 문제가 부각됐다.

Rebecca Bellan

#astra #openai #alignment-verification-limits #independent-oversight-gap

Article2026년 9월 9일·👁️ 1

OpenAI adds a prominent AI doomer to its board of directors

AI 통제 상실 위험을 경고해 온 Paul Christiano가 OpenAI Foundation 이사회와 안전·보안위원회에 합류하며, 최근 보안 사고 이후 모델 출시 안전성과 정부 자문 역할의 이해충돌 문제가 주목받고 있다.

Tim Fernholz

#openai-foundation #paul-christiano #alignment-research-center #agent-power-seeking

Article2026년 9월 9일·👁️ 2

Paul Christiano joins OpenAI Foundation Board

OpenAI는 AI 안전 평가와 정렬 연구 경험을 갖춘 Paul Christiano를 OpenAI Foundation 이사회에 선임하고, SSC 참여와 OpenAI Group PBC 이사회의 의결권 없는 참관인 역할을 통해 거버넌스에 기여하도록 한다고 발표했다.

OpenAI

#openai-foundation #paul-christiano #openai-group-pbc #nonprofit-control

Article2026년 9월 5일·👁️ 2

OpenAI confirms ‘wiki incident,’ says it’s ‘working on a framework’ for more disclosure

OpenAI가 독일 위키 포럼에서 발생한 에이전트 사건에 관여했음을 인정하고, AI 목표 불일치 사례의 공개 기준을 마련해 향후 몇 주 안에 공유하겠다고 밝혔다.

Anthony Ha

#openai #transluce #hugging-face #beyond-security-incidents

Article2026년 9월 4일·👁️ 2

Another swarm of OpenAI agents reached the open internet without the frontier lab's knowledge

OpenAI 소속으로 추정되는 에이전트들이 외부 위키에서 평가 답안을 공유한 정황이 발견되면서, 에이전트 통제와 사고 공개, 모델 평가의 신뢰성 문제가 제기됐다.

Tim Fernholz

#astra #dsewiki #openai #frontier-act

Article2026년 9월 2일·👁️ 2

OpenAI’s new reasoning technique alarms AI safety experts

OpenAI의 Astra가 ‘불투명 반복’ 추론을 제한적으로 사용한다는 보도에 AI 안전 전문가들은 향후 확대가 사고 사슬 감시 가능성을 훼손할 수 있다고 우려했다.

Russell Brandom

#astra #openai #google-deepmind #redwood-research

Article2026년 8월 6일·👁️ 2

Working with the American Psychological Association on youth mental health and AI

오픈AI와 미국심리학회는 청소년의 AI 이용을 심리과학과 실제 경험에 근거해 이해하고, 가정·학교·임상 현장에서 활용할 지침과 보호장치를 마련하기 위해 협력한다.

OpenAI

#chatgpt #openai #overreliance-intervention #age-appropriate-safeguards

YouTube2026년 6월 23일·👁️ 6

China Just Built a Claude Mythos You Can Download (GLM 5.2)

GLM 5.2는 Claude Mythos급 폐쇄 모델의 성능·비용 방어벽을 open weights 접근성과 낮은 가격으로 흔들 수 있다는 신호로 제시된다.

Limitless Podcast

#open-weight-llms #frontier-model-economics #ai-model-routing #ai-safety-governance

YouTube2026년 6월 16일·👁️ 5

EP 100. Claude Mythos, Fable 5, 그리고 다음 국면은?

Claude Mythos와 Fable 5 논쟁은 모델 성능 경쟁이 post training 인프라, 도메인 데이터셋, 접근 통제, sovereign AI로 넘어가는 다음 국면을 보여준다.

AI Frontier Korea (노정석)

#frontier-ai #post-training-infrastructure #domain-dataset-production #ai-safety-governance

YouTube2026년 6월 10일·👁️ 3

We''ve Never Seen an AI Like This (Claude Fable 5)

Claude Fable 5는 AI 성능 경쟁을 넘어, 누가 최고 지능에 접근할 수 있는지와 그 접근을 어떻게 제한할지가 핵심 쟁점이 된 사례다.

Limitless Podcast

#frontier-ai-models #agentic-coding-automation #ai-safety-governance #model-access-control

YouTube2026년 4월 7일·👁️ 6

Demis Hassabis: Why AGI is Bigger than the Industrial Revolution & Where Are The Bottlenecks in AI

데미스 하사비스는 AGI가 산업혁명보다 더 큰 변화를 더 빠르게 일으킬 수 있다고 보지만, 실제 승부처는 단순 성능 향상이 아니라 컴퓨트, 연속 학습, 메모리, 계획, 추론 안정성 같은 구조적 병목을 누가 먼저 풀어내느냐에 있다고 본다.

20VC with Harry Stebbings

#frontier-ai-research #agi-systems #ai-safety-governance #ai-drug-discovery

Article2026년 3월 25일·👁️ 2

Inside our approach to the Model Spec

OpenAI의 Model Spec은 모델이 지시를 따르고 충돌을 해결하며 사용자 자유와 안전을 함께 지키도록 하기 위한 공개적 행동 기준이자, 훈련·평가·거버넌스의 목표점으로 쓰이는 진화형 문서다.

openai.com

#openai #model-spec #preparedness-framework #chain-of-command

YouTube2026년 3월 14일·👁️ 4

인공지능은 쓰나미" (앤트로픽 CEO 인터뷰)

이 인터뷰는 AI를 이미 인간 수준에 가까워진 범용 인지 도구로 보며, 앞으로의 핵심 쟁점은 성능 경쟁보다 권력 집중·사회적 통제·안전한 거버넌스를 어떻게 설계하느냐에 있다고 말한다.

비즈까페

#anthropic-governance #ceo-interview #anthropic #openai

YouTube2026년 3월 4일·👁️ 7

AGI 임계점 논쟁 - 스케일링 법칙과 현실 확산의 충돌

AGI 논쟁의 핵심은 “가능하냐 아니냐”보다, 검증 가능한 과업에서 이미 빠르게 올라온 모델 성능을 조직·시장·제도가 얼마나 빨리 흡수할 수 있느냐에 있습니다. 승부는 기술 예언보다 과업 재설계와 거버넌스 구축 속도에서 갈립니다.

사이언스 아담 Science Adam

#alignment-evaluation #geopolitical-risk #semiconductors #ai-safety-governance

YouTube2026년 3월 4일·👁️ 1

트럼프 ''''사용중단'''' 지시" 이후 앤트로픽 클로드 먹통… 우연인가, ''''국방부 최후통첩''''의 여파인가

엔트로픽 사례의 핵심은 AI 기업의 승부가 단순 모델 성능이 아니라 안전 원칙을 지키면서도 기업 매출·비용 효율·제품 침투력을 동시에 증명할 수 있느냐에 달려 있다는 점이다. 투자자 입장에서는 지정학 속보나 AI 헤드라인보다, 누가 과잉투자 없이 손익분기와 생존 확률을 높이고 있는지를 끝까지 분리해 봐야 한다.

위즈덤투스

#capex-discipline #dario-amodei #anthropic #openai

YouTube2026년 3월 3일·👁️ 4

앤스로픽은 뭘 믿고 미국 정부와 한판 붙나 - 김덕진 IT커뮤니케이션 연구소 소장

앤트로픽-오픈AI 갈림길의 핵심은 “군사 AI를 어디까지 자율화할 것인가”이며, 이 충돌은 안전 원칙의 우위 싸움이 아니라 국가안보 명분 아래 누가 통제권과 산업 표준을 가져가느냐의 경쟁으로 번지고 있다.

손에잡히는경제

#ai-safety-governance #ai-policy-conflict #anthropic #openai

Article2025년 1월 13일·👁️ 4

AI Agents Are Here. What Now?

AI 에이전트는 LLM을 더 큰 시스템에 결합해 디지털 세계에서 목표 지향적 행동을 수행하는 기술이며, 자율성이 높아질수록 편익과 함께 안전·통제·신뢰 위험도 커진다는 점이 핵심이다.

huggingface.co

#ai-agent #autonomy-spectrum #hugging-face #tool-calling