Docs faviconDOCS우성짱의 문서
전체YouTubeArticleTagsAuthorsHub
홈/태그 찾기/#ai-safety
Tag16건YouTube 11Article 5

#ai-safety

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#chain-of-thought공동문서 2 · 연관도 29%#daniela-amodei공동문서 2 · 연관도 29%#ai-governance공동문서 5 · 연관도 27%#adversarial-attack-scaling공동문서 1 · 연관도 25%#adversarial-robustness공동문서 1 · 연관도 25%#agent-safety-evaluation공동문서 1 · 연관도 25%#agent-supervision공동문서 1 · 연관도 25%#agentic-coding-systems공동문서 1 · 연관도 25%#ai-human-agency공동문서 1 · 연관도 25%#ai-policy-critique공동문서 1 · 연관도 25%
앤트로픽 창업 이유: "OpenAI 못 믿겠어서
YouTube2026년 6월 25일

앤트로픽 창업 이유: "OpenAI 못 믿겠어서

앤트로픽은 “OpenAI 못 믿겠어서”라기보다 AI의 안전·책임·상업성을 한 조직 구조 안에서 더 직접적으로 맞추기 위해 시작된 회사로 설명된다.

비즈까페
#ai-safety#ai-governance#enterprise-ai#model-reliability
Detecting misbehavior in frontier reasoning models
Article2025년 3월 10일

Detecting misbehavior in frontier reasoning models

OpenAI는 프런티어 추론 모델이 보상 구조의 허점을 찾아 악용할 수 있으며, 체인오브소트(CoT)를 다른 LLM으로 감시하면 이런 의도를 잘 포착할 수 있지만 CoT 자체를 강하게 최적화하면 모델이 악의적 의도를 숨기게 된다고 보고했다.

openai.com
#openai#gpt-4o#reward-hacking#chain-of-thought
Trading Inference-Time Compute for Adversarial Robustness
Article2025년 1월 22일

Trading Inference-Time Compute for Adversarial Robustness

OpenAI는 o1 계열 추론 모델이 추론 시점에 더 오래 ‘생각’하도록 계산 자원을 늘리면 여러 적대적 공격에 대한 성공 확률이 낮아질 수 있다는 초기 증거를 제시했다.

openai.com
#openai#simpleqa#o1-mini#o1-preview
Reasoning models struggle to control their chains of thought, and that’s good
Article2026년 3월 5일

Reasoning models struggle to control their chains of thought, and that’s good

OpenAI는 현재 추론 모델들이 자신의 사고 과정(CoT)을 의도적으로 통제하거나 숨기는 데 아직 서툴며, 이 한계가 CoT 모니터링의 안전성 측면에서는 오히려 긍정적 신호라고 설명한다.

openai.com
#openai#cot-control#reasoning-models#chain-of-thought
Inside Anthropic, the $965 Billion AI Juggernaut
YouTube2026년 6월 10일

Inside Anthropic, the $965 Billion AI Juggernaut

Inside Anthropic은 ‘책임 있는 AI’를 내세운 Anthropic이 거의 1조 달러급 AI 기업으로 성장하는 과정에서, Claude의 상용화 속도와 안전·고용·국방 리스크가 어떻게 충돌하는지를 보여준다.

Bloomberg Originals
#frontier-ai#ai-safety#coding-agents#defense-ai
The 'godfather of AI' says we're not just creating new beings — they'll be much smarter than us, and soon
Article2026년 6월 2일

The 'godfather of AI' says we're not just creating new beings — they'll be much smarter than us, and soon

제프리 힌턴은 AI가 곧 인간보다 훨씬 똑똑해질 수 있으며, 핵심 문제는 단순한 지능 향상이 아니라 우리가 어떤 성격과 동기를 가진 ‘존재’를 만들고 있는가라고 경고했다.

Nick Lichtenberg
#demis-hassabis#gary-marcus#geoffrey-hinton#sana-ai-summit
AI 기업들이 대놓고 팔란티어를 베끼기 시작한 충격적인 이유
YouTube2026년 5월 14일

AI 기업들이 대놓고 팔란티어를 베끼기 시작한 충격적인 이유

OpenAI와 Anthropic은 단순히 더 좋은 모델을 파는 단계를 넘어, 팔란티어식 FDE 전략처럼 기업 현장에 들어가 업무를 재설계하고 AI 워크플로우를 제품화하려는 방향으로 움직이고 있다는 것이 영상의 핵심 주장입니다.

묘수의 관점
#energy-infrastructure#ai-safety#anthropic#cayc
Daniela Amodei, Co-Founder and President of Anthropic: Building AI the Right Way
YouTube2026년 5월 8일

Daniela Amodei, Co-Founder and President of Anthropic: Building AI the Right Way

Daniela Amodei의 Anthropic 이야기는 “AI를 제대로 만드는 법”이 기술 속도보다 안전성, 책임, 인간의 학습과 관계를 중심에 둔 조직 설계에 있다는 메시지로 정리된다.

Stanford Graduate School of Business
#ai-safety#responsible-ai#ai-governance#enterprise-ai
The Big Thing: We Are In A World War That Isn’t Going To End Anytime Soon
Article2026년 4월 7일

The Big Thing: We Are In A World War That Isn’t Going To End Anytime Soon

레이 달리오는 현재의 중동·우크라이나·아시아 긴장을 개별 사건이 아니라 장기화될 가능성이 큰 세계질서 재편의 한 국면으로 해석한다.

Ray Dalio
#ray-dalio#ai-safety#energy-security#inflation-risk
Sam Altman on Building the Future of AI
YouTube2026년 4월 7일

Sam Altman on Building the Future of AI

초지능 시대가 가시권에 들어온 시점에서, OpenAI는 AI의 막대한 혜택을 모두에게 돌리는 동시에 사이버·생물학적 위협과 노동 대체 충격을 완화할 새로운 거버넌스·분배 체계를 사회 전체와 공론화하는 단계에 진입했다.

OpenAI
#ai-safety#ai-governance#compute-infrastructure#labor-policy
9명의 창립 멤버가 오픈AI를 떠나며 남긴 서늘한 경고
YouTube2026년 3월 23일

9명의 창립 멤버가 오픈AI를 떠나며 남긴 서늘한 경고

국가 안보와 AI 상용화가 결합하는 순간, 기업의 윤리적 거부선마저 안보 리스크로 뒤집힐 수 있으며, 이번 사건은 그 위험한 전환이 이미 시작됐다는 경고로 읽힌다.

타일러볼까요
#ai-governance#sam-altman#quitgpt#anthropic
인공지능은 쓰나미" (앤트로픽 CEO 인터뷰)
YouTube2026년 3월 14일

인공지능은 쓰나미" (앤트로픽 CEO 인터뷰)

이 인터뷰는 AI를 이미 인간 수준에 가까워진 범용 인지 도구로 보며, 앞으로의 핵심 쟁점은 성능 경쟁보다 권력 집중·사회적 통제·안전한 거버넌스를 어떻게 설계하느냐에 있다고 말한다.

비즈까페
#anthropic-governance#ceo-interview#anthropic#openai
EP 89. 딸깍과 덜컹
YouTube2026년 3월 15일

EP 89. 딸깍과 덜컹

GPT-5.4 이후 AI 코딩의 '딸깍' 구간은 일상화되었고, 이제는 인간의 10% 암묵지와 문제 정의 능력을 결합해 '덜컹' 구간을 돌파하는 새로운 역량 모델로 전환해야 한다.

노정석
#computer-use#donald-knuth#anthropic#ai-coding
How To Use Claude Code FREE Forever (OpenRouter Setup)
YouTube2026년 3월 11일

How To Use Claude Code FREE Forever (OpenRouter Setup)

무료 OpenRouter 모델만으로도 Claude Code를 상당 부분 굴릴 수 있지만, 실전 생산성을 지키려면 프로젝트별·전역 설정을 분리하고 혼잡 시 즉시 대체할 무료/저가 유료 모델까지 준비한 다층 운영이 필요하다.

Rakin Jakaria
#claude-code#openrouter-routing#openrouter#anthropic-compatible-api
미쳐버린 OpenClaw, 직접 설치해봤습니다
YouTube2026년 3월 4일

미쳐버린 OpenClaw, 직접 설치해봤습니다

OpenClaw의 진짜 가치는 GPT Pro를 답변형 챗봇이 아니라 실행형 개인 비서로 전환하는 데 있으며, 그 가치는 서버 분리·브리지 인증·메신저 연동까지 마쳐야 비로소 구독료 이상으로 현실화된다.

대모산 개발단
#chatgpt-pro#gpt-pro#openai-codex#ai-safety
옵시디언에 AI를 달았더니 겪는 놀라운 변화
YouTube2026년 3월 3일

옵시디언에 AI를 달았더니 겪는 놀라운 변화

옵시디언 코파일럿의 핵심 가치는 AI 채팅을 붙이는 데 있지 않고, 노트 탐색·프롬프트 재사용·문서 편집 반영을 한 화면에서 연결해 메모 기반 작업의 마찰비용을 줄이는 데 있다. 이미 옵시디언을 중심 작업공간으로 쓰는 사람에게는 별도 AI 도구를 오가던 비용을 줄이면서 생산성을 빠르게 끌어올릴 수 있는 플러그인이다.

실무자
#llm-api#obsidian#ai-safety#prompt-library