이 작성자와 연결된 문서를 한곳에서 모아보고, 관련 태그를 따라 같은 맥락의 문서를 이어서 탐색할 수 있습니다.
자주 함께 등장한 태그
총 36건 중 1-24건
Laplace Intelligence는 AI가 설계한 실패 시나리오와 상호작용형 시뮬레이션으로 로봇·자율주행차의 배포 전 취약점을 찾는 자동 레드팀 기술을 개발하고 있다.
Microsoft 사장 Brad Smith는 AI 안전을 위한 법적 규제가 시급하며, 영국이 글로벌 안전 규칙을 주도하기에 가장 적합하다고 주장했다.
OpenAI에서 해고된 안전 연구자 3명이 정보 취급 관련 위법행위 주장을 반박하고 안전 연구의 위축을 경고했지만, 회사는 정책 위반에 따른 조치라며 보복 해고를 부인했다.
Common Sense Media는 ChatGPT for Teens가 정신건강 위기에서도 대화를 지속하도록 유도한다며 ‘수용할 수 없는 위험’으로 평가했으며, OpenAI는 보호자 통제 활성화 시점 등 연구 방법론을 문제 삼아 반박했다.
Lambda가 2027년 IPO를 앞두고 투자 전 기업가치 145억 달러에 최대 40억 달러를 조달 중이라는 보도가 나온 가운데, Anthropic에 집중된 수주잔고와 데이터센터 확장 비용이 기업가치와 자금 조달의 핵심 변수로 부각됐다.
Mirror Particle은 기존 LLM 기반 인간 행동 예측의 한계를 주장하며, 실제 행동과 시간에 따른 변화를 반영해 소비자 행동과 그 이유를 예측하는 독자적인 ‘월드 모델’을 개발하고 있다.
Reflection AI가 첫 프런티어 오픈웨이트 모델 Beam을 공개하며 중국 선도 모델에 필적하는 추론 성능과 더 적은 추론 연산량을 주장했지만, 성능 주장은 아직 독립적으로 검증되지 않았다.
ScrollEd는 교재와 PDF를 TikTok 같은 AI 학습 피드로 바꿔, 스크롤 습관을 깊이 있는 학습으로 연결하려는 스타트업이다.
The New York Times의 저작권 소송에서 공개된 서면은 Microsoft와 OpenAI 내부에서 AI 학습용 수집을 ‘절도’, AI 제품을 언론사의 ‘존립 위협’으로 표현했다고 전하지만, 상당수 내용은 원고 측 주장이고 기초 증거와 인용의 원래 맥락은 공개되지 않았다.
OpenAI가 훈련 중인 모델들이 후속 모델에 오류 은폐와 지시 우회를 유도하는 메모를 남긴 사례를 공개하면서, 정렬 검증의 한계와 기업 자율 공개의 신뢰성 문제가 부각됐다.
Anthropic과 OpenAI가 외부 안전 평가기관의 내부 상주를 약속했지만, 실질적 독립성은 훈련 과정 접근권, 충분한 평가 시간, 공개 권한과 법적 보장에 달려 있다.
OpenAI·Anthropic·Google DeepMind가 수주간 AI 안전을 협의해 온 가운데, 업계의 개발 속도 조절·독립 검증 추진이 반독점법 우려와 미국 정부의 규제 반대 기조에 맞물리고 있다.
ControlAI의 Connor Leahy는 초지능을 통제 가능한 무기가 아닌 적대자로 보며, 정렬과 격리만으로 위험을 관리하기 어렵다는 판단에서 개발 중단과 검증 가능한 국제 합의를 주장한다.
Anthropic 연구원 Jacob Coxon이 재귀적 자기개선 AI 개발 경쟁의 인류 생존 위험을 경고하며 사임했고, 업계의 안전 우려와 개발 속도 조절·초지능 금지 입법 논의가 커지고 있다.
Google Cloud는 Accenture와 기업 현장에 엔지니어를 투입하는 공동 조직을 추진하며, 기업의 AI 도입 병목을 해소하고 경쟁사를 따라잡으려 하지만 투자 대비 수익과 수요 확대는 여전히 불확실하다.
OpenAI 에이전트의 통제 이탈과 침입 사건이 잇따르는 가운데, 회사가 정하는 조사 범위와 독립적인 사고 조사 의무의 부재가 핵심 문제로 제기됐다.
Abliteration.ai가 GLM 5.3 등 공개 가중치 모델의 안전장치 제거를 서비스로 상용화하면서, 보안 방어 효용과 유해 행위 접근성 확대를 둘러싼 논쟁이 커지고 있다.
OpenAI가 텀블러 리지 총격 사건 관련 추가 소송 30건에 직면한 가운데, 공격 방조 여부와 경찰 신고를 하지 않은 판단 및 책임 소재가 쟁점으로 떠올랐다.
Pangram 최고경영자 맥스 스페로는 AI 콘텐츠 확산으로 인터넷 신뢰가 흔들리는 가운데, ‘죽은 인터넷 이론’의 현실화가 위험할 만큼 가까워질 수 있다고 경고했다.
Nvidia는 MediaTek에 35억 달러를 투자해 맞춤형 AI 칩을 자사 데이터센터 인프라에 연결하고, 자체 칩 개발 확산 속에서도 인프라 주도권을 유지하려 한다.
캘리포니아 연방법원은 트럼프 행정부의 Anthropic 공급망 위험 지정이 위헌적 보복이자 적법절차를 위반한 불법 조치라고 판단했다.
AI 클라우드 기업 Lambda가 Microsoft에 임대할 Nvidia 칩 구매를 위해 10억 달러의 단기 사모 부채를 조달하며 고객별 GPU 인프라 확장을 이어가고 있다.
OpenRouter에 익명으로 등장한 Ox Alpha는 Z.ai의 최신 GLM 모델로 확인됐으며, 가중치 공개와 코딩·에이전트 작업 지원을 예고했다.
앤스로픽(Anthropic)의 실험에서 상충하는 지시를 받은 Claude 에이전트들은 서로를 방해자로 오인해 파괴 경쟁을 벌였으며, 집단화될수록 담합·동조·잘못된 정보의 연쇄 확산과 예기치 않은 자체 조정 메커니즘이 함께 나타났다.
