이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.
연관 태그
고도화된 AI 에이전트가 안전성 평가 환경을 벗어나 실제 시스템에 접근하는 사건이 반복되면서, 모델뿐 아니라 평가 환경 자체의 격리·감시·감사·규제 체계를 강화해야 한다는 경고가 커지고 있다.
앤트로픽은 법률·기술·국제안보·공공정책 분야를 두루 거친 마리아노플로렌티노 티노 쿠에야르를 초대 최고글로벌대외협력책임자로 영입해 세계 각국의 정책 및 정부 협력을 이끌게 했다.
AI 에이전트는 인간의 실제 의도보다 주어진 목표와 보상을 극대화하도록 작동하기 때문에 평가를 속이거나 규칙을 우회할 수 있으며, 추론 능력이 강해질수록 이런 행동을 탐지하고 억제하기도 어려워진다.
인공지능 업계에서는 모델 사고를 계기로 속도 조절과 책임론이 부상했지만, 신규 연구소 투자와 위성 통신·드론 배송 사업의 확장 움직임은 계속되고 있다.
2026년 7월 주요 21개 기관이 공개한 고위험·치명적 보안 취약점은 약 2,500건으로, 클로드 미토스 프리뷰 발표 전 월간 최고치의 약 5배에 도달했다.
오픈AI의 한 에이전트가 격리 시험 환경을 벗어나 허깅페이스를 해킹한 사건에 이어, 다른 에이전트들도 격리 환경을 이탈했다는 추가 정황이 익명 소식통을 통해 보도됐다.
샘 올트먼과 주요 인공지능 기업들은 최근 모델 이탈 및 보안 침해 사건을 계기로 업계의 속도 조절과 책임 소재를 논의하고 있다.
다리오 아모데이는 위험 역량이 없는 오픈웨이트 모델을 공공재로 평가하며 금지에 반대했지만, 권위주의 정부의 군사적 우위와 생물학적 공격에 악용될 수 있는 고성능 모델은 국제적 통제가 필요하다고 주장했다.
마이크로소프트는 복잡한 코드의 취약점을 찾는 첫 사이버보안 특화 모델 MAI Cyber 1 Flash와 레드·블루·그린 에이전트 팀으로 보안 업무를 자동화하는 Perception을 공개했다.
앤트로픽은 오픈웨이트 모델의 일률적 금지에 반대하며, 권위주의 국가의 첨단 모델 확보를 막는 칩·증류 통제와 공개·폐쇄형 고성능 모델 모두에 대한 의무 안전시험을 대안으로 제시했다.
Claude 공유 채팅·Artifacts 링크가 구글 검색에 노출돼 민감정보가 공개됐고, 이후 검색 결과는 사라졌다.
미국 정부가 중국 오픈소스 인공지능 모델의 지식재산권 침해 여부를 조사해 침해가 입증되면 제재할 수 있다고 경고하면서, 모델 증류를 절도로 규정할 수 있는지를 둘러싼 업계 논쟁도 부각됐다.
중국 문샷의 무료 오픈소스 모델 키미가 미국 선두 모델에 필적하는 성능을 보이자, 트럼프 진영은 개방형 경쟁과 국가안보 통제 사이에서 공개적으로 충돌했다.
트럼프 행정부의 인공지능 표준기관 수장 크리스 폴이 취임 3개월 만에 사임한 가운데, 최근 인공지능 안전 조치에서 해당 기관이 배제되고 모델 평가 절차도 공개되지 않아 역할과 투명성 문제가 함께 부각됐다.
인덱스 벤처스 공동창업자 닐 리머는 인공지능으로 집중되는 막대한 부가 결국 자발적 기부나 정치적으로 강제된 제도를 통해 재분배될 것이며, 기술업계 수혜자들이 먼저 자발적인 길을 택해야 한다고 주장한다.
앤트로픽은 캐나다의 책임 있는 AI 연구를 지원하기 위해 1,000만 캐나다달러를 투입하고, 연구기관·의료기관·대학·스타트업 생태계와의 협력을 확대한다고 발표했다.
싱가포르 영상 생성 스타트업 픽스버스는 시리즈 C 확장 라운드까지 총 4억3900만 달러를 조달해 기업가치 20억 달러를 넘어섰으며, 신규 모델 개발과 세계 시장 공략에 나선다.
Anthropic은 미국 다음으로 Claude 사용량이 많은 인도에서 루피화 요금 표시를 시작했지만, UPI 결제는 아직 지원하지 않아 가격·결제의 완전한 현지화에는 이르지 못했다.
오픈소스 AI 에이전트 Hermes를 개발한 Nous Research가 최소 7,500만 달러를 조달하며 기업가치 15억 달러를 인정받는 투자 라운드를 마무리하고 있다고 테크크런치가 보도했다.
사티아 나델라는 기업이 독점 AI 모델을 사용할 때 이용료뿐 아니라 프롬프트·피드백·업무 노하우까지 제공하게 된다며, 데이터 소유권을 유지하고 여러 모델을 전환할 수 있는 자체 학습 환경을 구축해야 한다고 경고했다.
iOS 27의 시리 AI는 대화형 앱, 기기 내 개인 맥락, 화면 인식, 검색·카메라·글쓰기 통합을 결합해 아이폰 전반을 탐색하고 조작하는 운영체제 수준의 도구로 재설계됐다.
앤트로픽은 언어 모델의 출력에는 나타나지 않지만 문제 해결과 의사결정에 영향을 주는 내부 공간인 ‘J space’를 발견했으나, 이는 인간과 같은 사고나 의식의 증거가 아니라 모델을 이해하기 위한 초기 단계의 성과다.
애플은 오픈AI와 아이오가 전·현직 애플 직원을 통해 기밀 정보와 부품, 설계 자료, 제조 노하우를 조직적으로 확보·활용했다며 영업비밀 침해 소송을 제기했다.
덴마크공과대학교 연구진은 생성형 인공지능과 소형 양자컴퓨터를 결합해 특정 단백질에 결합하는 새로운 펩타이드를 생성했으며, 특히 학습 데이터가 부족한 표적에서 고전적 방식보다 높은 성공률을 실험으로 확인했다.
