nvidia 태그 문서 836개 | 우성짱의 문서

Tag836건YouTube 514Article 322

#nvidia

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#ai-infrastructure공동문서 272 · 연관도 37%#capex-cycle공동문서 148 · 연관도 30%#jensen-huang공동문서 65 · 연관도 26%#gpu공동문서 57 · 연관도 22%#applications공동문서 168 · 연관도 17%#semiconductors공동문서 196 · 연관도 17%#sk-hynix공동문서 95 · 연관도 16%#llm공동문서 183 · 연관도 16%#samsung-electronics공동문서 89 · 연관도 15%#ai-semiconductors공동문서 29 · 연관도 15%

문서 목록

총 836건 중 817-836건

$Fixing Open LLM Leaderboard with Math-Verify$

Article2025년 2월 14일

Fixing Open LLM Leaderboard with Math-Verify

Math Verify로 수학 답안의 추출·해석·동치 비교 오류를 바로잡아 Open LLM Leaderboard의 3,751개 모델을 재평가한 결과, 점수와 순위가 대폭 달라졌다.

huggingface.co

#nvidia #ai-infrastructure #capex-cycle #llm

Article2025년 1월 28일

Welcome to Inference Providers on the Hub 🔥

허깅페이스는 팔, 리플리케이트, 삼바노바, 투게더 에이아이의 서버리스 추론을 허브 모델 페이지와 파이썬·자바스크립트 SDK, HTTP 라우터에 통합하고, 자체 제공자 키와 허깅페이스 경유 방식 중 하나를 선택할 수 있게 했다.

huggingface.co

#privacy-design #service-design #agent-routing #ai-safety

Article2025년 1월 16일

Introducing multi-backends (TRT-LLM, vLLM) support for Text Generation Inference

Hugging Face는 TGI를 단일 프런트엔드로 유지하면서 TensorRT LLM, vLLM, llama.cpp 등 다양한 추론 엔진을 백엔드로 연결할 수 있는 멀티 백엔드 아키텍처를 소개했다.

huggingface.co

#nvidia #ai-architecture #agent-deployment #ai-infrastructure

Article2025년 1월 12일

Vision Language Models (Better, faster, stronger)

지난 1년간 비전 언어 모델은 다중 모달 입출력, 추론, 소형화, 전문가 혼합 구조, 로봇 행동 제어와 전통적 시각 작업의 통합을 중심으로 더 강력하고 효율적인 형태로 발전했다.

huggingface.co

#privacy-design #ai-architecture #multimodal #agent-deployment

Article2024년 12월 23일

Controlling Language Model Generation with NVIDIA's LogitsProcessorZoo

이 글은 언어 모델의 다음 토큰 선택 과정에서 로짓을 직접 조정해 길이, 문맥 유지, 필수 문구, 선택형 답변 같은 생성 제약을 제어하는 방법을 NVIDIA의 LogitsProcessorZoo와 Hugging Face 생성 API 예시로 설명한다.

huggingface.co

#nvidia #privacy-design #agent-routing #capex-cycle

Article2024년 12월 21일

Mastering Long Contexts in LLMs with KVPress

KVPress는 긴 문맥에서 선형으로 증가하는 키·값 캐시를 중요도 기반으로 압축해 메모리 사용량을 줄이고 생성 속도를 높이는 모듈형 도구다.

huggingface.co

#ai-architecture #multimodal #agent-memory #context-compression

Article2024년 12월 13일

Elon Musk wanted an OpenAI for-profit

오픈AI는 일론 머스크가 영리 구조 자체에 반대했던 것이 아니라 2017년 영리 전환을 추진하면서 지분 과반, 절대적 통제권, 최고경영자 지위를 요구했고, 그 조건이 받아들여지지 않자 회사를 떠났다고 주장한다.

openai.com

#openai #privacy-design #ai-architecture #agent-routing

Article2024년 12월 5일

Fast LoRA inference for Flux with Diffusers and PEFT

Diffusers와 PEFT의 LoRA 핫스와핑, torch.compile, FP8 양자화, Flash Attention 3를 조합해 Flux.1 Dev의 재컴파일 문제를 피하고 고성능 GPU에서 약 2.23배, RTX 4090에서 약 2.04배 빠른 LoRA 추론을 구현한 최적화 방법을 설명한다.

huggingface.co

#ai-architecture #agent-memory #agent-routing #context-compression

Article2024년 12월 5일

OpenAI o1 System Card

OpenAI o1 계열은 강화학습 기반의 숙고형 추론으로 안전 정책 준수와 탈옥 공격 저항성을 높였지만, 향상된 지능이 새로운 위험을 만들 수 있어 지속적인 정렬·스트레스 테스트·위험 관리가 필요하다.

openai.com

#openai #privacy-design #service-design #multimodal

Article2024년 12월 2일

Open Source Developers Guide to the EU AI Act

EU AI Act는 오픈소스 AI에도 적용될 수 있으며, 개발자는 시스템·모델의 위험 수준과 공개 방식에 따라 투명성, 학습 데이터 요약, 저작권 및 개인정보 보호 의무를 준비해야 한다.

huggingface.co

#privacy-design #llm #semiconductors #applications

Article2024년 10월 16일

NVIDIA's GTC 2025 Announcement for Physical AI Developers: New Open Models and Datasets

엔비디아는 GTC 2025에서 물리 AI 개발을 가속하기 위해 Cosmos Transfer, Physical AI Dataset, Isaac GR00T N1을 공개했다.

huggingface.co

#nvidia #cosmos-transfer #hugging-face #robot-posttraining

Article2024년 9월 25일

Bamba: Inference-Efficient Hybrid Mamba2 Model

Bamba 9B는 KV cache 병목을 줄이기 위해 Mamba2와 트랜스포머를 결합한 9B급 하이브리드 모델로, 공개 데이터로 학습되고 주요 오픈소스 추론·학습 생태계에서 바로 실험할 수 있도록 공개된 모델이다.

huggingface.co

#model-scaling #ai-architecture #agent-memory #context-compression

Article2024년 9월 25일

Mini-R1: Reproduce Deepseek R1 „aha moment“ a RL tutorial

3B 규모의 큐원 모델을 카운트다운 산술 과제와 그룹 상대 정책 최적화로 훈련해, 별도의 인간 피드백 없이 풀이를 검토하고 탐색하는 딥시크 R1의 작은 ‘아하 순간’을 재현한 강화학습 실험이다.

huggingface.co

#nvidia #service-design #agent-memory #capex-cycle

Article2024년 9월 25일

Welcome the NVIDIA Llama Nemotron Nano VLM to Hugging Face Hub

엔비디아 라마 네모트론 나노 VL은 복잡한 문서의 문자·표·차트·수식·배치를 정밀하게 인식하고 위치 정보까지 제공하도록 설계된 80억 매개변수급 시각언어모델이다.

huggingface.co

#nvidia #ai-architecture #multimodal #agent-routing

Article2024년 9월 9일

Introducing HUGS - Scale your AI with Open Models

HUGS는 Hugging Face가 공개 모델을 자체 인프라에서 빠르게 배포·확장하도록 제안한 무설정 최적화 추론 마이크로서비스였으며, 2025년 9월 기준 해당 모델 배포 컨테이너 제공은 중단되었다.

huggingface.co

#service-design #agent-deployment #ai-safety #llm

Article2024년 8월 16일

Remote VAEs for decoding with Inference Endpoints 🤗

고해상도 이미지·영상 생성에서 큰 메모리를 차지하는 가변 오토인코더 디코딩을 원격 추론 엔드포인트에 맡겨 소비자용 그래픽 처리 장치의 부담을 줄이고 생성과 디코딩을 병렬화하는 실험적 기능을 소개한다.

huggingface.co

#agent-memory #agent-routing #capex-cycle #retrieval-index

Article2024년 8월 9일

Train 400x faster Static Embedding Models with Sentence Transformers

이 글은 Sentence Transformers로 정적 임베딩 모델을 현대식 대조학습과 Matryoshka Representation Learning으로 학습해 CPU 추론 속도를 기존 주요 임베딩 모델보다 100~400배 높이면서도 여러 벤치마크에서 성능의 상당 부분을 유지하는 방법을 소개한다.

huggingface.co

#luxury-hospitality #luxury-travel #ai-architecture #multimodal