context-compression 태그 문서 418개 | 우성짱의 문서

우성짱의 문서

Tag418건YouTube 27Article 391

#context-compression

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#agent-memory공동문서 299 · 연관도 61%#prompt-library공동문서 155 · 연관도 53%#retrieval-index공동문서 169 · 연관도 51%#applications공동문서 344 · 연관도 51%#semiconductors공동문서 362 · 연관도 49%#llm공동문서 351 · 연관도 45%#agent-routing공동문서 117 · 연관도 24%#agent-deployment공동문서 81 · 연관도 21%#ai-architecture공동문서 97 · 연관도 20%#compute공동문서 37 · 연관도 18%

문서 목록

총 418건 중 337-360건

4M Models Scanned: Protect AI + Hugging Face 6 Months In

Article2025년 7월 27일·👁️ 3

4M Models Scanned: Protect AI + Hugging Face 6 Months In

Protect AI와 Hugging Face의 6개월 파트너십은 Guardian 스캔으로 447만 개 모델 버전을 검사하고 35.2만 건의 unsafe/suspicious 이슈를 찾아, 공개 모델 사용자가 보안 위험을 더 명확히 판단하도록 돕고 있다.

#service-design #llm #semiconductors #applications

TimeScope: How Long Can Your Video Large Multimodal Model Go?

Article2025년 7월 23일·👁️ 2

TimeScope: How Long Can Your Video Large Multimodal Model Go?

TimeScope는 1분부터 8시간까지의 영상에 짧은 동영상 클립을 삽입해 검색·정보 종합·세밀한 시간 지각 능력을 측정하며, 최신 비전 언어 모델의 장시간 영상 이해가 아직 제한적임을 보여주는 오픈소스 벤치마크다.

#multimodal #llm #semiconductors #vision-language-models

How Zapier Powers AI Chatbots with Web Knowledge Using Firecrawl

Article2025년 7월 21일·👁️ 3

How Zapier Powers AI Chatbots with Web Knowledge Using Firecrawl

Zapier는 Firecrawl을 Zapier Chatbots에 통합해 고객의 공개 웹사이트와 헬프센터 콘텐츠를 코드 작성 없이 챗봇 지식으로 연결한다.

#llm #semiconductors #applications #agent-deployment

Invideo AI enables anyone with an idea to produce high-quality videos

Article2025년 7월 17일·👁️ 4

Invideo AI enables anyone with an idea to produce high-quality videos

인비디오 AI는 GPT‑4.1, gpt image 1, 텍스트 음성 변환 모델을 조율해 아이디어만으로 전문 품질의 영상을 빠르게 만들고 편집하게 하는 서비스다.

#agent-routing #context-compression #prompt-library #search-advertising

Custom Kernels for All from Codex and Claude

Article2025년 7월 16일·👁️ 3

Custom Kernels for All from Codex and Claude

CUDA 커널 개발 지식을 에이전트 스킬로 구조화해 Claude와 Codex가 실제 diffusers·transformers 대상의 커널, PyTorch 바인딩, 빌드 구성, 벤치마크까지 완성하도록 한 사례다.

#ai-architecture #agent-memory #agent-routing #context-compression

Ettin Suite: SoTA Paired Encoders and Decoders

Article2025년 7월 16일·👁️ 1

Ettin Suite: SoTA Paired Encoders and Decoders

에틴은 동일한 공개 데이터 2조 토큰, 모델 구조, 학습 절차를 적용한 1,700만~10억 매개변수 규모의 인코더·디코더 쌍으로, 두 아키텍처를 공정하게 비교하면서 양쪽 모두에서 공개 데이터 기반 최고 수준의 성능을 달성한 모델군이다.

#ai-architecture #llm #semiconductors #applications

Migrating the Hub from Git LFS to Xet

Article2025년 7월 15일·👁️ 2

Migrating the Hub from Git LFS to Xet

허깅페이스는 기존 사용자의 작업 방식을 유지하는 브리지와 무중단 백그라운드 마이그레이션을 기반으로, 50만 개 저장소와 20페타바이트 규모의 허브를 깃 대용량 파일 저장소에서 젯으로 전환하고 있다.

#agent-routing #llm #semiconductors #applications

Building the Hugging Face MCP Server

Article2025년 7월 10일·👁️ 1

Building the Hugging Face MCP Server

허깅페이스는 사용자가 도구와 Gradio 애플리케이션을 맞춤 구성할 수 있는 공식 MCP 서버를 구축하면서, 변화가 빠른 MCP 전송 규격 가운데 상태 비저장·직접 응답 방식의 Streamable HTTP를 운영 환경에 선택한 이유와 실제 배포 경험을 설명한다.

#multimodal #agent-deployment #llm #semiconductors

Reachy Mini - The Open-Source Robot for Today's and Tomorrow's AI Builders

Article2025년 7월 9일·👁️ 3

Reachy Mini - The Open-Source Robot for Today's and Tomorrow's AI Builders

Reachy Mini는 Pollen Robotics와 Hugging Face가 공개한 데스크톱 크기의 오픈소스 로봇으로, 인간 로봇 상호작용과 AI 실험을 Python 기반으로 쉽게 시도하도록 설계된 제품입니다.

#privacy-design #multimodal #llm #semiconductors

Upskill your LLMs With Gradio MCP Servers

Article2025년 7월 9일·👁️ 1

Upskill your LLMs With Gradio MCP Servers

Gradio의 MCP 지원을 활용하면 Hugging Face Spaces의 다양한 AI 도구를 Cursor 같은 LLM 클라이언트에 연결해 이미지 편집, 영상 전사, OCR, 음성 합성 등의 새로운 기능을 부여할 수 있습니다.

#capex-cycle #llm #semiconductors #applications

Migrating data from Postgres to Convex

Article2025년 7월 8일·👁️ 2

Migrating data from Postgres to Convex

Postgres 데이터를 Convex로 이전하는 방법은 소규모 데이터의 JSONL 덤프·가져오기에서 시작해, 스키마 정의와 관계 필드의 Convex ID 전환, 필요 시 Airbyte 기반 스트리밍 가져오기까지 이어진다.

stack.convex.dev

#agent-routing #llm #semiconductors #applications

Training and Finetuning Reranker Models with Sentence Transformers

Article2025년 7월 5일·👁️ 3

Training and Finetuning Reranker Models with Sentence Transformers

이 글은 Sentence Transformers로 reranker 또는 Cross Encoder 모델을 도메인 데이터에 맞게 학습·파인튜닝하는 구성요소, 데이터 형식, hard negative mining의 중요성을 설명하고, 저자가 학습한 ModernBERT 기반 reranker가 자신의 평가 데이터에서 기존 공개 모델들을 앞섰다고 소개한다.

#multimodal #capex-cycle #llm #vision-language-models

Exploring Quantization Backends in Diffusers

Article2025년 6월 27일·👁️ 4

Exploring Quantization Backends in Diffusers

Diffusers는 Flux의 핵심 구성 요소를 여러 백엔드로 양자화해 이미지 품질을 크게 훼손하지 않으면서 메모리 사용량을 줄일 수 있으며, 정밀도와 백엔드에 따라 속도·메모리·사용 편의성의 차이가 뚜렷하다.

#ai-architecture #multimodal #agent-memory #context-compression

Introducing Three New Serverless Inference Providers: Hyperbolic, Nebius AI Studio, and Novita 🔥

Article2025년 6월 27일·👁️ 3

Introducing Three New Serverless Inference Providers: Hyperbolic, Nebius AI Studio, and Novita 🔥

Hugging Face Hub가 Hyperbolic, Nebius AI Studio, Novita를 새 서버리스 추론 제공자로 추가해 모델 페이지와 JS·Python SDK에서 여러 모델을 더 쉽게 선택해 사용할 수 있게 했다.

#capex-cycle #llm #semiconductors #applications

Transformers backend integration in SGLang

Article2025년 6월 23일·👁️ 3

Transformers backend integration in SGLang

SGLang은 트랜스포머스 호환 모델을 자동 대체 백엔드로 실행해 폭넓은 모델 접근성과 고성능 추론·배포 기능을 결합합니다.

#multimodal #agent-memory #context-compression #retrieval-index

Efficient Request Queueing – Optimizing LLM Performance

Article2025년 6월 17일·👁️ 2

Efficient Request Queueing – Optimizing LLM Performance

다중 사용자 환경의 대규모 언어 모델 서빙에서는 사용자별 공정 스케줄링과 백엔드 지표 기반의 동적 요청 제어를 결합해야 지연 시간을 줄이면서 그래픽 처리 장치 활용률을 유지할 수 있다.

#context-compression #prompt-library #api-vllm-api #llm

Groq on Hugging Face Inference Providers 🔥

Article2025년 6월 16일·👁️ 1

Groq on Hugging Face Inference Providers 🔥

허깅페이스 허브의 추론 제공업체에 Groq가 추가되어, 사용자는 모델 페이지와 Python·JavaScript SDK에서 공개 대규모 언어 모델을 빠르게 호출하고 인증 및 결제 방식도 선택할 수 있게 됐다.

#llm #semiconductors #applications #agent-deployment

Featherless AI on Hugging Face Inference Providers 🔥

Article2025년 6월 12일·👁️ 3

Featherless AI on Hugging Face Inference Providers 🔥

허깅페이스 허브의 Inference Providers에 Featherless AI가 추가되어, 다양한 텍스트·대화형 오픈소스 모델을 서버리스 방식으로 선택해 사용할 수 있게 되었다.

#ai-infrastructure #capex-cycle #llm #semiconductors

AI metrics — Benedict Evans

Article2025년 6월 9일·👁️ 3

AI metrics — Benedict Evans

생성형 AI는 빠르게 커지고 있지만, 지금 쓰이는 사용자 수·토큰 수·성장 비교 지표만으로는 실제 제품 가치와 사용 방식, 시장 변화를 제대로 설명하기 어렵다는 글입니다.

#inflation-risk #llm #semiconductors #applications

Scaling security with responsible disclosure

Article2025년 6월 9일·👁️ 3

Scaling security with responsible disclosure

OpenAI는 제3자 소프트웨어 취약점을 협력적이고 책임 있게 알리기 위한 Outbound Coordinated Disclosure Policy를 발표했다.

#ai-safety #llm #semiconductors #applications

How Answer HQ Powers AI Customer Support for Businesses with Firecrawl

Article2025년 6월 5일·👁️ 1

How Answer HQ Powers AI Customer Support for Businesses with Firecrawl

Answer HQ는 소규모 기업의 기존 웹사이트 콘텐츠를 AI 고객지원 도우미에 연결하기 위해 Firecrawl을 웹사이트 가져오기 기능의 핵심 인프라로 사용한다.

#agent-routing #workflow-automation #llm #semiconductors

AI Agents (and humans) do better with good abstractions

Article2025년 6월 3일·👁️ 6

AI Agents (and humans) do better with good abstractions

Convex의 사례는 좋은 추상화가 개발자뿐 아니라 AI 에이전트도 복잡한 풀스택 앱을 더 안정적으로 만들게 한다는 점을 보여준다.

stack.convex.dev

#service-design #ai-architecture #agent-routing #context-compression

(LoRA) Fine-Tuning FLUX.1-dev on Consumer Hardware

Article2025년 6월 1일·👁️ 2

(LoRA) Fine-Tuning FLUX.1-dev on Consumer Hardware

FLUX.1 dev의 트랜스포머를 4비트로 양자화하고 LoRA, 8비트 옵티마이저, 체크포인팅, 잠재 표현·텍스트 임베딩 캐시를 결합해 단일 GPU에서 약 10GB 미만의 VRAM으로 미세 조정하는 방법을 설명한다.

#ai-architecture #agent-memory #capex-cycle #context-compression

Creating websites in minutes with AI Website Builder

Article2025년 5월 29일·👁️ 2

Creating websites in minutes with AI Website Builder

Wix는 OpenAI 모델과 자사의 웹사이트 제작 경험을 결합해, 사용자가 대화만으로 콘텐츠·이미지·레이아웃·업무 기능을 갖춘 웹사이트를 몇 분 안에 만들 수 있도록 했다.

#openai #privacy-design #context-compression #prompt-library