端侧 AI共0篇

端侧 AI 大事记

AIHOT重要进展

资料来源于AIHOT,不代表青峰联创已逐项独立核验。AIHOT专题 ↗

数据校验时间:2026-11-07 00:37:19 UTC;数据待更新,显示最近有效快照

重要进展 IMPORTANT_PROGRESS

2026-05-26 — 2026-05-26
重要进展 · 第 4 / 5 页

  1. 模型
    面壁智能开源 MiniCPM5-1B:在 AA-Index 上超越所有 2B 参数以下模型,能跑在手机、浏览器上

    AIHOT事件 ↗原始外链未提供

端侧 AI 精选历史资讯

AIHOT · 精选 · 不计入本站文章

主题归属复核已到期或尚未完成;当前展示上次核验的历史缓存,不代表最新已确认的主题归属。

— · 1 条
精选资讯 · 第 1 / 1 页

llama.cpp 服务器新增多模型管理功能

llama.cpp 服务器新增了类似 Ollama 的多模型管理功能。该功能采用多进程架构,每个模型独立运行,确保单个模型崩溃不影响其他服务。系统支持自动发现本地 GGUF 模型文件、按需加载,并默认采用 LRU 机制管理最多同时加载4个模型。用户可通过请求中的模型字段路由到特定模型,并可使用 API 进行加载、卸载和列表查看。所有加载的模型可继承路由器的统一设置,也支持通过预设文件为每个模型单独配置参数。内置 Web UI 同样支持模型切换。

Hugging Face 社区博客(混合发现)发表于 2025-12-11 23:47归档日期 2025-12-11

归档:AIHOT主题时间 · 北京时间 · 更正时间不改变归档日期