TAG:本地大模型
Qwen 3.6 27B评测显示本地模型性能已达前沿水准,媲美GPT-5
本文评测了Qwen3.6 27B本地大模型的性能表现,显示其在智力水平上已接近或对标GPT-5、Claude Sonnet 4.5等顶级付费模型。在MacBook上实测达到稳定32tok/s速度,并能在复杂任务中高质量完成,如写诗和生成游戏。文章强调本地模型在成本、隐私和掌控感方面的优势,标志着消费级硬件运行的开源模型已迎来重要拐点,值得开发者和创作者关注。
微软推出 Windows AI PC 新功能,将个人电脑打造为 Agent 工作站
微软通过自研模型MAI系列和本地计算平台Surface RTX Spark Dev Box,重塑AI生态布局。在脱离OpenAI主导权后,微软全面展示从模型训练、企业治理到开发者工具的端到端生态,试图将AI从模型竞争转向平台主导。MAI系列新模型覆盖推理、代码、图像、语音领域,Windows系统将转变为本地AI计算中心,为企业和开发者提供一站式智能开发平台。
浏览器本地运行 Gemma 4:告别 Token 焦虑,手绘流程图功能实现免费使用
本文介绍了利用 Google 的 TurboQuant 算法在浏览器端本地运行 Gemma 大模型的新突破。该技术通过深度优化 KV Cache,实现了极高的压缩比与检索效率。用户无需支付 Token 费用或配置 API,即可在 Chrome 浏览器中快速生成专业流程图。这种低门槛、高隐私的本地化 AI 方案,为轻量级创作工具提供了全新的实现范本。
DeepSeek、豆包全支持!这款“网页总结神器”登陆 Edge 商店:本地大模型也能一键白嫖?
AI 页面总结器浏览器扩展登陆 Edge 商店,支持 DeepSeek、豆包等主流在线模型,并兼容本地大模型,实现一键网页摘要生成。具备多轮追问、长文本截断和 Markdown 渲染功能,适合开发者和极客用户,助你高效应对信息爆炸时代。
FlowyAIPC 获端侧AI创新挑战赛硬核技术奖 助力本地AI应用落地
FlowyAIPC在2025年端侧AI创新挑战赛中荣获硬核技术奖,其产品支持在个人电脑本地一键部署大模型,实现不依赖云端的推理与应用。该奖项表彰了其在本地模型部署、异构算力利用及真实办公场景中的成熟实践与工程能力。未来,产品将通过微软MCP协议等进一步实现AI与系统的深度集成,推动本地AI应用从概念走向长期价值。
雷蛇CES 2026发布Forge AI工作站+外接AI加速器!推开源AIKit工具,赋能本地大模型开发
雷蛇在CES 2026上发布Forge AI工作站、外接AI加速器及开源AIKit工具,旨在为开发者提供高性能本地大模型开发解决方案。工作站支持多GPU和高速网络,加速器通过雷电接口提升笔记本算力,软件工具包简化模型优化流程,助力AI开发从云端转向本地。
隐私无忧!离线AI笔记助手WitNote问世
WitNote是一款完全离线的AI笔记助手,支持Windows和macOS平台,让用户能在本地使用大语言模型进行文本润色、总结和续写等操作,所有数据均保留在本机,无需担心隐私泄露或支付月费。它支持Markdown编辑,并能一键导入Obsidian的.md文件,提供快速、安全的离线笔记体验。
引擎的叛逆:Llama.cpp史诗级更新,本地AI迎来“Ollama时刻”
llama.cpp迎来史诗级更新,实现多模态输入、并行交互和JSON结构化输出三大突破。用户可直接处理图片、音频和PDF文件,通过现代化Web界面进行多任务并行处理,并自定义JSON模板实现自动化输出。所有操作100%本地运行,保障数据隐私,为普通用户和开发者提供高效安全的本地AI解决方案。