TAG:本地AI
苹果 Mac 16GB 内存版本本地运行谷歌 Gemma 4 旗舰模型
谷歌 AI Edge Gallery 正式登陆苹果 macOS 系统,允许 Mac 用户无需联网即可本地运行 Gemma 系列 AI 模型。离线运行不仅大幅提升响应速度,还确保数据隐私绝对安全。重点模型 Gemma-4-12B-it 仅需 16GB 内存,便能流畅处理文本、视觉和音频等多模态任务,并具备代码编写能力。同时推出的 Google AI Edge Eloquent 应用提供离线语音转写,支持自定义词汇库,所有处理均在设备本地完成,为用户带来高效、私密的智能体验。
苹果iOS 27将与谷歌Gemini合作训练本地AI Siri部分请求转向谷歌云
苹果在iOS 27中与谷歌展开深度合作,利用Gemini大模型通过知识蒸馏技术训练本地AI,提升设备端性能并坚守隐私优先原则。同时,Siri部分请求将转向谷歌云处理,采用英伟达机密计算技术加密数据,确保用户隐私安全。这一策略旨在平衡AI能力与用户体验,为用户带来更快、更安全的智能服务。
Photoshop 27.7 更新:移除工具支持本地 AI,生成式积分福利翻倍
Adobe Photoshop 27.7版本带来重大更新,核心亮点是移除工具支持本地AI处理,增强隐私保护并减少网络依赖。同时,生成式积分福利翻倍至每月100个,集成Firefly灵感板优化创意工作流。还包括多项效率改进和性能提升,为创意专业人士提供更安全、高效的创作体验。
Osaurus开源工具兼顾云端与本地,让Mac电脑成为全能AI服务器
Osaurus是一款开源AI服务器工具,专为苹果Mac电脑设计,让用户能在本地和云端AI模型之间自由切换。它通过硬件隔离的沙盒技术保障数据安全,避免隐私泄露和高昂的云端费用。该工具支持OpenAI和Anthropic等多种模型,用户可根据需求一键切换,尽管本地运行需要高内存配置,但有望帮助企业减少对云端依赖,缓解AI数据中心能源危机。目前下载量已超11万次,展示了其在隐私保护和成本节约方面的价值。
苹果本地 AI oMLX 0.3.9 更新集成 Gemma 4 视觉加速与一键 Copilot 缩小与云端大模型差距
oMLX 0.3.9版本发布,为苹果本地AI带来重大升级。新版本集成Gemma 4视觉路径,显著提升图文多模态处理速度;新增一键Copilot功能,方便接入Claude等顶级AI工具;优化资源管理,解决显存限制问题。这些改进使苹果端侧AI在速度、易用性和稳定性上大幅进步,拉近与云端大模型的差距,推动AI向个人设备转移。
M4 MacBook Pro 性能实测:24GB 内存应对本地 AI 挑战
本文报道了开发者在24GB内存的M4 MacBook Pro上实测本地AI性能的实践。通过优化Qwen 3.5-9B模型,实现了每秒40 tokens的生成速度,并探讨了模型选型、调优细节及本地与云端模型的对比。文章强调了本地部署在数据隐私和计算自主权方面的优势,为离线AI开发提供了可行方案。
小型推理引擎DeepSeek V4 Flash 发布
DeepSeek V4 Flash 是一款专为 Metal 平台设计的小型推理引擎,颠覆传统本地推理体验。它通过精简参数和独特思考模式,实现高效快速推理,处理复杂问题时间最短可达其他模型的五分之一。支持高达一百万个令牌的上下文窗口,硬件兼容性强,可在 MacBook 上运行,并提供完整解决方案包括 HTTP API 和 GGUF 模型。尽管处于 Alpha 阶段,但其优化性能和应用前景令人期待。
Perplexity发布Mac版个人电脑应用,深度整合本地文件与跨端协作
Perplexity于2026年5月7日推出Mac端应用'Personal Computer',这是一个本地AI智能体,深度整合本地文件和跨端协作。该应用打破AI与本地系统壁垒,通过获取文件和应用权限,支持复杂工作流和设备间远程协同。强调安全性,标志着AI从云端搜索向本地生产力中心化转型,预示端侧自主代理成为新趋势。
AI时代来临,Perplexity CEO称iPhone重要性将进一步增强
本文收录了Perplexity CEO在播客节目中分享的AI行业观点,解读AI发展下iPhone价值不降反升的核心逻辑,解析个人数据价值、苹果隐私保护优势、Apple Silicon对本地AI运算的支撑作用,为理解AI时代消费电子的发展方向提供参考。
Speechify发布Windows原生应用 挑战系统听写算力本地化
Speechify 推出原生 Windows 应用,通过本地 AI 模型实现实时听写与文档转录,支持完全本地化运行,保障隐私与响应速度。应用集成了文本转语音、语音活动检测和 Whisper 模型,提供流畅的交互体验。同时,OpenAI 完成巨额融资,估值达8520亿美元,加速 AI 硬件生态发展。
Mac用户福音:Ollama整合苹果MLX框架 推理提速一倍 M5芯片性能飙升
Ollama 正式集成苹果 MLX 框架,大幅提升 Mac 上本地大模型推理性能,M5 芯片机型响应速度最高翻倍,长对话体验流畅,开启本地 AI 助手的毫秒级时代。开发者迎来软硬协同新红利。
断网也能用!末日生存工具箱N.O.M.A.D.发布:内置离线百科和AI大模型
N.O.M.A.D. 末日生存工具箱正式发布,一个可在断网环境下运行的开源离线系统,内置维基百科、医学资料、教育资源及本地AI大模型,支持离线搜索与智能问答。无论深山远洋,它都能成为你手中永不关机的人类文明备份。
腾讯 QClaw 开启大规模内测:深度集成微信,打造“零配置”本地智能体
腾讯AI推出本地AI助手QClaw,深度集成微信功能,支持远程指挥、文件传输和多模态交互。该工具强调本地运行与极简部署,提供安全高效的自动化办公体验,现已开放内测。
5万只阶跃龙虾售罄 阶跃星辰紧急补货
阶跃星辰旗下AI智能体‘阶跃龙虾’上线即遭抢购,5万个免费名额瞬间售罄。官方紧急追加2万免费领养名额,提供5000万Token资源与全包云服务,支持一键部署,零成本体验高性能本地AI助手。
AMD推出RyzenClaw与RadeonClaw方案 让AI本地运行
AMD 发布 OpenClaw 开源框架及 RyzenClaw 与 RadeonClaw 硬件方案,推动本地 PC 运行大型语言模型和多智能体工作流,提升隐私安全并减少云端依赖。方案支持 WSL2 和 llama.cpp 后端,提供不同算力路径,为开发者打造自主可控的 AI 智能体平台。