之前给大家介绍《不需要高端显卡！开源 AI 大语言模型「MLC LLM」》，此开源模型的开发者来自卡内基梅隆大学的 Catalyst 计划、SAMPL 机器学习研究小组以及华盛顿大学、上海交通大学和 OctoML 等。他们还有一个名为 Web LLM 的相关项目，该项目可以完全在网络浏览器中运行 AI 聊天机器人。目前独立的MLC Chat App 已经上架苹果 App Store。
MLC Chat 的 App Store 页面：点此查看
据 MLC LLM 项目介绍称：“MLC LLM 是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上，此外还有一个高效的框架，供每个人进一步优化自己用例的模型性能。一切都在本地运行，无需服务器支持，并通过手机和笔记本电脑上的本地 GPU 加速”。
具体介绍可以参考：不需要高端显卡！开源 AI 大语言模型「MLC LLM」，无需联网且老电脑、iPhone都能无压力运行
结语
此APP需要iOS 16.0 或更高版本才可以运行，近1.6 GB大小，从已经下载的用户测试来看，对于中文支持极差，建议大家使用英语进行提问。