快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：乃河
近日,北京祖名豆制品有限公司正式成立,法定代表人为李国平,注册资本1088万元人民币。该公司由祖名豆制品股份有限公司全资持股,经营范围涵盖食品生产、食品销售及食用农产品批发等领域。此次投...
2025年6月26日,大连重工发布业绩预告,预计上半年归母净利润为3.05亿元至3.26亿元,同比增长11.12%至18.92%。公司表示,净利润增长主要得益于营业收入较去年同期增长约6%,其中物料搬运设备毛利增...
6月26日,博雅生物(300294)发布公告称,公司下属单采血浆站'达拉特旗博雅单采血浆有限公司'正式取得达拉特旗市场监督管理局颁发的《营业执照》。此举标志着该浆站具备了合法开展单采血浆业务的...
2025年6月24日及25日,隆基绿能控股股东李振国解除2200万股股份质押,占其持股的20.61%,公司总股本的2.90%。解除后,李振国仍质押2350万股,占其持股的22.02%,公司总股本的3.10%。免责声明: 本文...
天眼查App显示,近日,天津中金金信股权投资合伙企业(有限合伙)成立,执行事务合伙人为中金资本运营有限公司,出资额5.5亿人民币,经营范围为以自有资金从事投资活动。合伙人信息显示,该合伙企业由...
近年来,新能源二手车市场持续活跃,渗透率不断提升,显示出巨大发展潜力。随着新能源汽车保有量增长和消费品以旧换新政策带动,大量二手新能源汽车进入市场,给消费者提供更多选择。今年1月至4月,...
北京时间6月26日16: 30,在岸人民币兑美元官方收报7.1684,较上一交易日上涨29个基点。免责声明: 本文内容由开放的智能模型自动生成,仅供参考。
2025年6月26日,武汉举行的"2025金长江私募基金发展论坛"上,东方港湾董事长但斌表示,技术进步是推动资本市场发展的主因。他认为,当前若进入人工智能时代,其持续时间将超过以往的电子、互联网及...
2025年6月,北京银河通用机器人有限公司宣布完成11亿元新一轮融资,由宁德时代和溥泉资本联合领投,刷新中国人形机器人赛道单笔融资纪录。银河通用成立于2023年5月,专注双足人形机器人研发,已推...
2025年新能源汽车下乡活动启动,各地积极打通"堵点",激发农村消费新活力。在江苏如皋的4S店,周边乡镇村民纷纷前来了解新能源汽车。此次下乡车型更贴近乡村消费者需求,如超大货箱车型降低运输成...
国家能源局近日发布的1-5月全国电力工业统计数据显示,我国电力行业呈现"两增一降"的新态势。其中,光伏发电装机实现历史性突破,累计新增并网规模近2亿千瓦,同比增长57%,推动累计装机规模突破10...
近日,朱女士实名指控被都美竹诱骗将近二十万,并于6月24日报案。天眼查App显示,都美竹关联近百条开庭公告信息,原告均为都美竹,案由多为肖像权纠纷、网络侵权责任纠纷、人格权纠纷等,相关被告包...
2025年6月26日,鲁阳节能在互动平台表示,公司目前的隔热材料尚未应用于航天领域。该材料主要面向其他工业领域,具体应用仍在持续拓展中。免责声明: 本文内容由开放的智能模型自动生成,仅供参考。
近日,钧崴电子在互动平台透露,其CSR产品已可应用于ADAS显卡GPU的功率检测。该技术方案有助于提升汽车辅助驾驶系统的能效监控能力,为高性能计算场景提供可靠支持。免责声明: 本文内容由开放的...
6月25日,中国国家航天局与常驻维也纳代表团在联合国总部举办"中国探月工程20年"成就展,首次公开展示嫦娥五号、嫦娥六号任务采集的月球正面和背面样品。2020年12月,嫦娥五号带回的月壤部分已入...
6月26日,思科瑞(688053.SH)宣布拟以现金方式向北京长鹰恒容电磁科技有限公司增资5210万元。增资完成后,思科瑞将持有长鹰恒容51.028%的股权。长鹰恒容深耕电磁兼容领域,与思科瑞在高可靠性电子...
扫一扫关注微信
