近年来，本地运行大语言模型（LLM）的趋势日益增长，越南开发者Binh Pham近期通过创新实验，成功在树莓派Zero上实现了这一目标。Pham将这款设备改造为小型USB驱动器，使其能够离线运行LLM，无需额外设备支持。这一项目依赖于llama.cpp和llamafile的轻量级软件包，旨在提供离线聊天机器人体验。
然而，树莓派Zero的硬件性能有限，尤其是其ARMv6架构和仅512MB的内存，给移植llama.cpp带来了巨大挑战。Pham通过修改源代码，移除了基于现代硬件的优化，最终成功运行了LLM。他构建了一个基于文本文件输入的LLM实现，并测试了多个模型的性能。结果显示，尽管设备能够运行LLM，但处理速度较慢，例如Lamini-T5-Flan-77M模型的每个token处理时间达2.5秒。
这一实验虽然具有创新性，但在实际应用中，使用老旧轻量级硬件运行LLM仍存在明显局限性。未来，采用性能更强的设备或许是更优选择。
北京时间8月10日,四名宇航员在国际空间站停留近五个月后,搭乘美国太空探索技术公司的"龙"飞船返回地球,并在美国加利福尼亚海岸附近的太平洋成功着陆。此次返回的宇航员包括美国的安妮·麦克莱...
当地时间8月9日,俄罗斯索契机场因不明原因暂停所有航班起降。该决定由俄罗斯联邦航空运输署发布,旨在确保航空安全。目前,相关航班已陆续改降其他机场,旅客被安排临时住宿。具体恢复时间尚未公...
广汽丰田新款威兰达现身工信部第398批《道路机动车辆生产企业及产品公告》,申报了7个版本,涵盖2.0L汽油、2.0L混动及2.5L混动三种动力系统。新车采用更贴近新能源风格的半封闭格栅设计,车身尺...
2025年8月9日,加利福尼亚州教师退休基金(Calstrs)公布的最近一个财年回报率为8.5%,高于原定7%的目标。然而,这是其连续第二年表现落后于加州公务员退休基金(Calpers),后者同期回报率达11.6%,远...
2025年8月9日,中芯国际发布2025年第二季度业绩,收入22.09亿美元,同比增长16.2%。招商证券指出,25Q3收入预计环比增长5-7%,但25Q4订单能见度降低。二季度毛利率为20.4%,略超预期。分析认为,前三...
本周(8月5日至8月9日)共有77只个股换手率超过100%,北方长龙以302.24%的周换手率位居榜首。万里马、唯万密封、新恒汇等个股换手率也均超200%。从行业分布来看,国防军工、机械设备、电子、计算...
ealme副总裁王伟近日确认,真我GT8系列将于今年10月正式发布。据数码博主爆料,该系列旗舰机型GT8 Pro将搭载第二代骁龙8至尊版处理器,配备2K分辨率直屏和2亿像素大底潜望式镜头。在硬件配置方面...
2025年8月9日22时04分,千岛群岛以东附近(北纬49.95度,东经159.78度)发生6.2级左右地震。中国地震台网自动测定了此次地震,最终结果以正式速报为准。免责声明: 本文内容由开放的智能模型自动生...
消息人士@jaykihn0近日披露了英特尔Nova Lake世代移动处理器的规格细节。据悉,该系列产品将作为酷睿Ultra 400系列于2027年初发布。Nova Lake移动端延续了Panther Lake与Wildcat Lake的架构划...
2025年8月9日,博安生物宣布,其自主研发的博优平®(度拉糖肽注射液)已获国家药品监督管理局批准上市,用于成人2型糖尿病患者的血糖控制。博优平®是一种长效GLP-1受体激动剂,其在中国大陆的商业...
2025年8月9日21时,电影《浪浪山小妖怪》单日票房突破1亿元,创下该片单日票房新纪录。此成绩展现了影片的强劲市场表现和观众热情。免责声明: 本文内容由开放的智能模型自动生成,仅供参考。
2025年8月9日,在世界机器人大会上,星动纪元展示了星动L7、星动XHAND1、星动XHAND lite、星动Q5等多款产品。此次展示体现了该公司在具身智能领域实现"软硬一体化全栈自研"的能力,并呈现了其在"...
近日,中核集团中国原子能科学研究院联合清华大学深圳国际研究生院,依托中国先进研究堆,利用中子深度剖面分析技术(NDP),首次直接观测并定量证实了全固态锂电池正极内部存在显著的纵向锂浓度梯...
2025年8月9日,在世界机器人大会主论坛上,英伟达Omniverse和仿真模拟技术副总裁Rev Lebaredian表示,中国在机器人产业发展方面具备独特优势。中国拥有全球近半数的开发者和研究人员,且具备强大...
2025年以来,西安口岸入境外国人数量突破13.5万人次,较去年同期增长124%。入境游客总花费达41.38亿元,同比增长46.76%。这一数据反映了西安作为旅游目的地的吸引力持续提升。免责声明: 本文内容...
8月9日,记者从三峡集团获悉,向家坝升船机累计货物通过量突破1000万吨。该升船机位于四川省宜宾市和云南省水富市交界的金沙江峡谷出口处,是向家坝水电站枢纽工程的重要通航设施。作为金沙江流...
扫一扫关注微信