26年前电脑成功运行大模型，网友担忧AI病毒泛滥。这台搭载windows 98系统、英特尔奔腾2处理器，内存仅128AMD的电脑，竟能运行基于拉玛架构的26万参数大模型，实现每秒35.9个token的生成速度，还让AI编了个系统。网友认为，随着运行AI门槛降低，赛博朋克2077中觉醒自我意识的流窜式AI离人类越来越近，这种病毒AI可分化存储，联网即迅速蔓延。实验团队axon lab由牛津大学人员组成，开发了避免使用三元权重的transformer架构，用此架构，70亿参数模型只需1.38GB存储空间，十年前设备运行也很轻量级，团队强调Gitney是CPU优先，避免依赖昂贵GPU，此类模型比全精度模型效率高50%，能在单个CPU上每秒运行5到7个token，1000亿参数模型生成速度与人类阅读速度匹配，降低硬件门槛技术或催生便携AI硬件设备，团队使命是普及人工智能。
《探索AI世界：从低配置电脑到大模型的突破攻略》
在当今科技飞速发展的时代，AI领域不断涌现新突破。你是否曾想过26年前的老旧电脑竟能运行大模型？这听起来不可思议，但却是事实。
首先，了解一下相关背景。当时的电脑配置可谓简陋，搭载windows 98系统，英特尔奔腾2处理器，内存仅128AMD。然而，它却成功运行了基于拉玛架构的26万参数大模型，实现每秒35.9个token的生成速度，还让AI编了个系统。这一成果引发网友热议，大家担心AI病毒会因此泛滥。
那么，对于我们普通人来说，这有什么启示呢？其实，这展示了科技发展的无限可能。即使是低配置设备，通过合适的架构和技术，也能发挥出强大的能力。
如果你对AI开发感兴趣，不妨从了解这些基础架构开始。比如实验团队axon lab开发的避免使用三元权重的transformer架构，它能让模型在较低存储要求下运行。一个70亿参数的模型只需要1.38GB的存储空间，十年前的设备运行起来也较为轻松。
同时，关注硬件门槛的降低趋势也很重要。这意味着未来可能会有更多便携的AI硬件设备出现。我们可以提前了解相关技术，为自己的学习和工作做好准备。
总之，科技的进步日新月异，抓住这些趋势，我们就能在AI的浪潮中更好地前行，探索更多未知的可能。
26年前电脑,大模型,AI病毒,transformer架构,硬件门槛