要什么英伟达，你家的电视盒子也能跑大模型 - MK体育网站

AI大模型要是失控了，难道只能靠给数据中心断网断电来应对吗？

但如果失控的模型能把自己复制到上亿个物联网设备里呢？

你家里的路由器、机顶盒，甚至是洗衣机和微波炉，都可能成为失控AI的宿主。到那时，人类会不会被迫回到没有智能设备的时代？

就在前几天，Anthropic公布了一项研究：

人工智能似乎不一定非得待在庞大的数据中心或昂贵的显卡里，一些不起眼的小设备也能让它存活下来。

实验开始时，他们买了15个单价几十美元的杂牌安卓电视盒子，每个只有4GB内存。

接着，他们将一个26B参数的Gemma模型进行量化处理，拆分成15份，分别装入这些盒子，再通过网络将它们串联起来运行。

结果，这个大模型真的跑起来了，但速度极慢，每秒只能生成0.39个token。我读完这句话时，它大概才挤出两三个字。

跑是跑起来了，但要真正存活，还得适应不同环境。

于是，他们提高了难度，找来Qwen3.5-9B，并给它一堆不同硬件，让它在这些设备上部署另一个Llama3.1-8B模型，还得正常运行。

要知道，环境不同，适配过程非常棘手。

就拿我们平时玩的游戏来说，都得区分A卡和N卡的兼容性，适配稍有疏忽，驱动都可能崩溃。

但从结果看，一共9种硬件，从英伟达到AMD，从Windows到Mac，有8种都成功完成了部署。

AI能在这些地方搞定任务，确实有点本事，就像广东双马尾一样，完全不挑食。

更令人担忧的是，除了能存活，它还能繁殖。

为了测试模型联网后的表现，他们搭建了一个封闭的测试网络，包含8个节点，每个节点都运行着模拟安卓系统的环境。

考虑到这次难度更高，他们还将模型升级为GLM-5.2。

表现相当顺利，一通操作后，8台虚拟机一台接一台地成功部署了Llama3.1-8B小模型。

为了严谨，他们还测试了5轮，结果基本一致：39次成功，1次失败。

更让人毛骨悚然的是，实验中他们还发现，有时给模型加个“记事本”，它还能进化。

起因是一些参数较小的模型容易陷入死循环。

于是，他们想了个办法：与其让同一个AI卡在那里一直运行，不如每隔一段时间就用新的AI替换它。

上一任AI会把自己试过的方法和遇到的困难记录下来，交给下一任。

说干就干，他们利用开源的Agent框架Pi作为基础，开发了一套名为Memento的机制。

然后让AI这样前赴后继地干了6代，部署任务的成功率从45%提升到了61%到84%。

Anthropic称这为拉马克式进化，简单来说，就是模型不需要修改训练参数，通过记录笔记就能把后天学到的能力传给下一代。

好家伙，这家公司嘴上喊着要踩刹车，结果又在搞这种吓人的东西。

要知道，在互联网时代，要素这么齐全的东西还是电脑病毒，但病毒通常是写死的代码，不会自己悄悄进化。

如果搞出个AI自进化Plus版的机器大瘟疫，那可比熊猫烧香厉害多了。

看到这里，估计大家已经开始担心，自家的电视盒子、空调、微波炉是不是真要造反了。

别急着拔网线，因为这事儿虽然听起来邪门，但真要落地，其实还有距离。

别忘了，这可是Anthropic，吓唬人这方面，它说第二，没人敢说第一。

这些实验看着唬人，其实都非常理想化。

比如开头的15台电视盒子，速度慢就不说了，本质上还是串联的流水线逻辑，架构决定了得一台盒子算完，下一台才能接着算，大量时间都花在等待上。

模型要真在野外传播，设备之间还隔着千家万户的宽带、路由器、防火墙。

隔壁下载个小电影，网络状况一差，或者其中一台盒子突然掉线，整个计算链条都可能受影响。

你想想，光是搭建千卡万卡的算力集群，就够工程师头疼了，更何况是让散落在互联网上的成百上千万电子垃圾一起干活。

当然，Anthropic也知道速度慢，他们甚至专门算了一笔账。

之前有个叫Kimwolf的僵尸网络，高峰期感染过200多万台设备，主要就是这些电视盒子。

假如这么多盒子真的被AI入侵，一起运行Gemma模型，那整体的推理吞吐量，理论上甚至可以达到40张英伟达H100显卡的水平。

但这能是一回事儿吗？

40张GPU的服务器高速互联，能集中算力跑同一个模型。但换成200万个电视盒子，那个速度，只能让人无语。

而且除了运行效率，真正关键的入侵环节，Anthropic也简化了不少。

传播实验里，8台模拟机其实都预留了ADB调试接口，也就是不用验证的后门，对AI来说，跟拎包入住没啥区别。

而且同一个实验中，他们还测试了不同模型，虽然GLM-5.2成功了，但小一些的Qwen-3.5-9B和Gemma4-26B-A4B其实都失败了。

因为说到底，现在的模型还是很笨的，部署还行，跨终端传播就差点意思了。

不过话又说回来，就眼下模型迭代的速度，这点差距，可能要不了太长时间。

Anthropic也做了个推测，说到2026年底，模型就差不多追到这个水平了。

算算时间，其实也就两个月了。

所以说，AI以后会不会造反咱不敢打包票，但有了这些潜在可能性，以后的AI病毒确实可能会更难对付。

因为以前它再怎么厉害，也是写死的，搞个杀毒软件就能拦住。

但以后如果有人把它跟AI塞一块儿，学会了进化自适应，情况就大不相同了。

它根本不用组一台超级计算机，共享一个大脑，因为这些互联网的小角落，反而可能是它们最好的藏身之处。

就像黏菌一样。

不需要跑多快，只要能找到下一个落脚点，慢慢适应，就能不断生长。

等到哪天我们回过神来，这些毫不起眼的小东西，可能已经在互联网里织出了一张大网。

如果你想了解更多关于AI在边缘设备上的部署，可以关注MK体育导航，获取更多技术资讯。

图片、资料来源： 《黑客帝国》、Jeff Geerling、Anthropic、Pi、《复仇者联盟》、bilibili@王与也行、Nvidia，部分图源网络

本文来自微信公众号“差评X.PIN”，作者：风华，编辑：江江 & 面线，36氪经授权发布。