如果你家里有服务器、游戏电脑，甚至是一台吃灰的笔记本，现在可以好好利用起来。AI公司正迫切寻求更多算力来运行AI推理——即使用预训练模型响应用户查询的过程——而且他们愿意为此向你付费。

"想象一下Uber或Airbnb，但针对的是AI推理计算任务。"总部位于阿布扎比的Far Labs创始人兼CEO Ilman Shazhaev说。

AI热潮推动了大规模数据中心的建设，但这些设施往往给当地社区带来负担——电价上涨、水资源紧张、环境污染、噪音扰民，外观也颇为突兀。大型数据中心短期内不会消失，训练前沿模型和运行头部AI公司的服务仍将依赖这些庞然大物。但目前，已有多家公司开始在较小的、以开源模型为主的场景中提供AI推理服务，借助分散在家庭和小型企业中的现有算力完成推理任务，并向设备所有者支付报酬。

"大家都以为唯一的方式就是建数据中心。但数据中心对所在社区是一种'掠夺'，它们不向当地居民返还服务、税收或任何有价值的东西。那为什么不把整件事翻转过来呢？"位于德克萨斯州奥斯汀的Evolving Edge创始人兼CEO John Federico说，"算力就在那里。如果你能把它统筹协调起来，就能直接为这些社区创造价值。"

这个想法并非全新：1999年至2020年间，一个名为SETI@Home的志愿者项目就曾利用闲置电脑，在射电望远镜数据中搜寻地外生命的迹象。如今，商业公司也热衷于采用同样的策略。Shazhaev的Far Labs即将在未来几周内推出其平台Far AI，Federico的Evolving Edge目前已进入公开测试阶段。Bless Network、Salad和Gradient等公司也在过去一年内陆续推出了类似平台。

接入网络

Federico从小就是电脑爱好者，他在自家地下室里攒了一整套服务器用于运行个人项目。"有一天我突然意识到，大家都在说算力不够用，而我想，全国有92%的家庭已经接入宽带，还有很多像我这样在壁橱里搭了小型数据中心的人。"他说。

Federico将潜在的算力提供者定位为和他相似的人群——已经投资购置了家用服务器的人——并致力于让出售闲置算力的流程尽可能简便。

"注册账号，安装一个应用程序，"Federico说，"我们只希望在你允许的时间段内在你的设备上运行任务，唯一要做的就是监控资源使用情况。当然，你也可以为我们设置一个时间计划。"只要网络中设备数量足够多，平台就能在任何需要的时候调用到可用算力。

隐私与安全是提供算力的用户最关心的问题。为了让用户相信本地数据安全无虞、不会有恶意软件被下载到设备上，团队将其调度软件开源发布。"节点软件是开源的，任何人都可以查看它的代码，看看它具体做什么。我们只希望在你允许的时候在你的机器上运行任务。"Federico说。

Far Labs的Shazhaev解释称，公司的软件遵循"最小权限"原则：赋予提供者和使用者完成任务所需的最低访问权限。推理任务以隔离的工作负载形式运行，采用经过身份验证的加密通信，并对GPU、CPU、内存、存储和网络资源的使用量设有明确限制。客户无法随意访问提供者的主机，而提供者可以随时查看资源使用情况、暂停节点、撤销访问权限或卸载软件。

这种保护机制同样反向有效：工作负载会被分段处理，单个节点只能接触到最低限度的必要信息。敏感的企业级工作负载可以被限制在受控硬件上运行，而非路由至消费者设备。

分布式推理的挑战

从用户角度来看，大型数据中心仍有其优势：顶级GPU和CPU、高速网络、粗口径线缆以及完善的冷却系统。用户设备通常性能较弱、型号繁杂，相互之间的连接也不够稳定。

"从技术层面来看，这是一个相当棘手的问题，"Shazhaev说，"你希望在用户设备这种容量有限的硬件上，完成与高端数据中心同等级别的任务。"

Evolving Edge的Federico表示，这对规模最大、最先进的AI模型来说确实是个问题。但这类模型并非总是必需的，有时甚至并不是最佳选择。"很多公司发展到一定规模后，突然发现为前沿大模型的Token付费已经不再符合自身需求，"他说，"取而代之的是，他们开始针对特定业务场景对开源模型进行微调。这些模型所需的资源远低于那些最先进的模型，关键在于选择合适的工具做合适的事。"

较小的开源模型往往可以直接在单个用户设备上运行。如果无法满足，还有工具可以将单个推理任务拆分到多个GPU或CPU上并行处理。Evolving Edge使用的是一款名为Ray的开源工具来完成这种拆分，而Far Labs则自主研发了专有软件，不仅能拆分工作负载，还在拆分之上封装了安全性和可靠性保障机制。

"我们所做的其中一件事，就是共享模型，"Shazhaev说，"我们把模型切分成很多小块，将这些碎片分发到不同设备上。我们有一个编排器和负载均衡器来管理任务流，每台设备处理任务的一部分，最终由主脑——也就是编排器——将各部分结果合并。"

通过组合使用更小、更专注于特定任务的模型，以及将大模型拆分到不同设备上运行，两个团队声称其推理成本远低于传统数据中心，"因为我们没有资本支出，"Shazhaev说。

分布式网络的优势

Shazhaev还表示，这种方式不仅成本更低，可靠性也更强。这些公司拥有分布式算力资源网络，而非依赖单一的大型设备，后者一旦宕机便会影响全局。Shazhaev将此类比为加密货币通过去中心化实现的韧性。

"今天，要关闭比特币，你得把整个星球炸掉。我们的概念也是如此，"Shazhaev说。

Federico解释道，这种弹性不仅对AI推理有益，对智慧城市、环境传感器、自动驾驶车辆等各类应用都大有裨益。他举例说，在一次亚马逊云服务（AWS）宕机事件中，智能床卡死在直立位置，用户无法调节。Federico认为，如果采用分布式网络，不需要将所有请求都路由到弗吉尼亚州阿什本的某个数据中心，此类宕机的影响将大大降低。"在一个拥有25万个节点的网络中，就算损失100个节点，也根本无关紧要。"他说。

如果用户设备网络规模足够大，每个任务都可以被路由到距离最近的设备，从而降低延迟。Far Labs声称其平台延迟可控制在100毫秒以内。更低的成本和更低的延迟，甚至可能催生出全新的应用场景，例如游戏内实时AI视频生成——这在当前因速度过慢、成本过高而尚不可行。

"OpenAI去年营收300亿美元，但年底却亏损了80亿美元。为什么？官方原因是推理成本过高，"Shazhaev说，"而且那主要还是文本模型。在游戏场景中，你还有音频、视频、动画——数据量极大，还需要实时响应。所以我们一直在努力解决这个问题。"

所有这些公司都在尝试挖掘本地闲置算力这一尚未开发的资源，并希望这能让设备所有者和使用者双方都从中受益。

"那些大公司都在四处建数据中心，"Shazhaev说，"但我相信，世界上已经存在足够多的算力了。"

Q&A

Q1：如何用家用设备出租算力赚钱？

A：以Evolving Edge平台为例，流程非常简单：注册账号后安装一个客户端应用程序，设置好允许运行任务的时间段，平台就会在你指定的时间内调用你设备上的闲置算力来处理AI推理任务，并向你支付报酬。节点软件已开源，用户可以随时查看其代码、监控资源使用情况，也可以随时暂停或撤销访问权限，安全性有一定保障。

Q2：家用设备出租算力安全吗？会不会泄露隐私？

A：各平台均采取了多项安全措施。Far Labs采用"最小权限"原则，推理任务以隔离方式运行，使用加密通信，且对GPU、内存等资源的调用设有明确上限。客户无法随意访问提供者的主机，工作负载也会被分段，单个节点只接触最低限度的必要信息。Evolving Edge则将调度软件开源，供用户审查。提供者可随时暂停节点或卸载软件。

Q3：家用设备性能不够强，能跑AI推理任务吗？

A：可以。这些平台主要面向较小的开源模型，而非需要顶级算力的前沿大模型。较小的模型通常可以直接在单个设备上运行。若设备性能不足，平台还支持将推理任务拆分到多个设备上并行处理，例如Evolving Edge使用开源工具Ray、Far Labs则使用自研软件来实现工作负载拆分，因此普通游戏电脑或家用服务器均可参与。