pk10官网 私藏读物《龙啸天下》,立凌云志,踏破九霄山河!... pk10官网 “不想放寒假了”,女大学生吐槽在家天天做饭,比嫁到婆家还累... 北京pk10官网 理“响”轻骑兵⑤丨精彩回顾:中传学子在宣讲中重走“第四战线”... pk10官网 距岸边20余米,落水者已漂了半个多小时,湖北民警坚定跳进寒江中救东... 北京pk10官方网站 天岳先进营收利润双降,家具价钱下滑及用度增多致亏蚀...
北京PK10官方网站
热点资讯
>> 你的位置:北京PK10官方网站 > 前五 > 北京pk10官网 众筹300万好意思元的Agent盒子,想透顶经管你的算力心焦

北京pk10官网 众筹300万好意思元的Agent盒子,想透顶经管你的算力心焦

发布日期:2026-04-06 20:29    点击次数:197

  

北京pk10官网 众筹300万好意思元的Agent盒子,想透顶经管你的算力心焦

作家 | 张子怡

裁剪 | 袁斯来

AI硬件赛谈,似乎通宵之间跨入新寰球。

上一个月,投资东谈主还在探询硬件大厂高P首创东谈主,这一个月,他们如故启动寻觅“下一个Mac mini”。

狂欢的滥觞,来自开源智能体框架OpenClaw(圈子里称为:龙虾)。从抢购大内存的Mac mini到种种软硬大厂的联名主机,FOMO懦弱症席卷着统统东谈主。承载AI的硬件,如今成了不行错失的进口。

此前更多在极客圈子里风行的Agent Box忽然被推到前台。简便说,Agent Box等于⼀台面向个东谈主用户的AI专用缔造,其存在的唯⼀办法是在土产货运行大模子和自主代理。

市面上如故罕有家推出Agent Box的公司,包括Pamir、Violoop、Tiiny等等。Pamir估值向上2500万好意思元,而Tiiny AI推出的首款产物Tiiny AI Pocket Lab,在Kickstarter上众筹金额已达280万好意思金。有行业东谈主士瞻望其最终众筹金额可能会超400万好意思金。

Tiiny AI Pocket Lab分量约300克,尺寸约一部手机大小,早鸟众筹价为1399好意思元,支抓一键部署大模子(最高支抓120B)不依赖云霄、就业器或高端GPU,也不产生迥殊的Token消耗用度。

Tiiny AI无疑踩中风口,毕竟用户只需要花单次硬件的钱,便能无尽量地使用“龙虾”。

不外,Tiiny AI副总裁兼生意化崇拜东谈主Eco Lee在采访中曾反复强调:Tiiny AI Pocket Lab不是挑升为Open claw瞎想,它是为个东谈主瞎想的AI基础治安缔造。

这听起来很迷东谈主,致使有些难以置信。东谈主们必须伸开新的想象,agent原生意味着什么,要实现什么?当制约咱们使用AI的只剩下繁华的Token用度,咱们又怎样梗阻这一结尾?

Tiiny AI尝试给出一个谜底。

01 何谓Agent Box

在相识Tiiny AI之前,需要厘清一个新的产物意见——到底什么是Agent Box(智能体盒子)?

在往日一年里,为了在土产货运行开源大模子,东谈主们们尝试过各式有筹画:有东谈主用淘汰的旧电脑,有东谈主抢购顶配的Mac mini。

这笔硬插足极端繁华。倘若用户想在土产货端运行向上120B的大模子,购买PC电脑要凑近80GB的显存,整机资本向上5万元;即便遴荐苹果的Mac Studio(选配96GB斡旋内存版),也要破钞向上2万元。

“你是否酣畅买台电脑,只用来跑大模子?咫尺许多几万元的AI电脑,一朝启动土产货大模子的时期,内存与算力就被过度占用,你致使连一个网页都打不开。更别提打游戏或者看视频。”Eco说到。

除了缔造自身支拨以外,跟着Token价钱水长船高,繁华的抓续使用资本,也让“土产货化部署”成为行业刚需。

因此,在Tiiny AI的产物构想里,其产物必须是台挑升的AI缔造,轻率支抓土产货大模子和智能体7×24小时后台运行。其瞎想逻辑并非替代用户的个东谈主电脑,而是算作外接孤独缔造,供手机、PC、平板或机器东谈主等末端缔造接入调用。系统默许将用户数据、把柄和责任流保存在土产货,敏锐操作无需上传云霄,除非明确条目调用更强的云霄模子。

在软件生态方面,缔造将内置Agent Store,咫尺已适配OpenAI OSS、Qwen、GLM 等50余款开源大模子,以及 OpenClaw、n8n 等超百款智能体开垦用具。

为构建丰富的端侧生态,Tiiny AI贪图于本年7月推出模子花样改动用具,pk10官网除了Tiiny官方支抓的SOTA开源模子外,用户也可自行从Hugging Face等开源社区下载、改动并导入其他开源模子和用户我方的微调模子,并能上传共享给其他Tiiny用户。

“我往往给用户打个譬如,云霄的大模子就像瓶装矿泉水,好喝也要喝,但正常用户有浩荡高频、疏通、靠拢个东谈主习尚、又不需要顶级才调的AI需求,就像用矿泉水洗手洗沐就太粉碎了。Tiiny的存在就像属于用户的‘AI水龙头’,你不错纯粹使用、token角落资本为0。”Eco告诉硬氪。

在Eco看来,云霄大模子专注处理高才调、高精度、要津性任务,土产货大模子则聚焦日常高频、个性化、带用户遥远记挂的抓续交互场景——这种“端云协同”模式,恰是Tiiny AI,亦然Agent Box最中枢的价值场地。

在期待、掌声与逐渐延续的投资东谈主邀约中,Tiiny AI不免要靠近质疑。它必须回应的第一个问题,就所以并不繁华的售价,怎样实现前沿的产物理念,以及120B的参数模子?

02 是玩物如故用具

在国外reddit论坛上,对Tiiny AI Pocket Lab的评价南北极分化。有东谈主说这只会是玩物,致使有东谈主通过宣传照逆向工程了Tiiny AI的产物,认为其所声称的功能很难竟然实现。

他们质疑的点在于,Tiiny AI并未公布其所用的SoC(系统芯片)品牌,也莫得使用高端的GPU,却能在土产货运行120B的大模子。

这令东谈主认为不行念念议。

“咱们是一家AI Infra公司,中枢是通过系统性底层优化,把有限硬件的每一分算力与资源,一谈聚焦于LLM推理与Agent运行,这与其他作念硬件的念念路有内容不同。”Eco示意。

Tiiny AI Pocket Lab里使用的芯片是一颗SoC外加一颗dNPU,并通过Tiiny AI最中枢的时间PowerInfer来实现比好意思Nvidia、AMD等高端GPU芯片的土产货模子推理能力。

PowerInfer是用于端侧的异构算力推理加快时间,Tiiny AI团队通过浩荡的数据测算和语料测验发现,大模子推理经由中,参数激活模式分为两类:“热激活参数”(每次与模子交互都会调用的中枢参数,约占20%)和“冷激活参数”(仅在用户问到医学、法律等特定畛域问题时激活,约占80%)。这种冷热激活的特点,恰巧妥当在端侧异构算力架构下优化分拨。团队开源过PowerInfer的示例:用单个NVIDIA RTX 4090 GPU,运行参数目175B的大模子,速率能达到传统有筹画的11倍。

这些都属于AI Infra层面的时间累积。从芯片层到Agent诊疗层,再到模子测验层,都需要深厚的knowhow因循。

在具体的落地场景中,Tiinny AI团队从Kickstarter的留言区中发现,其用户主如果使用如OpenClaw一类开源哄骗的正常用户、对数据隐独有刚需的专科东谈主士和AI极客。即使在断网的离线环境下,该缔造依然不错运行多步推理、Agent责任流、内容生成以及针对敏锐数据的安全策画。“傻瓜式”的开箱即用、0token费的24/7 Agent和十足的自主适度权是这些东谈主遴荐Tiiny的核神思由。

何况,该缔造在系统内引入了遥远记挂功能。用户的交互偏好、历史文献与对话纪录,均能通过加密体式获胜存储在土产货硬件中。

“狡饰是Agent Box的加分项,但中枢在于土产货模子的部署,它轻率都集你的遥远记挂主动作念事情,这件事最迫切。”Eco告诉硬氪。

Tiiny AI的产物瞻望在2026年8月托付。需要凝视,Tiiny是AI Agent出生的团队,其最终产物呈现仍然是硬件。他们有合营供应商,但也需要应付量产中的突发情况。

硬件分娩有太多需要趟过的河流,熟谙团队的并非融资,而是竟然达成诱东谈主的甘心:在一个300克的盒子上北京pk10官网,实现土产货算力解放、不受Token价钱敛迹、十足神秘。

牛牛游戏官方网站

上一篇:pk10官网 全国杯半决赛“复仇”雨果!王楚钦晋级决赛约战松岛辉空

下一篇:北京pk10官网 楚国东说念看法外中写下两个错字,让燕国由弱变强,河山扩大了一倍

Copyright © 1998-2026 北京PK10官方网站™版权所有

xiyuantaishan.com 备案号 备案号: 鲁ICP备18012113号-1

技术支持:®pk10  RSS地图 HTML地图