没有网络时,什么能用、什么不能用
模型运行在服务器上,所以答案需要联网。一个AI应用里的「离线支持」,指的是界面能打开、过去的对话能读、一条排队等待的消息会在你重新联网时发送出去。这很有用,但和这个词本身给人的联想不太一样。
「离线」这个说法很常被打出来,但在这里它的含义很窄。这个区别很重要,因为这款产品真正有用的那部分,恰恰是无法离线的那部分。
根源在于模型
生成一条回复需要模型,而一个够强的模型,对手机来说实在太大了。有些小模型能在设备上运行,但明显更弱。这是一个物理上的限制,而不是产品上的决定。
「离线支持」实际提供了什么
界面能打开,而不是显示一个错误,存储在设备上的过去对话能读取,离线时输入的消息能排队等待发送。这些都是实实在在的便利,但它们属于外壳,而不属于这个助手本身。
如何判断一个产品到底指的是什么
关掉网络,问点什么。一条带有清晰待发送状态的排队消息,就是诚实的离线支持;一个永远转不完的加载图标,说明这个应用根本没考虑过这个问题。这是一个30秒就能做的测试。
简单说说本地设备模型
在本地运行模型是真实存在的,而且在不断改进,但今天它意味着一个小得多的模型、一次巨大的下载,以及一部发烫的手机。对于简短的事实性工作,它是可用的;但对于人们真正会交给一个助手去做的工作,它还没到那个水平。
关于这款应用的常见问题
离线模型会更私密吗?
会明显更私密,因为没有任何东西离开设备。但它也更弱,这就是对这笔交易最诚实的描述。
为什么应用还要宣传离线功能?
因为外壳能离线工作,确实比一个错误页面要好。只是这个说法,把一个真实的改进夸大了一些。
网页应用在这方面会更差吗?
不会。缓存一个已安装应用的机制,同样也会缓存一个网页应用,两者在获取答案时都依赖同一个服务器。
关掉网络,看看到底还有什么能打开。
先打开聊天