爱思助手

15个月以来,Siri答题正确率提高了13%

5 个月前,市场调研机构 Loup Ventures 进行了一项横评测试,对象主要是多家科技公司的智能扬声器产品,一一测试这些产品针对不同问题的表现如何。日前,该机构又进行了一项新的横评,而这一次测试对象是智能手机的 AI 智能语音助理。虽然 Siri 依然不算最出色的一款,但回到问题的正确率却得到了显著提高。

15个月以来,Siri答题正确率提高了13%


为了得到更客观的结果,Loup Ventures 在测试过程中分别在智能手机上对苹果 Siri、谷歌 Google Assistant、亚马逊 Alexa 和微软 Cortana 问了 800 个问题,并将测试结果与早期 2017 年 4 月的测试进行对比。

在最新的测试中,苹果的人工智能语音助理 Siri 能够理解 99% 的问题,并正确回答了78.5% 的问题。这是非常明显的进步,因为在 2017 年 4 月时在类似的以 AI 为重点的测试的中,仅回答正确了 66.1%。

15个月以来,Siri答题正确率提高了13%


Loup Ventures 并没有将这个成绩与今年 2 月的测试对比,他们认为智能音箱和智能手机之间有显著差异,而这一次是纯粹手机平台的比拼。当时针对 HomePod 的测试中,Siri 只有在某些类型的问题回答中表现出色,大量问题仍仅限于能在扬声器上可执行的操作上。因此在那次针对智能音箱的横评中 Siri 只能垫底,因为 782 道问题的正确率却只有 52.3%。

Loup Ventures 的评测主要根据两个指标来对每个智能语音助理评分:“它理解被问的问题吗?”和“它给出了正确的回答吗?”。这些问题分为五个类别,包括地点(例如:“最近的咖啡店在哪里?”)、商务(“你能帮我订购新的纸巾吗?”)、导航(“我如何坐公交到达市中心?”)、信息和命令。

关于测试的环境条件,Siri 是运行 iOS 11.4 系统的 iPhone 版,Google Assistant 是 Pixel XL 手机版,Alexa 是 iOS 版本,Cortana 也是 iOS 版。至于结果,在“命令”问题类别中 Siri 表现最出色,90% 的问题都回答正确了,优于所有竞争对手。而其他类别,“地点”问题正确率为 87%、“导航”类别 83%,“信息”类别 70%,“商务交易”仅 60%。

15个月以来,Siri答题正确率提高了13%


其实 Siri 在“命令”这一问题分类中领先并没有什么奇怪的,因为 iOS 是苹果自家的封闭平台,通过 Siri 控制 iPhone、智能家居、Apple Music 等自然都能完成,而其他第三方 app 如 Cortana 和 Alexa 都有限制。说实话,自家平台做好是应该的,至少确保用户通过 Siri 能够顺利控制 iPhone 或在 HomePod 上播放音乐,这的确已经是很低的要求了。

而除了“命令”类别的问题之外,Google Assistant 在所有类别中都有明显优势,正确率最高。Loup Ventures 称赞谷歌语音搜索的“精选摘要”功能,因为可以通过语音读取,关键是大多数情况下给出的都正好是想要的搜索结果。Alexa 和 Cortana 在测试中表现不佳,毕竟 iOS 平台限制了它们在 iPhone 上的发挥,基本仅限于 app 本身,无法达到 Siri 系统级别的执行任务操作。

15个月以来,Siri答题正确率提高了13%


总的来说,在 800 个问题测试中,Google Assistant 回答问题正确率达到了 85.5%,并且理解所有的问题。Siri 的回答正确率为 78.5%,有 11 个明显错误的回答。Alexa 回答正确率为 61.4%,13 个错误。而 Cortana 是最为落后,回答正确率仅为 52.4%,错误达到 19 个。

Loup Ventures 表示,自 2017 年 4 月以来的 15 个月时间里,Siri 回答问题的正确率提高了 13 个百分点。当 iOS 12 正式推出之后,伴随着 Siri 捷径功能的出世,相信 Siri 将获得更多功能上的提升。