(新加坡 2023年8月3日) 《纽约时报》最近发文提醒公众，人工智能聊天机器人的使用存在诸多误区，使用不当将导致适得其反。
据这篇题为 《We’re Using A.I. Chatbots Wrong. Here’s How to Direct Them》 的报道，由于人工智能有捏造事实的倾向（hallucinations），如果使用者不对其加以正确引导，便会收获失败经历。
报道称，聊天机器人会根据从互联网上获取的信息猜测该说什么，但这样难免出错。 在过去两个月里，记者测试了数十种人工智能产品后得出结论，大多数人都在以一种错误方式使用这项技术。
我们目前的使用方法大都是，如果碰到问题就向聊天机器人提问，然后希望它们给出正确答案。在这种情况下，机器的功能并没有被释放出来。但是，如果引导人工智能使用来自可信来源的信息，例如可信的网站和研究论文，它就能以更准确的方式完成任务。
“如果你给它们正确的信息，它们可以用这些信息做有趣的事情…… 但如果只靠它们自己，你得到的结果中有70%是不准确的,” 报道援引人工智能初创公司Context的创始人萨姆·休特梅克(Sam Heutmaker)对于人工智能的看法。
事实上，通过建议聊天机器人处理特定数据这样一个简单的调整，它们便会给出质量更高的建议。 譬如，将聊天机器人引导到特定的高质量来源，如知名媒体和学术出版物的网站，将大大有助于减少错误信息的产生和传播。
报道称，像ChatGPT和Bard这样的聊天机器人可以编写理论上看起来不错，但实际上行不通的食谱。譬如，在《纽约时报》美食版去年11月进行的一项实验中，一个早期的人工智能模型为感恩节菜单创建了食谱，其中包括硬邦邦的火鸡和干巴巴的蛋糕。
然而，倘若使用者尝试ChatGPT插件时，情况便会发生变化。这些插件本质上是与聊天机器人协同工作的第三方应用程序。当然，只有使用最新版聊天机器人ChatGPT4的用户才能使用插件，并在设置菜单中将它们激活。
还是以食谱为例，如果在ChatGPT的插件菜单上选择Tasty Recipes，机器便会从媒体网站BuzzFeed旗下的Tasty网站获取数据。 当记者让聊天机器人根据网站上的食谱制定出一份包括海鲜、猪肉糜和蔬菜配菜在内的饮食计划，机器人提出了一个给人带来启发的膳食计划，包括香茅猪肉炒饭、烤豆腐塔可饼和冰箱里翻出来的任意一种意大利面。
我们再来看ChatGPT在旅行计划上的表现。
最近，时报的一名旅行作家请ChatGPT为她安排在米兰的旅行路线，她根据建议去了米兰市中心的一个地方，但因为当天是意大利的节假日，那里空无一人，此外还有其他一些混乱的地方。
其实，就像做饮食计划一样，如果让ChatGPT把我最喜欢的一些旅游网站的建议纳入其中，比如Vox旗下的Thrillist，几分钟之内，聊天机器人就会生成一份更靠谱行程。记者根据这份新的行程，居然来到了一个提供葡萄酒和奶酪搭配的农场，并且顺利坐火车抵达了适合徒步的热门景点，最重要的是省了不少时间。
除了食谱和旅游，记者还在为一篇关于热门电子游戏系列的文章做研究时，求助于ChatGPT和Bard，但结果却是，人工智能弄错了游戏故事和角色的重要细节。然而，在测试了许多其他人工智能工具后，再次证明了，关注可信的来源并快速检查数据的准确性至关重要。经过努力，记者最终找到了一个名叫Humata.AI的一款免费网络应用程序，使用者可以让上传一份文档，然后聊天机器人会回答你关于这份材料的问题，并提供一份文档副本，并标明重点部分。
“在一次测试中，我上传了一篇在政府运营的科学文献搜索引擎PubMed上找到的研究论文。这个工具在几分钟内就为这份冗长的文件生成了相关摘要，这个过程如果让我自己来做，可能要花上几个小时，” 记者对于新发现非常兴奋。
对于如何正确、高效使用聊天机器人，投资人工智能公司的风险投资人内森·贝纳奇（Nathan Benaich）表示，训练拥有庞大数据集的机器的主要好处是，它们现在可以使用语言来模拟人类的推理，但重要的一步是将这种能力与高质量的信息结合起来。
