人工智能作为产品存在缺陷且会伤人，我们为何还在使用它们？（观点）

（大中网/096.ca讯）加拿大环球邮报（Globe and Mail）发表了一篇Vass Bednar的评论。他是加拿大公共政策智库 Shield Institute 执行董事。评论说，加拿大政府近日召回了Tim Hortons一款粉白相间、会变色的甜甜圈陶瓷杯，因为该产品在盛装热饮时可能会出现裂纹甚至破裂。

《加拿大消费品安全法》（CCPSA）禁止被召回产品再次流通、销售，甚至免费赠送。因此，一旦某款咖啡机可能突然爆炸，或婴儿床偶尔坍塌，它们就会立刻被下架，并伴随大规模公共警告。

然而，这套适用于实体消费品经济的逻辑，在数字经济中却失效了。鲜少有人注意到，该法案并不涵盖数字性质的产品，它监管的仅是实体商品，以及其零件、配件和衍生品。

这意味着，加拿大可以召回在正常使用下会裂开的陶瓷杯，却无法处理那些每天都被大量使用的数字产品。当大型人工智能模型被当作“助手”推向市场，却经常生成错误信息、并信心十足地提供错误建议时，这种监管空白显得尤为严重。

更糟糕的是，这些科技公司其实清楚地知道，这些系统并不能稳定可靠地运作。他们在使用条款中对潜在错误发出的警告，已经充分说明了这一点。

人工智能公司想要的，是大规模占领市场所带来的巨额财务回报，却不愿承担售后故障本应承担的基本责任。而我们则在无形中帮助了他们：一边轻松地将人工智能产品融入生活，一边默认那些生产和使用人工智能的公司可以逃避最基本的尽责义务。

然而，我们却不断被告知，这些高科技代表着创新。我们也被灌输一种观念：未来工作的关键在于采纳这些系统。可现实却显示，人工智能实际上附带了更多工作量——更多核查、更多校对，以及更多噪音。所谓的生产力提升，如今看起来不像工业革命式突破，而更像一场精心包装的骗局。

我们其实已经看到，真正的问责机制应该是什么样子，但它并未被持续贯彻。

加拿大航空公司（Air Canada）的聊天机器人为 2022 年家人去世后从温哥华返回多伦多的加拿大人莫法特（Jake Moffatt）提供了追溯性的丧亲票价折扣。但事实证明，该优惠实际上并不符合加航的官方政策，因此航空公司拒绝兑现该票价，尽管其承认聊天机器人犯了一个错误。

2024年2月，卑诗省小额索赔法庭做出裁决宣布加航有错，并命令航空公司退还乘客原应获得的金额 800多元，相当于他最初有资格获得的退款。

该案件确立了一个本应十分基本的原则：公司不能仅因为错误信息来自聊天机器人而非真人员工，就逃避责任。“聊天机器人是一个对自己的行为负责的独立法律实体”这种甩锅言论不应成为严肃的抗辩理由。

如今，一些引入人工智能协助的公司一边提醒用户不要轻信人工智能协助，一边试图推卸责任。微软去年秋天更新使用条款时曾表示，Windows 11 自带的人工智能助手 Copilot“仅供娱乐用途”。随后，微软在 Excel 中推出新的 Copilot 功能时，也告诫用户：如果你想得到准确结果，最好别依赖它。美国折扣零售巨头 Target 则“贴心”地提醒消费者：如果购物助手出错，买单的还是你自己。更带有讽刺意味的是，OpenAI首席执行官奥特曼（Sam Altman）最近甚至在一段疯传的社交媒体 Instagram 中承认，ChatGPT连一个基本计时器都不会用。

眼下，人工智能显然正在让事情变得更糟，也更荒谬。人工智能胡乱的引用信源正在污染学术严肃性；律师开始引用根本不存在的案例；会计巨头德勤甚至被指控在一份价值百万元、提交给纽芬兰省政府的报告中使用了人工智能生成的内容。聊天机器人甚至可能助长妄想型思维。（相关阅读： 如果法官借助使用人工智能断案，法庭审判还能公正吗？（评论） https://www.chinesenewsgroup.com/index.php/news/680163）

可我们还是逐渐把“幻觉”（hallucination）视为这些系统的正常反应，而不是将其及其可能造成的后果视为危险缺陷。

数字经济的“快速行动、打破规则”做法一度被视为值得赞美的商业模式，曾长期受到社会的宽容。但如今，人工智能幻觉已经渗透到公共与经济生活太多角落，这种纵容已难以继续。

我们是为了盲目追逐生产力，而允许整整一类存在缺陷的产品渗透进日常生活，却不对其施加最基本的安全与问责要求，还是对其进行必要的约束？

很明显，这些人工智能模型虽然新颖，却并不可靠。那么，我们为何还在继续将这些不稳定的人工智能系统嵌入办公室、课堂、医院和公共服务体系，仿佛它们对我们造成的伤害只是“技术发展的正常代价”？

如果我们不打算将人工智能视为产品来监管，那么至少也应通过加拿大竞争局（Competition Bureau）的虚假营销标准，对科技公司推广这些产品时的说法进行监管。但如果我们认为做这么多就足够了，那其实是在自欺欺人。

基于深度学习的人工智能技术（LLM）看似人畜无害，跟一个裂开的杯子相比不相伯仲，但其带来的风险，会外溢到现实世界，影响更多的人。