联合健康竟意外公开索赔评判用人工智能

在联合健康保险首席执行官布莱恩·汤普森遇害这一事件的后续影响中，该公司的处方药中间商由于一个重大的人工智能方面的差错而遭到指责。

正如TechCrunch所报道的，联合健康集团的 Optum Rx 药房福利经理（PBM）用于帮助员工弄清楚保险索赔和纠纷的聊天机器人被意外公开——任何拥有其 IP 地址的人都可以轻松访问。

被称作“ SOP 聊天机器人”，这显然是指它被创建用来回答的“标准操作程序”方面的查询，该人工智能还揭示了公司员工向其提出诸如“我如何检查政策续期日期？”等问题的日志。

这些日志还显示，员工们提出了诸如“索赔的判定应该是怎样的？”之类的问题——这听起来人工智能好像被用于评估保险范围。

然而，这个聊天机器人似乎和此前报道的联合健康（UnitedHealthcare）旗下姐妹公司 Optum 所用的拒绝理赔算法不一样。虽然那个叫 nH Predict 的人工智能是一起诉讼的对象，因为指控该公司明知它极不准确还使用它，但在TechCrunch报道这事之前，Optum 的 SOP 聊天机器人好像还不为人所知。

网络安全公司 spiderSilk 的联合创始人兼首席安全官莫斯阿布·侯赛因（Mossab Hussein）向TechCrunch通报了此次隐私泄露的情况。目前还不清楚侯赛因是通过什么途径得知 SOP 聊天机器人的。

在TechCrunch联系 Optum 询问有关 SOP 聊天机器人的情况后不久，它就被锁定，公众再也无法访问了。

在发给TechCrunch的一封电子邮件里，Optum 的一位发言人表示，该聊天机器人仅仅是一个“作为潜在概念验证开发出来的演示工具”，并且“从未投入生产”。因此，从未有真实的患者数据被输入其中，该公司声称在对其的训练中也未使用任何此类数据。

“该演示的目的是测试该工具如何对一小部分标准操作程序文档样本集里的问题做出回应，”该发言人告诉TechCrunch。“此工具不会，也永远不会做出任何决策，而只是能够更方便地访问现有的标准操作程序。”

“简而言之，”他们继续说道，“这项技术从未实现规模化，也从未以任何实际的方式得到应用。”

尽管有此免责声明，但联合健康的处方管理子公司竟然在测试那种人工智能，这一点仍然极具说明性——尤其是 考虑到所发生的情况 与它的其他理赔处理人工智能。