美警使用 AI 工具撰写案件报告，真相或被生成式 AI 编造？

any · 发布于 2024-9-3 10:11:58

在数字化时代的浪潮中，人工智能技术已经渗透到了我们日常生活的方方面面。

从智能家居到自动驾驶汽车，从算法推荐到智能客服，AI的应用无处不在，极大提高了工作效率。但是，当这股科技风潮吹进执法机构警察局时，情况就变得复杂起来。

今年4月，Axon 推出了一款名为 Draft One 的新工具，基于与ChatGPT相同的人工智能生成模型，Draft One 可以转录执法记录仪中的音频，并自动生成一份警务报告。

来自美国科罗拉多州柯林斯堡警察局的警员们作为第一批测试者，开始尝试用 Draft One 来撰写案件报告。

Axon 首席执行官 Rick Smith 预估，如果一名警官每天要花一半时间撰写文案报告，使用 Draft One 可以至少减少一半的工作量，那么，警官就有机会腾出 25% 的时间来投入繁忙的警务工作。

听起来似乎是一种节省时间、资源、提升工作效率的绝佳方式，但事实真的如此简单吗？

跟随算力云小编的脚步，来看看 Draft One 实际运作的表现。据报道，警官们对能够这款迅速完成报告初稿的工具评价颇高。一位警官在搜寻嫌疑人的过程中使用 Draft One 工具，仅用了8秒钟通过搜寻过程声音和无线电聊天信息，生成了完整的搜查报告，而且经警员审核内容无误，还帮助捕捉到一些被忽略的细节。

然而，AI工具在警务工作中的普及必然带来一些问题和担忧。其中最受关注的是AI工具所撰写的案件报告准确性问题，尽管目前的技术可以保证大多数情况下的内容准确，但AI聊天机器人仍有可能存在编造答案的风险。大语言模型有可能产生幻觉或编造事实，甚至潜在的种族偏见问题也不容忽视。

在各大科技公司快速布局生成式AI落地应用时，AI聊天机器人编造答案的问题应被优先解决。昨天微软公司副总裁 Vik Singh 在接受采访时也提到，“坦率地说，如今生成式AI真正缺少的能力，即是当模型无法确定（自身答案是否准确）时，能够主动说‘嘿，我不确定，我需要帮助’。”

此处插入一则算力资讯，针对AI推理、大语言模型训练的算力租赁赛道也在高速发展中，其中算力云正是该赛道中备受关注的潜力种子。算力云平台（suanlix）目前已在福建、浙江、香港等多所城市部署数据中心，提供算力租用服务，以及GPU云主机和CPU云主机的租用服务，算力云平台上线了RTX4090、Tesla V100S等热门显卡，近期为感谢新老用户，还推出超大力度活动，致力于为企业和个人用户提供人人都“用得起”的高性能、高性价比的算力资源。

图片来源：算力云官网

对此，法律专家和一些执法部门持审慎态度。例如，地方检察官强调，案件报告的真实性必须得到保障，因为这关系到整个刑事司法系统的公正和有效性。如果报告是由AI工具生成，那么谁来为内容的真实性负责？

AI工具的应用范围也是值得关注的问题。虽然初期，这些工具主要用于撰写轻罪案件的报告，但随着技术的发展和用户的信任增加，越来越多的重大案件，包括暴力犯罪等也开始使用AI辅助撰写报告。这无疑加大了风险，因为刑事案件往往更加复杂，对证据的要求也更为严格。

值得注意的是，尽管AI工具在处理音频和视频材料方面显示出了强大的能力，但并不意味着它能完全取代人类。例如，在嘈杂的办案环境中，AI工具的效果并不理想。这说明不能完全依赖AI工具，专业警员的判断力和经验仍然不可或缺。

以上是算力云今日内容分享，读者朋友们可以多多关注算力云！