谷歌AI新应用：判断失业雇员是否有资格领取救济

586 0 0

文章摘要

内华达州与谷歌合作开发了一套创新的生成式人工智能（AI）系统，目的是加速处理失业听证申诉的积压案件。该系统将分析失业听证申请记录，并为审查员提供关于申请人是否有资格领取救济的建议。这标志着州级政府首次尝试利用生成式AI影响高风险的政府决策，即决定失业居民能否获得救济资金。

内华达州计划在未来几个月内推出这一系统，预计能够显著缩短判定时间，从几小时缩短至五分钟。这一进步将有助于处理自新冠疫情以来积压的大量案件。系统将生成关于失业索赔批准、拒绝或修改的建议，并由至少一名审查人员复核。如果审查员同意AI的建议，将签署并发布判定；如有异议，则将进行修改并进一步调查。

尽管AI的建议旨在加快决策过程，但一些司法学者、前美国劳工部官员和律师对此表示担忧，他们担心过度强调效率可能会破坏传统的人工处理程序。内华达州法律服务部社区参与总监Morgan Shah质疑，如果案件需要彻底审查，时间节约可能非常有限。劳工部失业事务现代化政策前副主任Michele Evermore也对管理者可能依赖机器人快速提供的建议表示担忧。

谷歌公司发言人Ashley Simms回应了这些担忧，表示谷歌与客户合作以识别并解决潜在偏见，并确保遵守联邦和州政府的要求。内华达州就业、培训与康复部（DETR）主管Christopher Sewell指出，DETR在与谷歌讨论使用AI技术处理失业申诉后，进行了多次测试，以评估AI在处理不同复杂程度的申诉案件中的表现。在确认产品的可靠性后，DETR签署了一份价值100万美元的合同。

为了保护隐私和准确性，DETR与谷歌的合同规定谷歌无权访问个人身份信息，且不得将机密数据用于其他目的。内华达州将使用谷歌的Vertex AI Studio创建检索增强（RAG）模型，该模型将从特定数据库中检索信息，提供高针对性和准确率的分析结果。

DETR IT管理员Carl Stanfield提到，治理委员会将在模型微调期间每周召开一次会议，并在模型上线后每季度召开一次会议，以监控系统是否存在幻觉和偏见。幻觉是指生成式AI在文本预测中生成与事实不符或误导性响应的情况。耶鲁大学和斯坦福大学的研究人员发现，商用RAG模型在法律研究中生成不正确或误导性答案的几率在17%到33%之间。

尽管内华达州法律服务机构的律师对AI系统的准确性表示担忧，但科罗拉多州及美国劳工部失业现代化工作的Amy Perez认为，只要操作得当，AI自动化能够解决疫情期间失业者面临的问题。她强调，只要申诉人能够更快领取救济，DETR能够审慎监控系统，人类审查员有足够的时间和技术指导来全面调查案件细节，这套系统就具有积极意义。Perez总结说，我们必须接受人类和AI共存的风险，并在确定这些工具能够达到与人类相当或更好的效果后，才能将其投入实际生产。