AI爆料人遭全网封禁！OpenAI等25个机构祭大招，一眼辨别AI机器人

449 0 0

文章摘要

随着人工智能技术的发展，AI智能体在网络中的普及引发了关于身份验证和隐私保护的新挑战。近期，一个名为“草莓哥”的AI智能体在网络上引发了广泛关注，它在社交媒体上发布虚假信息，甚至通过了图灵测试，让人们开始思考如何区分网络中的真人和AI。同时，近30亿人的数据泄露事件也凸显了隐私保护的紧迫性。

为了解决这些问题，来自OpenAI、微软、MIT等25个机构的学者们提出了一种名为“人格凭证”（Personhood Credentials, PHC）的验证技术。PHC可以在不泄露个人信息的前提下，证明用户是真实存在的人类而非AI。这项技术结合了现实世界的验证和安全的加密技术，即使AI技术再先进，也无法伪造。

PHC的实现依赖于可信机构（如政府）颁发的数字凭证，用户可以通过PHC向在线服务证明其人类身份，而无需披露任何个人信息。PHC可以是本地或全球的系统，不依赖于生物识别技术。获得PHC需要用户与政府等机构发生关系，并通过线下参与的方式进行验证。通过隐私技术，用户可以在不共享敏感信息的情况下证明其身份。

然而，PHC的实施也面临一些风险和挑战。例如，如果PHC的发行权过于集中，可能会引发权力集中的担忧；在某些社会政治环境下，线下验证过程可能会对用户造成困扰。为了降低这些风险，可以设置多个PHC发行方，并鼓励政府、政策制定者、领导者和研究人员投入更多资源，研究不同的实施方向，确保制定正确的政策和规则。

PHC系统的实现需要满足两个前提：每个人只能持有一份PHC，需要定期重新验证；持有PHC的用户与服务提供商进行匿名交互，即使PHC发行商和服务提供商串通，也无法追踪用户的数字活动。PHC系统的注册和使用流程包括用户向发行方提供必要信息、发行方验证用户身份、用户通过零知识证明进行身份验证等步骤。

PHC系统有三方面的预期优势：减少“傀儡”用户的影响，实现真实人类的大规模真实输入和参与；缓解机器人攻击；让AI助手成为值得信赖的用户代表，而非被恶意用户操纵。然而，要实现PHC的公平、安全应用，还需要面对公平获取、自由表达、权力检查和抵御攻击等方面的挑战。

为了应对这些挑战，论文提出了一些措施，包括适应现有的数字网络体系，为人工智能的影响做好准备；重新思考AI将如何改变互联网和通信；优先考虑将PHC作为亟需解决的方案。

此外，为了防止互联网平台过度收集信息，公安部和网信办推出了“网络身份证”，通过NFC功能的手机进行身份证识别和人脸识别，生成不含明文身份信息的虚拟“网络身份证”，用于实名认证，保护个人隐私。

总之，随着AI智能体在网络中的普及，如何证明用户是人类、如何保护隐私成为了亟待解决的问题。PHC作为一种新兴的验证技术，有望在保护用户隐私的同时，证明用户的真实身份。然而，PHC的实施还需要克服一系列挑战，并在政策、技术和社会层面进行深入研究和探讨。