模型信息
【模型公司】 OpenAI
【模型名称】 gpt-4-0125-preview
【摘要评分】 ★★★★★
文章摘要
【关 键 词】 AI图像生成、色情暴力、微软Copilot、内部举报、版权问题
不久前，Gemini 关闭了文生图功能，现在微软也面临类似问题。微软 AI 工程主管 Shane Jones 发现公司的 Copilot Designer 产品能生成色情与暴力内容，但微软未采取行动。Jones 向美国联邦贸易委员会（FTC）和微软董事会发出警告，此前他因公开披露这些问题而受到法律部门压力。
Copilot Designer，由微软在 2023 年 3 月推出，技术支持来自 OpenAI，能根据文本提示生成图片。Jones 的测试发现，该工具生成的图像常违背微软所宣称的负责任 AI 原则，包括恶魔、怪物、堕胎权、携带半自动步枪的青少年、带有暴力因素的女性色情图像，以及未成年人饮酒和吸毒相关画面。
尽管微软承认问题存在，但拒绝下架产品。Jones 曾被推荐给 OpenAI，但未得到回应。他在 LinkedIn 上发布公开信，要求下架 DALL-E 3，但被要求删除帖子。今年一月，他向美国参议员发函，表达了对生成式 AI 缺乏护栏的担忧。
Jones 的行动引发了公众讨论。一些网友认为，人工智能生成的内容物化女性并不必然，而政府不应干预道德问题。但也有支持者赞扬 Jones 的行为，认为促进负责任的 AI 发展至关重要。微软已经在尝试解决这些问题，例如在输入某些提示词时自动阻止生成图像。
此外，AI 图像生成工具对版权保护的忽视也是一个问题，能够生成迪士尼角色等可能违反版权法的图像。Jones 强调，除了版权问题，还缺少其他重要的护栏机制。
AICon 全球人工智能与大模型开发与应用大会即将开幕，主题为「智能未来，探索 AI 无限可能」，展示了人工智能领域的最新发展和应用。
原文信息
【原文链接】 阅读原文
【阅读预估】 3099 / 13分钟
【原文作者】 AI前线
【作者简介】 面向AI爱好者、开发者和科学家，提供大模型最新资讯、AI技术分享干货、一线业界实践案例，助你全面拥抱AIGC。
