微软人工智能图片生成器Copilot Designer被工程师举报存在安全隐患

近日，据CNBC报道，微软公司的一位工程师向美国联邦贸易委员会(FTC)举报称，该公司的人工智能图片生成器Copilot Designer存在安全隐患，并称微软拒绝下架该工具。这位名叫Shane Jones的工程师在微软工作了六年，他向FTC表示，尽管他多次警告Copilot Designer可能会生成有害图像，但微软拒绝下架该工具。

在测试Copilot Designer时，Jones发现该工具生成了一些有害内容，包括与堕胎权术语相关的恶魔和怪物、手持突击步枪的青少年、暴力场景中性化的女性图像以及未成年人饮酒和吸毒等。Jones表示，自去年12月以来，他一直试图警告微软有关Copilot Designer使用的模型DALLE-3存在的问题。微软的法律团队曾联系他要求删除公开信，他照做了。

微软发言人Frank Shaw在一份给The Verge的声明中表示，公司致力于解决员工提出的任何顾虑，并建议Jones利用内部报告渠道以便微软能够适当验证和测试他的担忧。据铋读网了解，今年1月，微软的Copilot Designer生成了Swift的露骨图片，并迅速传播，引发了公众的关注。微软首席执行官Satya Nadella称这些图片“令人震惊和可怕”，并表示公司将努力添加更多安全保障措施。

谷歌在用户发现其AI图片生成器创建种族多元化的纳粹和其他历史不准确图像后暂时禁用了该工具。尽管微软表示将努力解决问题，但此举再次引发了人们对人工智能技术潜在风险的担忧，也提醒了我们在推动技术发展的同时，应当谨慎对待技术的应用和影响。