Microsoft AI工程师警告FTC注意Copilot Designer安全问题lg...

据CNBC报道，一名Microsoft工程师正在向联邦贸易委员会提出有关该公司AI图像生成器的安全问题。在Microsoft工作了六年的Shane Jones给FTC写了一封信，称Microsoft“拒绝”删除Copilot Designer，尽管一再警告该工具能够生成有害图像。

据CNBC报道，在测试Copilot Designer的安全问题和缺陷时，琼斯发现该工具生成了“恶魔和怪物以及与堕胎权相关的术语，使用突击步枪的青少年，暴力场景中女性的性感图像以及未成年人饮酒和吸毒”。

此外，据报道，Copilot Designer在加沙地带的场景中生成了迪士尼角色的图像，例如《冰雪奇缘》中的艾尔莎，在“被毁坏的建筑物和'自由加沙'标志前”。它还创造了艾尔莎穿着以色列国防军制服，同时拿着带有以色列国旗的盾牌的图像。The Verge能够使用该工具生成类似的图像。