FX168财经报社(北美) 在2024年美国大选日临近之际,OpenAI公司宣布,旗下的AI模型ChatGPT在选举前夕拒绝了超过25万次生成总统候选人图像的请求。
OpenAI在周五的博客中表示,这些被拒请求涉及2024年大选的主要候选人,包括当选总统唐纳德·特朗普、副总统卡马拉·哈里斯、总统乔·拜登、明尼苏达州州长蒂姆·沃尔兹以及当选副总统JD万斯。
此类控制措施是为防止AI技术生成的虚假信息对选举结果产生误导性影响。
生成式AI的普及引发了外界对信息真实性的担忧,尤其是在选举期间可能造成的误导。据机器学习公司Clarity的数据显示,深度伪造视频数量同比激增了900%,其中一些视频甚至由俄罗斯资助,意图干扰美国选举。
对此,OpenAI已采取严格措施,在10月的一份长达54页的报告中表示,已打击了来自全球20多个利用其模型进行虚假宣传的欺诈网络。这些网络试图通过AI生成的文章和社交媒体虚假账户来干扰选举,但OpenAI强调,至今没有任何行动成功获得病毒式传播。
OpenAI的发言人在周五的声明中重申,目前尚未发现证据表明,通过其产品进行的秘密干预行动对美国大选产生了实质性影响。
尽管如此,随着生成式AI技术的普及,立法者对虚假信息传播的隐忧日益增加。大型语言模型的准确性和可靠性仍存在问题,常常产生误导性内容。
民主与技术中心首席执行官亚历山德拉·里夫·吉文斯(Alexandra Reeve Givens)上周在接受CNBC采访时强调:“选民不应依赖AI聊天机器人获取有关投票或选举的信息。人们对其准确性和完整性有太多担忧。”