距离乔·拜登总统发布这一政策还不到两天 行政命令 呼吁建立广泛的监管框架,以确保人工智能(AI)的蓬勃发展以安全的方式进行。
拜登命令指示多个政府机构为开发商制定有关安全、隐私和欺诈的规则和标准。 它利用《国防生产法》要求人工智能开发人员共享他们训练的模型的安全和测试数据,以防止对国家和经济安全造成任何威胁。
政府还计划制定对人工智能生成的内容加水印的指南,并制定标准以防范化学、生物、放射性、核和网络安全风险。
与顶级分析师合作,例如 欧亚集团创始人兼作家 Ian Bremmer 警告称,颠覆性技术对人类构成的威胁比气候变化更大,人们会认为拜登对人工智能热潮的反应是理性、负责任和值得称赞的。
另请参阅:G7 同意人工智能行为准则以限制技术威胁风险
的确, 许多科技巨头表达了担忧 今年关于人工智能系统对社会和人类的潜在风险。
拜登的命令是在同一天发出的 七国集团国家 同意人工智能公司的“行为准则”,其中包括一项名为“广岛人工智能进程”的 11 点计划。
但并非所有人都欢迎白宫的最新努力。
“人工智能的威胁被夸大了”
吴恩达谷歌大脑创始人之一,斯坦福大学教授,曾向 OpenAI 联合创始人教授机器学习 萨姆·奥特曼,表示大型科技公司夸大了人工智能的风险。
吴恩达在接受采访时表示,人工智能可能导致人类灭绝的说法是大型科技公司提出的一个“坏主意”,因为它们希望引发严格监管,从而减少人工智能领域的竞争。 澳大利亚金融评论。
吴教授表示,人工智能造成了伤害,例如自动驾驶汽车杀人和 2010 年股市崩盘。他同意人工智能应该受到“深思熟虑的监管”。
科技公司需要保持透明,以避免十多年前社交媒体带来的负面影响。
但他表示,对人工智能行业施加繁重的许可要求是一个“非常愚蠢的想法”,会压制创新。
“肯定有一些大型科技公司宁愿不必尝试与开源竞争 [AI],所以他们正在制造对人工智能导致人类灭绝的恐惧。”
吴恩达可以被描述为人工智能乐观主义者。 然而,许多人似乎对这些巨大技术变革的速度感到担忧。
AI Deepfakes 已经在流传
欧亚集团分析师 Nick Reiners 指出,人工智能开发者的自愿行为准则现已成为一项法律义务,由华盛顿“按照政府标准以令人印象深刻的速度”执行。
GZERO AI 博客周三指出,人工智能生成的媒体已经在传播,而且可能是无害的,例如今年早些时候病毒式传播的弗朗西斯教皇穿着白色羽绒服的图像。
“但这也可能是危险的——专家多年来一直警告说,深度造假和其他合成媒体如果被恶意使用并被足够多的人相信,可能会造成大规模混乱或扰乱选举。 换句话说,它可能会加剧已经普遍存在的虚假信息问题。
人工智能还渗透到了美国国内的政治竞选活动中。
“四月份,共和党全国委员会召开了一次 AI 生成的广告 描绘了乔·拜登的反乌托邦第二个总统任期。 (而且)7 月,佛罗里达州州长兼总统候选人罗恩·德桑蒂斯 (Ron DeSantis) 在攻击对手的广告中使用了人工生成的唐纳德·特朗普 (Donald Trump) 声音。
“谷歌最近规定,如果使用人工智能,政治广告必须提供书面披露,一群美国参议员希望签署一项类似的法律成为法律……我们已经有足够多的人怀疑没有人工智能影响的自由和公平选举。”