AI来了，新奇之余担忧显现

2023年对AI（人工智能）来说意味着什么？每个人可能都有自己的答案。这一年，AI真正进入公众视野。这一年，聊天机器人和其他生成式AI技术迎来爆发。也是这一年，政府及其他组织开始认真对待AI的风险。

在一组“照片”上，美国前总统特朗普狼狈地被一群警察追逐，并在混乱中被制伏。当时恰逢特朗普面临刑事诉讼，这些图片一时间引发了震惊和困惑，但很快被证实是AI生成的假照片。

类似的案例越来越多，担忧随之而来。AI技术使得虚假信息变得更加难以鉴别，可能被用于诈骗，也可能被用于影响舆论和选举。2024年将是全球选举大年，多国将迎来大选，AI技术将成为选举中的不确定因素。

监管AI的呼声渐起。从一封科学家和研究人员联名呼吁暂停开发AI公开信，到我国首个AI监管文件，再到全球首届AI安全峰会和欧盟首部“AI法”……这一年，AI安全已经上升为全球政治的中心话题之一。

生成式AI爆发

去年年底，一款新的AI聊天机器人问世，它以近乎人类的文字运用能力进行沟通。不久之后，更多的AI系统不仅生成文字，还生成图像、音频、视频和音乐等。这些系统被称为生成式AI。

人们渐渐开始使用AI进行娱乐、学习、写作、编程、制作图像和视频等。广告业开始通过AI帮助生成广告。科技服务公司使用AI帮助客户修复技术漏洞。艺术家运用AI创作艺术作品。众多企业开始寻求将生成式AI工具集成到其现有产品或服务中去。

英国一家研究机构11月发布的调查报告显示，英国约五分之四的青少年正在使用生成式AI工具，澳大利亚约三分之二的员工在工作中使用生成式AI。

甚至新的工作岗位开始出现，比如提示词工程师，他们通过设计适当的提示词，合理利用不同的AI模型，实现最优的输出内容。

业内人士预测，AI发展的下一个里程碑将是生成式AI系统变得更加多模态，即它能够处理文本、图像、音频、视频等多种类型的数据，这意味着AI将对现实世界有更深入的理解。

开启“潘多拉”之盒？

然而，新奇之余，担忧也开始显现。

在世界各地，学生开始让AI代写论文、作答家庭测验，引发了教育界的担忧，一些学校不得不禁止学生使用AI工具。

AI聊天机器人在回答中常常犯事实性错误。它们以绝对肯定的语言撒谎或胡言乱语。研究人员称这种现象为“幻觉”。开发AI聊天机器人的公司警告说，不能全部相信聊天机器人所说的话。

AI换脸和声音克隆技术被用于网络诈骗。不法分子可以使用这些新技术在视频通话中模拟他人的面部和声音，令人一时难以辨别真伪。

据追踪虚假信息的组织NewsGuard在12月发布的报告，自今年4月以来，该组织记录的利用AI制造假新闻的网站从49个激增至600多个，增长11倍有余。

9月，在斯洛伐克，全国选举投票日前夕，一段听起来像是一名候选人的声音的音频在社交媒体传播，音频中的声音似乎在描述通过贿赂部分选民来操纵选举的计划。事后，核查人员指出，音频有AI伪造迹象。

10月，阿根廷举行大选，两名领先候选人的团队和支持者都使用AI生成了大量宣传内容，被媒体称为全球首个“AI大选”。

分析人士认为，美国、印度、俄罗斯、墨西哥等国都将在明年迎来全国选举，AI制作的宣传内容和虚假信息预计都将出现大幅上升，可能成为影响选举的一大因素。

抢走人类“饭碗”？

对大众而言，更大的担忧或许是AI可能会取代人类的工作。

当生成式AI工具可以生成文字、图像、音乐、声音、代码等内容时，它们似乎威胁到任何从事相关领域工作的人。

今年5月，在美国，好莱坞编剧举行罢工，要求制片方禁止使用AI生成剧本，他们担心自己的工作会被AI取代。

高盛公司的一份评估报告预测，未来，生成式AI将可以取代目前人类工作岗位总量的四分之一，仅在欧盟和美国，3亿个人类工作岗位可能因AI而消失。不过，生成式AI也会造就许多高创造力的新岗位。

美国未来学家马丁·福特认为，在AI面前，短期内相对安全的职位有三类：真正创新性的工作，比如提出新的商业策略和法律策略等；需要复杂人际交往的工作，比如护士、商业顾问和调查记者；需要大量移动性和灵巧度的技术工种，比如电工、管道工、焊工等。

把AI管起来

AI技术爆发式发展，AI监管随之而起。

3月，一批AI科学家和研究人员呼吁暂停AI开发六个月。“只有当我们确信其影响将是积极的，其风险将是可控的时候，才应该开发强大的AI系统。”他们在信中说。

当然，AI开发没有因为这封信而暂停。但这封信传达了一个强烈信号，即人类已经到了需要关注AI带来的风险的时刻了。

同月，联合国教科文组织总干事奥德蕾·阿祖莱发表声明，呼吁各国尽快实施该组织通过的《人工智能伦理问题建议书》，为人工智能发展设立伦理标准。

7月，中国政府发布《生成式人工智能服务管理暂行办法》，以促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

10月，美国总统拜登签署行政命令，推动15家AI领域领军企业自愿承诺推动安全、可靠和可信的AI发展的工作，并建立AI安全的新标准。

11月，首届全球人工智能（AI）安全峰会在英国举办，包括中国、美国、英国在内的28个国家及欧盟共同签署了《布莱切利宣言》，承诺以安全、以人为本、值得信赖和负责任的方式设计、开发、部署和使用AI。

12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议，该法案经过多年辩论，为AI应用设置了规则和风险分级制度，这是全球首个针对AI的主要法规。