5 月16 日，美国国会召开主题为“AI 监管：人工智能规则的听证会”，首次对OpenAI 创始人Sam Altman质询，ChatGPT 和其他生成式AI 工具的不断出现引发了美国立法者对AI 安全的担忧，参议院表示该场听证会开启了对人工智能先进算法和强大技术的监督和阐释工作。
点评
AI 技术监管意义重大，Altman 建议引进监管机制。在听证会上，Altman 表示AI 技术的迅速发展无疑将会增加潜在风险和滥用，可能对世界造成的重大伤害，他认为加强AI 技术监管，并引入政府监管在确保AI 技术负责任的发展方面是十分重要的。此外，在监管措施方面，Altman 还提出了一个成体系的有准备的方案：1）成立一个新的政府机构，负责 LLM 的授权，同时也有权撤销不符合标准公司的许可证；2）为 AI 模型建立一套安全标准，对其危险性进行评估；3）需要*专家对模型的各个指标进行*评估。我们认为Altman 对技术的担忧是合理的，只有制定相关监管措施，才能确保AI 的安全和道德的发展。
AI 集中度提高有利有弊，OpenAI 或将涉足广告业务。在听证会中，议员对于企业在AI 领域的高度集中和垄断表示担忧，但是Altman 指出，目前只有少数的供应商能制造生成式AI 大模型，但是在AI 领域的竞争是足够的。集中度的提高有利有弊，虽然增加了垄断风险但是因为真正需要密切关注的目标较少，所以反而易于监管。我们认为，AI 领域具备很强的潜在多样性和创新性，因此如果使用不当破坏性也是巨大，将风险控制在少数公司上或许有利于AI 技术的发展。此外，Altman 还提到，OpenAI 有可能涉足广告业务，虽然他个人喜欢订阅模式，且广告模式不适用于AI 系统，但存在潜在客户只接受广告模式的情况。他认为AI 不会重蹈社交网络和算法推荐的覆辙，OpenAI 在探索商业模式时将更注重用户订阅和价值交换，而非依赖广告收入。
推动AI 技术全球合作，加强监管和规范化。面对议员提出的AI 是否会像社交媒体一样成为新的数字殖民工具，Altman 提到OpenAI 关注并致力于推动AI 技术的全球化和包容性发展，最新版本的ChatGPT 在支持多种语言方面已经取得了很大进展，OpenAI 愿意与合作伙伴合作，将更多小语种纳入模型。此外，Altman 认为美国1996 通过的针对社交媒体的条款已经不适用于人工智能，他主张建立类似国际原子能机构的组织，旨在为AI 制定全球规则，以确保其安全和可持续性发展。
风险
人工智能发展不及预期；政策风险等。
查看资料
收藏
顶 
踩 
