两家日企警告:AI时代“社会秩序可能崩塌”

日本电信电话和《读卖新闻》在周一发布的AI宣言中提出了建议。

图片来源:Toru Hanai/Bloomberg News

日本最大电信公司和该国最大报纸呼吁尽快立法限制生成式AI,称如果任由AI发展,民主和社会秩序可能会崩塌。

日本电信电话(Nippon Telegraph and Telephone, 简称﹕NTT)和《读卖新闻》(Yomiuri Shimbun Group Holdings)在将于周一发布的AI宣言中提出了这一建议。这份宣言以及欧洲议会(European Parliament)今年3月通过的一项限制AI某些用途的法律表明,美国盟友对美国公司一直处于开发前沿的AI项目越来越感到担忧。

日本公司的宣言指出了生成式AI在提高生产力方面的潜在益处,但总体上对该技术持怀疑态度。宣言没有提供具体细节,但表示AI工具已经开始损害人类的尊严,因为这些工具有时会不顾道德或准确性,只为吸引用户的注意力而设计。

宣言说,除非对AI加以控制,否则“在最坏的情况下,民主和社会秩序可能会崩塌,导致战争。”

宣言说,日本应立即采取应对措施,包括制定法律,使选举和国家安全不会因生成式AI的滥用而遭到破坏。

当前全球都在推动对AI的监管,欧盟在这方面走在前列。欧盟新法律要求最强大的AI模型的制造商对其进行安全评估,并向监管机构通报严重事故。欧盟还将禁止在学校和工作场所使用情绪识别AI。

拜登政府也在加强监管,去年10月动用紧急联邦权力,强制要求大型AI公司在开发对国家安全构成严重威胁的系统时告知政府。美国、英国和日本分别成立了由政府领导的AI安全机构,帮助制定AI指南。

尽管如此,民主国家的政府仍在苦苦思索,如何在宪法和其他言论自由保护措施的前提下,对AI驱动的言论(如社交媒体活动)进行监管。

NTT和《读卖新闻》称,它们的宣言是出于对公共言论的担忧。这两家公司在日本政策方面的影响力位居前列。日本政府仍然拥有NTT大约三分之一的股份,NTT以前是政府控制的电话垄断企业。

根据行业数据,《读卖新闻》的早报发行量约为600万份,是日本读者最多的报纸。在已故首相安倍晋三(Shinzo Abe)及其继任者在任期间,该报保守的社论路线在推动执政的自民党(Liberal Democratic Party)扩大军费开支和深化日美同盟关系方面一直很有影响力。

这两家公司表示,自去年以来,它们的高管一直在庆应义塾大学(Keio University)研究人员指导的一个研究小组中研究生成式AI的影响。

《读卖新闻》的新闻和社论经常强调对AI的担忧。去年12月的一篇社论提到美国科技公司纷纷推出新的AI产品,称“AI模型可能教会人们如何制造武器或传播歧视性思想”。文中提到几可以假乱真的政界人士讲话视频带来的风险。

NTT积极开展AI研究,旗下业务部门向企业客户提供生成式AI产品。今年3月,该公司开始向这些客户提供名为“tsuzumi”的大型语言模型,这种模型类似于OpenAI的ChatGPT,但其设计使用的计算能力更低,在日语环境中的效果更好。

NTT发言人说,该公司与美国科技巨头合作,并相信生成式AI具有重要用途,但他说,该公司认为,如果该技术被恶意用于操纵公众舆论,会有特别的风险。

相关报道:

专访:未来AI领域的价值可能会在应用AI的软件中找到