让ChatGPT总裁每晚难以入眠的三大噩梦
根据“Digital Trends”网站的报道，OpenAI首席执行官山姆·奥特曼表达了他对人工智能技术及其可能发展情景的担忧，并指出其中几个让他彻夜难眠的原因。
报道称，奥特曼是在美联储主办的一场活动中发表上述言论的，当时有人问他是什么让他夜不能寐，山姆·奥特曼也登台亮相。
奥特曼是在美国联邦储备委员会举办的一场活动上发表上述言论的。他在活动舞台上被问及“有哪些事情让你夜不能寐”时，做出了回应。
他将令他感到担忧的人工智能发展情境总结为三大主要方面：
1-恶人率先获得超级人工智能
奥特曼就此观点作出解释，他表示，美国的“邪恶行为者或敌人”可能会在我们创造出能够自我保护的超级人工智能之前，获得超级人工智能技术，并利用它来攻击重要设施。
据“Digital Trends”报道，奥特曼进一步说明道：“所以，一个敌对国家的人可能说：我要利用超级智能设计生物武器，干扰美国的电网系统，入侵金融系统并窃取所有人的财产。”
奥特曼指出，人工智能在生物武器设计和网络安全攻击方面的能力正迅速增强，他的团队也不断就这些潜在风险向他发出警告。
2-对人工智能模型失去控制
报道称，奥特曼表示，他的一个担忧是，人工智能将开始为自身生存而采取行动，并发展出自己的意识，这将使其拒绝用户给它的命令。
他表示，随着人工智能逐渐演化为超级模型并变得更加全能，这种担忧变得日益现实。
奥特曼补充说，在OpenAI内部，他专门设立了一个安全团队，致力于为人工智能设置防护机制，避免出现此类失控情况。
3-人工智能模型主宰世界
尽管这种设想听起来像是来自科幻电影的情节，但奥特曼坦言，他确实对此感到焦虑。
他说：“当人工智能模型变得与社会密不可分……我们甚至都搞不清它们到底在做什么，但我们又依赖它们。在没有任何人心怀恶意的前提下，社会可能就此偏离原有轨道。”
他指出，未来可能会出现一位美国总统，把国家治理交给人工智能模型，因为它们的能力已经远超人类理解。
奥特曼还质疑某些专家声称自己能够预测人工智能未来的言论，他表示：“这项技术的发展速度太快、太独特，以至于几乎无法预测其对社会的影响。”