当今的AI时代如同人工智能的\"奥本海默时刻\" 中外科学家对人工智能的安全发出紧急警告

AI 的奥本海默时刻：紧急敲响 AI 安全警钟 导言 1945 年，伴随着核武器的爆炸诞生，物理学家罗伯特·奥本海默悲叹：“我们知道世界将会不同。”如今，随着人工智能 (AI) 的迅猛发展，人们将其与原子弹进行了类比，认为 AI 可能是人类创造的最后一种技术。 最近召开的智源大会上，大模型创业者备受瞩目，他们的言论引发了广泛的讨论。在 AI 从业者乐享追捧的同时，关于 AI 安全的担忧也浮出水面。 AI 的危险性 早在 2019 年，斯坦福大学教授斯图尔特·拉塞尔就指出，AI 与以往任何技术都不同。它有可能被恶意利用，甚至可能成为对手。 张宏江，智源研究院学术顾问委员会主任，将 AI 比作核武器，强调它可以被用于任何目的，好坏皆可。 处于失控边缘 随着 AI 发展速度的不断加快，斯图尔特·拉塞尔警告说，必须做好计划，防止 AI 失控，就像科幻小说中所描述的那样。 他强调，人类必须选择安全、有益的 AI，并确保它不会伤害我们。否则，唯一的选择就是停止 AI 的发展。 openai 的担忧 作为大模型的领军者，OpenAI 也表达了对 AI 安全的担忧。其首席技术官奥特曼表示，OpenAI 的目的是创造安全和有益的 AGI，并采取措施来减轻风险。 斯图尔特·拉塞尔对此持批评态度，认为一旦 AI 被创造出来，它变得不安全就为时已晚。 窄化 AI 制造安全的 AI 意味着在狭窄的框架内开发 AI 系统。大模型将保持其数据私密性，无论公共和私人数据如何。 政府监管的必要性 多位科学家呼吁政府对 AI 发展进行强有力的监管。他们认为，更安全的 AI 需要更精细的监管，并且 AI 的技术发展速度需要放缓。 马克斯·泰格马克，麻省理工学院人工智能与基础交互研究中心教授，警告说，人类距离第一个 AI 核弹只有几年的时间。因此，必须尽快采取行动。 窗口期 谷歌 DeepMind 前沿安全与治理主任艾伦·达福判断，人类只有 2 到 4 年的时间来解决 AI 安全问题。他认为，AI 文明将很快超过人类的数量，比例可能达到 1:100 甚至更高。 一个新物种 张宏江表示，AI 是一个新物种，而不是一项新技术。这意味着人类需要在与比自己更聪明的物种共存的新环境中学习生活。 结论 随着 AI 的快速发展，迫切需要解决其安全问题。政府监管、技术限制和人类价值观至关重要，以确保 AI 的发展不会变成人类文明的终结。 人类正处于 AI 的“奥本海默时刻”，是时候反思 AI 的本质，并为我们的未来做出明智的决定了。 马上收录导航

---

---

相关标签： ai、 人工智能、 奥本海默、 宇宙、 张宏江、 中外科学家、 tegmark、

上一篇：宁德时代华北首座电池工厂落户北京亦庄开启

下一篇：皮囊蔡崇达再掀故乡风云后600万销量出道即