超过 1100 名杰出科技人物、领导者和科学家撰写了一封公开信，警告人工智能技术可能对人类构成严重威胁，应暂停超越 ChatGPT 的人工智能开发。
在旨在减少全球灾难和风险的非营利组织未来生命研
究所（FLI）发表的一封公开信中，苹果公司联合创始人史蒂夫·沃兹尼亚克和太空公司“人工智能可能对社会和人类构成重大风险，”他说。说。
这封公开信呼吁暂停对生成式人工智能平台的升级六个月，其中包括大规模语言模型（LLM）GPT-4，它是流行的 NLP 聊天机器人“ChatGPT”的基础。他还尖锐地质疑尖端人工智能是否会导致“人类文明失去控制”。
这封信还警告说 政治会 破坏民主 因为行为像人
类的聊天机器人可能会在社交 阿联酋电话号码数据 媒体和其他网络上传播宣传和谎言。他补充说，人工智能“可以自动化所有工作”。因此，这封信敦促社会领导人，而不是科技行业，应该对人工智能部署范围的决策负责。例如，他认为政策制定者应与人工智能行业合作，加速发展强大的人工智能治理体系。他们还建议使用出处和水印系统来区分真实内容和合成内容并跟踪模型泄漏，以及强大的审计和认证生态系统。
信中说：“今天的人工智能系统正在进步到可以在常见任务中与人类竞争的水平。” 我们是否应该开发出数量超过人类、更智能、能够取代人类的工具，同时让它们变得过时？我们是否应该冒险失去对人类文明的控制？“这些决定不应委托给技术领导者。” 与此同时，英国政府发布了一份白皮书
概述了其监管通用人工智能的计划 称将避免可能扼
Gartner Research 副总 HN 列表 裁兼分析师 Aviva Litan 表示，IT 领导者的警告是准确的，目前还没有任何技术可以保证 GPT-4 等 AI 工具生成的信息的真实性或准确性。“更令人担忧的是 OpenAI 已经计划在大约六个月内发布 GPT-4.5，并在另外六个月内发布 GPT-5。我认为这就是为什么信中提到“暂停 6 个月的开发”。“人工智能正在全速前进。
