成吉思汗

超800名科技领袖联合呼吁：停止研发超级智能_我的网站

一 |     本文来自微信公众号：财联社 （ID：cailianpress），作者：黄君芝                    包括苹果联合创始人史蒂夫·沃茲尼克（Steve Wozniak）和维珍集团董事长理查·布兰森（Richard Branson）在内的800多名知名人士，近日签署了一份公开声明，要求立即停止超级智能的开发。

二 |                    “超级智能”是指在所有领域超越人类认知能力的人工智能系统。    1月13日，泰国总理佩通坦在政府大楼举行新闻发布会期间与记者交谈。图源/视觉中国1月15日上午，泰国总理佩通坦主持了一场研讨会的开幕式。                   这个史无前例的联合声明警告称，超越人类智能的人工智能（AI）系统带来了从经济崩溃到人类灭绝的风险。

三 | 该声明等同于直接向OpenAI、Meta和其他科技巨头正在大肆鼓吹的AI模型竞赛“泼了一盆冷水”，可能成为AI行业的一个重大转折点。

四 | 会上，她首次公开分享了自己近期遭遇的一次电诈经历，以此警示公众提高防骗意识。                   据悉，这份联合声明的签名名单包含了世界上最有影响力的科技领袖、科学家和公众人物，甚至就连被广泛认为是现代人工智能教父的约书亚·班吉欧（Yoshua Bengio）和杰佛瑞·辛顿（Geoffrey Hinton）也在其中。佩通坦表示，她最近接到了一通来自电诈团伙的电话。对方利用AI技术冒充外国领导人，并使用了与该领导人极为相似的声音与其进行通话，同时还通过剪辑和交谈来营造一种真实的氛围。                   “超级智能的前景已经引起了人们的关注，其影响从人类经济的落伍和权力的剥夺，自由、公民权力、尊严和控制权的丧失，到国家安全风险，甚至可能导致人类灭绝，”签名者用直言不讳的语言警告说。

五 |                    这不仅仅是学术上的绝望。

六 | 并且，这个诈骗电话所使用的号码，看起来也是正常的号码。

七 | 就在这份请愿书发布之际，Meta将其人工智能部门更名为“Meta超级智能实验室”（Meta Superintelligence Labs），而OpenAI和马斯克（Elon Musk）的xAI则陷入了一场越来越公开的竞赛，看谁能首先实现人工通用智能。佩通坦回忆，她接到这通电诈电话时，首先听到的是“早上好，泰国总理”的问候。在接下来的交谈中，对方的声音确实就是那位外国领导人的声音。                   但这些行业资深人士却在此时呼吁“踩刹车”，希望不要发展太快。                   不仅如此，这份联合声明签名者名单的覆盖范围远远超出了硅谷。在聊了一会儿之后，对方说到佩通坦尚未就某个项目进行捐款并发来链接，试图让佩通坦通过该链接进行捐款。前国家安全顾问Susan Rice和前参谋长联席会议主席Mike Mullen都签名支持，这表明了对国家安全的严重担忧。

八 | 甚至连英国王妃梅根·马克尔也出现在名单上，与特朗普的盟友史蒂夫·班农和格林·贝克一起——这种政治团结实属罕见。

九 | 但这个链接并非指向泰国的捐款页面，而是来自另一个国家的捐赠链接。佩通坦称，因为声音的相似度极高，自己几乎快要相信对方的身份和说辞了。佩通坦说，当晚11点，对方再次打来电话，当自己早上醒来看到信息时，感到很震惊，于是便回消息表达了歉意，并预约了再次通话的时间。                   加州大学伯克利分校（UC Berkeley）的Stuart Russell是一位领先的人工智能安全研究员，多年来一直在对超级智能发出警告，他帮助组织了这项工作。根据他之前的研究，挑战不在于人类能否建立超级智能系统，而是一旦它们存在，人类能否控制它们。随后，对方又发来了一段募捐视频，这次她发现，对方发来的转账账户并不是对方所声称国家的账户，而是来自另一个国家，于是怀疑这是一通诈骗电话。                   该声明呼吁全面禁止超级智能的发展，“直到公众强烈支持并达成广泛的科学共识，即它可以安全可控地进行。之后，她联系了副总理兼数字经济与社会部长，请对方帮忙查看核对，最终确认这是诈骗电话。这是一个很高的标准，它可能会有效地冻结当前人工智能开发的时间表。

十 | 佩通坦强调，电诈手段变得越来越先进、顺畅和微妙，以至于人们很容易上当受骗。据泰国《民族报》《曼谷邮报》等媒体1月7日报道，泰国数字经济与社会部计划颁布一项紧急法令，以打击日益猖獗的网络诈骗。

十一 | ”                    这份联合声明与此前任何相关警告都不同，这里面的许多人都并非来自“外界”，恰恰相反，他们是建立了今天的人工智能能力的研究人员和企业家。根据新颁布的法令，所有金融机构和移动通信运营商应加大力度保障用户安全，如用户在享受上述两个行业提供的服务期间遭到诈骗，相关责任方需对用户进行赔偿。当班吉欧和辛顿之类的顶级科学家——他们的工作使现代大型语言模型得以实现——说“踩刹车”时，整个行业很可能会认真思考。泰国副总理兼数字经济与社会部部长巴瑟当日表示，这项紧急法令将在本月内生效。红星新闻记者 沈杏怡编辑 郭宇 责编 李彬彬（下载红星新闻，报料有奖！）。                   不过，接下来会发生什么，可能取决于各国政府如何应对。

十二 | 欧盟已经在实施人工智能法规，美国一直在探索人工智能安全框架。这份请愿书为立法者提供了借口，可以对最先进的人工智能研究实施更严格的控制。

Current article:http://9rxd.gamajionghuanmuniuzhuanguchu.cyou/news/20260826_533660.html

Published on:17:30:45