追梦赤子心

超800名科技领袖联合呼吁：停止研发超级智能_我的网站

A |     本文来自微信公众号：财联社 （ID：cailianpress），作者：黄君芝                    包括苹果联合创始人史蒂夫·沃茲尼克（Steve Wozniak）和维珍集团董事长理查·布兰森（Richard Branson）在内的800多名知名人士，近日签署了一份公开声明，要求立即停止超级智能的开发。                   “超级智能”是指在所有领域超越人类认知能力的人工智能系统。                   这个史无前例的联合声明警告称，超越人类智能的人工智能（AI）系统带来了从经济崩溃到人类灭绝的风险。    Sophie 编译 一名警官警告新西兰人，节日期间将严查酒驾和超速。该声明等同于直接向OpenAI、Meta和其他科技巨头正在大肆鼓吹的AI模型竞赛“泼了一盆冷水”，可能成为AI行业的一个重大转折点。         新西兰警方道路警务经理Hamish Chapman说，随着人们急于度假，夏季往往会看到超速驾驶的增加。         Advertise with us          “我们将在全国范围内出动，对超速进行有针对性的打击。”          “我们对超速没有容忍度，限速就是限速。

B |                    据悉，这份联合声明的签名名单包含了世界上最有影响力的科技领袖、科学家和公众人物，甚至就连被广泛认为是现代人工智能教父的约书亚·班吉欧（Yoshua Bengio）和杰佛瑞·辛顿（Geoffrey Hinton）也在其中。

C |                    “超级智能的前景已经引起了人们的关注，其影响从人类经济的落伍和权力的剥夺，自由、公民权力、尊严和控制权的丧失，到国家安全风险，甚至可能导致人类灭绝，”签名者用直言不讳的语言警告说。”          有人询问在超速多少时驾驶员会收到罚单，Chapman回答说：“可能在101（公里/小时）时你不会被拦下，但在任何超过这个速度的情况下，你很可能会被拦下。                   这不仅仅是学术上的绝望。就在这份请愿书发布之际，Meta将其人工智能部门更名为“Meta超级智能实验室”（Meta Superintelligence Labs），而OpenAI和马斯克（Elon Musk）的xAI则陷入了一场越来越公开的竞赛，看谁能首先实现人工通用智能。”          今年夏天，新西兰警方还发起了一项新的宣传活动，以幽默的方式解决超速问题，他们在其中提到了一些他们听到的超速借口。         “对不起，我丈夫说话让我分心了。”          “对不起，我要赶葬礼，快迟到了。”          “我着急上厕所……”这也是警察听到的借口之一。         这次宣传活动的口号是“没有借口，我们都听过了”。                   但这些行业资深人士却在此时呼吁“踩刹车”，希望不要发展太快。         在基督城的一个警察检查站，AM还采访了警官Ben Rutherford，他说警方现在“平均每个月进行的呼气测试是旧部署模式下的三倍”。                   不仅如此，这份联合声明签名者名单的覆盖范围远远超出了硅谷。         “我们抓到了更多的人，人们看到我们的次数也更多了，因为我们在整个城市设立了更多的检查站。

D | ”          他们现在每月对大约1.1万名司机进行呼气测试。         尽管警方因为白天进行呼气测试而受到很多批评，但Rutherford表示白天酒驾确实存在。

E | 前国家安全顾问Susan Rice和前参谋长联席会议主席Mike Mullen都签名支持，这表明了对国家安全的严重担忧。

F |          当被问及人们对清晨检查站的抱怨时，Chapman说：“设立这些检查站的理由很简单，它们实际上是一个道路安全检查站，所以我们关注的不仅仅是酒驾方面。甚至连英国王妃梅根·马克尔也出现在名单上，与特朗普的盟友史蒂夫·班农和格林·贝克一起——这种政治团结实属罕见。”          “我们会检查司机本身，包括检查他们的车辆，确保他们遵守交通规则。

G |                    加州大学伯克利分校（UC Berkeley）的Stuart Russell是一位领先的人工智能安全研究员，多年来一直在对超级智能发出警告，他帮助组织了这项工作。根据他之前的研究，挑战不在于人类能否建立超级智能系统，而是一旦它们存在，人类能否控制它们。”          Chapman说，这些检查站很重要，不仅可以确保司机自己的安全，还可以确保路上其他人的安全。         虽然他承认，警方在早上的停车检查中并没有抓到很多酒驾司机，但他们确实“抓到了一些”，威慑作用也很重要。                   该声明呼吁全面禁止超级智能的发展，“直到公众强烈支持并达成广泛的科学共识，即它可以安全可控地进行。

H | 这是一个很高的标准，它可能会有效地冻结当前人工智能开发的时间表。         “你可能会在任何一天的任何时候接受呼气测试。”                    这份联合声明与此前任何相关警告都不同，这里面的许多人都并非来自“外界”，恰恰相反，他们是建立了今天的人工智能能力的研究人员和企业家。当班吉欧和辛顿之类的顶级科学家——他们的工作使现代大型语言模型得以实现——说“踩刹车”时，整个行业很可能会认真思考。                   不过，接下来会发生什么，可能取决于各国政府如何应对。欧盟已经在实施人工智能法规，美国一直在探索人工智能安全框架。这份请愿书为立法者提供了借口，可以对最先进的人工智能研究实施更严格的控制。         在被主持人Ryan Bridge问及早上开车前的晚上可以喝多少酒时，Chapman说这是很不确定的。         “这取决于许多不同的因素，比如你睡了多久，吃了多少东西，以及你这一周的情况怎么样。”          相关阅读：          夏季严打：奥克兰警方上周末抓到19人酒驾，37名司机被开罚单          圣诞之前一段时间，奥克兰这个地区的警察将全力抓酒驾          过去一年里26.7万新西兰人发生过撞车事故，车险可能还要涨          又一起致命车祸，劳动节假期交通死亡人数升至4人          雪上加霜！新西兰这项生活成本将上涨20%到30%！！          保险公司呼吁车主防患于未然：当心这些常犯的错误          上周末几起车祸造成多人死亡，警方严查不系安全带、酒驾等危险行为          长周末悲剧：一系列严重车祸致四人死亡，多人重伤          长周末前ACC公布最新数据：每个劳动节都有500多人因车祸受伤          注：本文为编译/原创，欢迎转发分享；但严禁复制等未经授权的非法使用。违反上述声明者，本网将追究其相关法律责任。使用授权请联系[email protected]。

I |          chineseherald.co.nz All Rights Reserved 版权所有          (责编：Sophie)          相关内容                奥克兰警方缴获数万纽币假钞，捣毁制假窝点，一名男子被捕           奥克兰北岸发现神秘粉末，一人被送往医院           奥克兰交通局今夏将修复550公里道路，资金削减交通安全如何保障？           午夜时分，奥克兰Albany发生不明原因死亡事件           日子不好过，四分之三的新西兰人选择购买二手礼物           Wayne Brown猛烈抨击新政府，称其用“荒谬”的规定打压奥克兰           奥克兰多所学校和机构今天收到威胁邮件，小学生被疏散           这家汽车厂商在纽澳的网络系统被攻击，客户个人数据有可能泄露。

J |

Current article:http://6lv.shangyaohujunwei.bond/news/20260826_7925430.html

Published on:06:14:29