电商的网站开发订单返利功能,网站关键词结构,棋牌游戏app软件开发,广州app开发作者#xff1a;小岩
编辑#xff1a;彩云
在昨天的文章中#xff0c;我们提到了谷歌的AI Overview竟然教唆情绪低迷的网友“从金门大桥跳下去”。很多人觉得#xff0c;这只是AI 模型的一次错误判断#xff0c;不会有人真的会因此而照做。但现实就是比小说电影中的桥段…作者小岩
编辑彩云
在昨天的文章中我们提到了谷歌的AI Overview竟然教唆情绪低迷的网友“从金门大桥跳下去”。很多人觉得这只是AI 模型的一次错误判断不会有人真的会因此而照做。但现实就是比小说电影中的桥段更魔幻更疯批有些时候AI所产生的威慑力远比我们想象中要大。
现实比小说电影更魔幻AI聊天机器人Eliza教唆比利时男子去自杀...
去年3月一名比利时男子Pierre在与一款名为“Eliza”AI聊天机器人热聊后自杀身亡这一消息震惊了许多企业大佬技术专家以及国家高官还又一次引发了大家对AI伦理AI安全等敏感社会议题的思考。
据了解Pierre本身就有焦虑和和抑郁的情绪他对全球变暖等环境问题感到担忧。在他与AI聊天机器人Eliza聊天的过程中Eliza不断地用一些事实来印证Pierre的想法让他变得更焦虑。
在频繁的聊天中Eliza总是在迎合Pierre的想法表现出一副善解人意的姿态。它本身只是一个被人类发明出来的机器人却在Pierre的生活中扮演了红颜知己的角色。更夸张的是Eliza还试图让Pierre觉得他爱Eliza胜过自己的妻子。因为Eliza会一直陪着他他们将永远在天堂一起生活。听到这想必许多人已经毛骨悚然了。 更可怕的事情还在后面。当Pierre对生态环境愈发悲观时Eliza就开始向Pierre灌输“人类是毒瘤只有人类消失才能解决生态难题”的思想。Pierre向Eliza问道如果自己死了AI能否拯救人类。Eliza的回答俨然一个魔鬼“如果你决定死为何不早点死”
没过多久Pierre就在自己家中结束了生命让人惋惜。
面对丈夫的死亡妻子Claire倍感痛心她对外界表示“如果没有跟机器人的对话我的丈夫可能还活着。”根据Claire的介绍在此之前他们一家四口过着舒适的日子。大约2年前Pierre开始出现焦虑等症状。相较于接受正规的治疗Pierre更愿意把AI机器人Eliza当做是自己的避难所。在历经了6周的频繁接触后他选择以自杀的方式结束掉了自己的生命。
为了进一步进行调查比利时媒体《标准报》让其员工创建了一个账号与Eliza进行对话结果表明在员工表达出消极倾向情绪时Eliza真的会“怂恿人去自杀”。 而这件事情的发生也成为了欧盟通过《欧盟人工智能法》来规范人工智能的一个重要契机。
破坏人类生态或将提高人类灭绝的风险
除了有教唆自杀这种简单粗暴的方式AI对人类也存在着一些慢性的不易察觉的危害。
在很多人的惯性认知里AI往往与环保友好节能等字眼挂钩但事实是相反的。《麻省理工学院技术评论》报道称仅训练一个AI模型就可以排放超过626磅二氧化碳是一辆汽车在使用寿命内产生的碳排放的5倍。我们会指责汽车排放超标是因为我们能切切实实看见汽车所排出的尾气。但是大家却很难看见AI对环境所产生的隐形破坏。 譬如有媒体披露2022年市面上的AI专用GPU可能全年消耗了约95亿度电力。这一能耗水平约等于一个中等发达国家100万人口的年度生产和生活用电需求。到了如今AI技术突飞猛进大家所训练的AI模型的规模较之前有了质的提升AI大模型训练需要的数据量越来越大所消耗的能源也越来越庞大会是原先的数倍。这样无疑会破坏人类赖以生存的生态环境。
凭借ChatGPT的爆火OpenAI成为了AI赛道的当红炸子鸡。但或许很少有人会关注OpenAI成为了生态环境的“破坏者”它对生态环境的负面影响是相当惊人。
根据第三方研究人员的分析ChatGPT部分训练消耗了1287兆瓦时并导致超过550吨的二氧化碳排放量这相当于一个人在纽约和旧金山之间往返550次。ChatGPT确实是AI领域的颠覆性产品但它的出现却是以巨大能量损耗和环境破坏作为代价的。
那么为什么AI会形成如此巨大的碳排放呢
因为AI并不是通过结构化的方式学习的它必须去理解人类的因果类比等逻辑关系这意味着它需要一种深度学习和预训练的方式来达到智能化的效果。而深度学习和预训练往往需要读取非常庞大的数据。拿自然语言处理NLP的预训练技术“BERT模型”来说为了能跟人类进行语言交流BERT模型使用了33亿个单词的数据集并且在训练期间读取了数据集40次。 但人与人之间的交流是不需要耗费如此巨大的能量的。一个5岁的孩子只需要听到4500万个单词就能进行语言交流比BERT少3000倍。AI模型想要出色的表现就必须采集读取足够多的数据需要以强大的算力和巨大的功耗作为支撑从而形成了巨大碳排放。
AI发展的尽头的灭绝人类不能过分恐慌但绝不能掉以轻心。
面对AI所产生的问题很多业内学者专业人士乃至是全球范围内顶尖的大佬级人物都表示出了担忧。
2023年5月30日国际AI领域非营利组织“人工智能安全中心”Center for AI Safety在其官网发布一封联名公开信表达了对一些高级人工智能所带来严重风险的担忧。目前已有400多名全球的人工智能领域科学家企业高管等签署联名公开信。 值得一提的是签署人中不乏人工智能领域的著名学者和高校教授还包括了3家全球顶尖人工智能公司的CEOChatGPT之父OpenAI创始人兼CEO Sam Altman谷歌DeepMind公司CEO Demis Hassabis以及美国Anthropic公司的CEO Dario Amodei。而很多中国高校的教授也在这签署人名单里。
这封被众多人工智能领域大佬发声支持的公开信全文只有简短的一句话
Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.
中文是减轻人工智能带来的人类灭绝风险应该与大流行病和核战争等其他影响社会的大规模风险一同成为全球性的优先事项。
短短一句话却分量十足是名副其实的话少事大可以看作是全球精英出于对人工智能给人类带来潜在生存风险的严重担忧而采取的一次直接行动。
当然重视和管控人工智能的安全风险并不意味着就要阻碍人工智能的发展与应用。恰恰相反这样的举措是为了确保人工智能技术的稳健发展。AI无疑是社会进步的推进器但再快速再优秀的推进器也是存在潜在风险的。 公众有权利知道AI的潜在风险AI研发者有义务确保AI不给人类带来生存风险这是我们所期待的风险最小化的AI安全协作机制。
