长宁区网站建设,突唯阿网站seo,专业做化妆品的网站有哪些,微信服务平台开发来源: 量子位 微信号#xff1a;QbitAI “AI确实可能杀死人类。”
这话并非危言耸听#xff0c;而是OpenAI CEO奥特曼的最新观点。 而这番观点#xff0c;是奥特曼在与MIT研究科学家Lex Fridman长达2小时的对话中透露。
不仅如此#xff0c;奥特曼谈及了近期围绕ChatGPT… 来源: 量子位 微信号QbitAI “AI确实可能杀死人类。”
这话并非危言耸听而是OpenAI CEO奥特曼的最新观点。 而这番观点是奥特曼在与MIT研究科学家Lex Fridman长达2小时的对话中透露。
不仅如此奥特曼谈及了近期围绕ChatGPT产生的诸多问题坦承就连OpenAI团队也根本没搞懂它是如何“进化”的 从ChatGPT开始AI出现了推理能力。但没人能解读这种能力出现的原因。 唯一的途径是向ChatGPT提问从它的回答中摸索它的思路。
针对马斯克在推特上的“危险论”他直言 马斯克在我心中是英雄我支持也理解他的担忧。 虽然他在推特上挺混蛋的但希望马斯克能看到我们在解决AGI安全问题上付出了多大的努力。 除此之外在这场对话过程中奥特曼还提到了不少刁钻的话题例如 ChatGPT、GPT-4开发的内幕 GPT-4是人类迄今所实现的最复杂的软件 如何看待大家拿ChatGPT越狱 ……
在看过这场对话之后网友直呼 两位AI大佬用大家都能理解的方式聊AI多来点这样的访谈。 那么接下来我们就来一同看下他们这场深度对话。
GPT-4内幕大曝光
GPT-4是这场对话中最受关注的部分。
它是如何训练的如何在训练模型时避免浪费算力如何解决AI回答不同价值观的人的问题
首先是训练过程依旧是预训练RLHF不过透露了一点具体细节。
GPT-4早在去年夏天就已经训练完成后面一直在进行对齐工作让它表现得更符合人类需求。
相比预训练数据集RLHF所用的数据非常少但效果是决定性的。
对此奥特曼透露了一点数据来源包含一些开源数据集、以及合作商提供的部分数据集。
当然数据集中也有一点Reddit论坛上出现的迷因梗meme但不是很多。对此奥特曼遗憾表示 如果再多点它的回答可能会更有趣。 即便如此团队甚至奥特曼自己依旧不能完全解读GPT-4。
目前对它的解读方式依旧是通过不断问它问题通过它的回答来判断它的“思路”。
而就在不断测试中OpenAI发现从ChatGPT开始GPT系列出现了推理能力。
虽然ChatGPT绝大部分时候都被当做数据库使用但它确实也出现了一定的推理能力至于这种能力具体如何出现的目前却无人能回答。
但大模型的训练往往意味着大量算力需求。对此奥特曼再次提到了OpenAI独特的训练预测方法 即便模型很大团队目前也有办法只通过部分训练预测整个模型的性能就像是预测一名1岁的婴儿能否通过SAT考试一样。 关于这一点在GPT-4论文和官方博客中也有更详细介绍。 最后奥特曼承认GPT-4确实存在应对不同价值观的人的问题。
临时解决办法就是把更改系统消息system message的权限开放给用户也就是ChatGPT中经常见到的那段“我只是一个语言模型……”。
通过改变系统消息GPT-4会更容易扮演其中规定的角色比在对话中提出要求的重视程度更高如规定GPT-4像苏格拉底一样说话或者只用JSON格式回答问题。 所以对于GPT系列来说谁最可能载入人工智能史册奥特曼倒不认为是GPT-4 从可用性和RLHF来看ChatGPT无疑是最具里程碑的那一个背后的模型没有产品的实用性重要。 最会打太极的CEO
GPT-4论文中没有透露参数规模、训练数据集大小等更多细节还被外界吐槽越来越不Open了。
在这次访谈中面对主持人步步追问奥特曼依旧守口如瓶。
GPT-4预训练数据集有多大奥特曼只是很笼统的介绍了有公开数据集、有来自合作伙伴的内容如GitHub提供的代码还有来自网络的内容。
活像ChatGPT也能写出来的那种赛博八股文只有在谈到Reddit的时候透露了网络梗图在训练数据中占比不大“不然ChatGPT可能更有趣一些”。
GPT-4模型参数量有多大奥特曼只是说之前疯传的100万亿参数是谣言然后又糊弄过去了。 我认为人们被参数竞赛所吸引就像过去被CPU的主频竞赛所吸引一样。现在人们不再关心手机处理器有多少赫兹了关心的是这东西能为你做什么。 不过奥特曼对于一种说法是持有肯定态度——“GPT-4是人类迄今所实现的最复杂的软件”。
但在主持人Lex突然抛出一些时下针对GPT-4的尖锐观点时奥特曼的应对也堪称“AI般淡定”狗头。 例如关于前段时间闹得沸沸扬扬的GPT-4越狱问题。
一名斯坦福教授仅仅用30分钟就诱导GPT-4制定出了越狱计划并全部展示了出来。
对此奥特曼表示就如同当年iPhone也面临被“黑”或者说越狱的问题如当年免费的越狱版App Store一样这并非不能解决的事情。
奥特曼甚至坦承他当年就把自己的第一台苹果手机越狱了——甚至当时觉得这是个很酷的事情。
但现在已经没有多少人去干苹果越狱的事情了因为不越狱也足够好用了。
奥特曼表示OpenAI的应对思路同样如此即把功能做的足够强他甚至表示愿意在这方面给用户开更多权限以便了解他们到底想要什么。
除此之外Lex还提到了马斯克对于奥特曼的批评。
奥特曼虽然是当年被马斯克一手提拔的人才但如今马斯克不仅退出了他们联手创办的OpenAI还对OpenAI现状十分不满经常在推特上阴阳怪气这家公司。 我捐1亿美金成立的非营利组织怎么就变成一个300亿市值的营利性公司了呢如果这是合法的为什么其他人不这样做 作为OpenAI现任CEO奥特曼并未直接回应此事而是调侃了一下马斯克在航天领域也经常被“老前辈”们批评的事情。
这一系列采访问答不禁让人想到在ChatGPT发布后奥特曼对于记者“将ChatGPT整合进微软必应和Office”问题的回应方式 你知道我不能对此发表评论。我知道你知道我不能对此发表评论。你知道我知道你知道我不能对此发表评论。 既然如此为什么你还要问它呢 GPT的“偏见”不会消失 GPT在迭代过程中“偏见”必然存在它不可能保持完全中立。 在主持人提到关于ChatGPT以及GPT-4种存在的偏见问题时奥特曼这样回应道。
ChatGPT在推出之初就不是一个成熟的产品它需要不断迭代而在迭代的过程中仅仅依靠内部的力量是无法完成的。
“提前”推出ChatGPT技术是要借助外部世界的集体智慧和能力同时也能让全世界参与进“塑造AI”的过程中。
而不同人对于问题的看法也各不相同所以在这个过程中“偏见”问题就不可避免。
甚至奥特曼在话里话外也透露着在GPT中“偏见”永远不会消失。
他将外部参与建设GPT比作“公开领域建设的权衡”。
GPT生成答案是个性化控制的结果迭代的过程则是更精准地控制“个性化”的过程。
有趣的是期间奥特曼还暗戳戳“背刺”起了马斯克的推特 推特摧毁掉的多元性我们正在将其找回来。 嗯奥特曼是懂一些话术的
当然谈到ChatGPT总绕不开其背后的公司OpenAI在成立之初它就立下了两个Flag 1、非营利性 2、通用人工智能AGI 如今已经过去八年之久这两个Flag也是发生了巨大的变化AGI的大旗还在高举而非营利性这面旗则已经摇摇欲坠。
对此奥特曼也是分别作出了回应。
对于OpenAI“非营利性质”的逐渐削弱奥特曼直言很久之前就已经意识到非营利性不是长久之计。
仅仅依靠非营利筹集到的资金对OpenAI的研究来说远远不够商业化是必然选择。
但在之后奥特曼也试图“找补”回一些称目前的商业化的程度仅止于满足投资者与员工的固定回报剩余资金还是会流向非营利性组织。
提到AGI一开始在OpenAI声称要做通用人工智能时还有一堆人在嘲讽如今做出GPT-4这样的产品回过头来再看嘲讽的声音已经越来越少了。
而面对外界询问“GPT-4是AGI吗”这样的问题时奥特曼则是直接给出了自己理解中的AGI AGI所掌握的知识应该是要超过人类科学知识总和的并且具有创造性能够推动基础科学的发展 而目前所有GPT并不能做到这些想要达到AGI还需要在目前GPT的范式上进行拓展至于如何拓展正是目前所缺乏的。 值得一提的是谈到AGI时是奥特曼在访谈中鲜有的“两眼放光”的时刻。
他抛出了一句极具“科研分子理想情怀”的金句 也许AGI是永远抵达不了的乌托邦但这个过程会让人类越来越强大。 但奥特曼并不否认过分强大的AGI“可能杀死人类”这一观点 我必须承认AI杀死人类有一定可能性。 很多关于AI安全和挑战的预测被证明是错误的我们必须正视这一点并尽早尝试找到解决问题的方法。 One More Thing
在谈话最后Lex Fridman还试图让奥特曼讲一些给年轻人们的建议奥特曼直接来了个“反鸡汤文学” 网络上的“成功学”帖子太诱人建议不要听太多建议。 我就是无视建议做到现在这样的。 参考链接 https://www.youtube.com/watch?vL_Guz73e6fw
