ChatGPT是个啥？
ChatGPT是个啥？
近期，OpenAI发布了ChatGPT，是一个可以对话的方式进行交互的模型，因为它的智能化，得到了很多用户的欢迎。ChatGPT也是OpenAI之前发布的InstructGPT的亲戚，ChatGPT模型的训练是使用RLHF也许ChatGPT的到来，也是OpenAI的GPT-4正式推出之前的序章。什么是GPT？从GPT-1到GPT-3
GenerativePre-trainedTransformer(GPT)，是一种基于互联网可用数据训练的文本生成深度学习模型。它用于问答、文本摘要生成、机器翻译、分类、代码生成和对话AI。2018年，GPT-1诞生，这一年也是NLP的预训练模型元年。性能方面，GPT-1有着一定的泛化能力，能够用于和监督任务无关的NLP任务中。其常用任务包括：自然语言推理：判断两个句子的关系问答与常识推理：输入文章及若干答案，输出答案的准确率语义相似度识别：判断两个句子语义是否相关分类：判断输入文本是指定的哪个类别虽然GPT-1在未经调试的任务上有一些效果，但其泛化能力远低于经过微调的有监督任务，因此GPT-1只能算得上一个还算不错的语言理解工具而非对话式AI。GPT-2也于2019年如期而至，不过，GPT-2并没有对原有的网络进行过多的结构创新与设计，只使用了更多的网络参数与更大的数据集：最大模型共计48层，参数量达15亿，学习目标则使用无监督预训练模型做有监督任务。在性能方面，除了理解能力外，GPT-2在生成方面第一次表现出了强大的天赋：阅读摘要、聊天、续写、编故事，甚至生成假新闻、钓鱼邮件或在网上进行角色扮演通通不在话下。在“变得更大”之后，GPT-2的确展现出了普适而强大的能力，并在多个特定的语言建模任务上实现了彼时的最佳性能。之后，GPT-3出现了，作为一个无监督模型，几乎可以完成自然语言处理的绝大部分任务，例如面向问题的搜索、阅读理解、语义推断、机器翻译、文章生成和自动问答等等。而且，该模型在诸多任务上表现卓越，例如在法语-英语和德语-英语机器翻译任务上达到当前最佳水平，自动产生的文章几乎让人无法辨别出自人还是机器，更令人惊讶的是在两位数的加减运算任务上达到几乎100%的正确率，甚至还可以依据任务描述自动生成代码。一个无监督模型功能多效果好，似乎让人们看到了通用人工智能的希望，可能这就是GPT-3影响如此之大的主要原因GPT-3模型到底是什么？实际上，GPT-3就是一个简单的统计语言模型。从机器学习的角度，语言模型是对词语序列的概率分布的建模，即利用已经说过的片段作为条件预测下一个时刻不同词语出现的概率分布。语言模型一方面可以衡量一个句子符合语言文法的程度，同时也可以用来预测生成新的句子。例如，对于一个片段“中午12点了，我们一起去餐厅”，语言模型可以预测“餐厅”后面可能出现的词语。一般的语言模型会预测下一个词语是“吃饭”，强大的语言模型能够捕捉时间信息并且预测产生符合语境的词语“吃午饭”。通常，一个语言模型是否强大主要取决于两点：首先看该模型是否能够利用所有的历史上下文信息，上述例子中如果无法捕捉“中午12点”这个远距离的语义信息，语言模型几乎无法预测下一个词语“吃午饭”。其次，还要看是否有足够丰富的历史上下文可供模型学习，也就是说训练语料是否足够丰富。由于语言模型属于自监督学习，优化目标是最大化所见文本的语言模型概率，因此任何文本无需标注即可作为训练数据。由于GPT-3更强的性能和明显更多的参数，它包含了更多的主题文本，显然优于前代的GPT-2。作为目前最大的密集型神经网络，GPT-3能够将网页描述转换为相应代码、模仿人类叙事、创作定制诗歌、生成游戏剧本，甚至模仿已故的各位哲学家——预测生命的真谛。且GPT-3不需要微调，在处理语法难题方面，它只需要一些输出类型的样本。可以说GPT-3似乎已经满足了我们对于语言专家的一切想象。注：上文主要参考以下文章：1.GPT4发布在即堪比人脑，多位圈内大佬坐不住了！-徐杰承、云昭-公众号51CTO技术栈-2022-11-2418:082.一文解答你对GPT-3的好奇！GPT-3是什么？为何说它如此优秀？-张家俊中国科学院自动化研究所2020-11-1117:25发表于北京3.TheBatch:329|InstructGPT，一种更友善、更温和的语言模型-公众号DeeplearningAI-2022-02-0712:30GPT-3存在什么问题？
跨链互操作性协议Multichain集成Kava Network:6月13日消息，跨链互操作性协议Multichain宣布集成Kava Network，目前用户可以将Kava上USDC、USDT、DAI、ETH、WBTC跨链至Multichain支持的包括以太坊和BNBChain在内的8条区块链。[2022/6/13 4:22:39]
但是GTP-3并不完美，当前有人们最担忧人工智能的主要问题之一，就是聊天机器人和文本生成工具等很可能会不分青红皂白和质量好坏，地对网络上的所有文本进行学习，进而生产出错误的、恶意冒犯的、甚至是攻击性的语言输出，这将会充分影响到它们的下一步应用。OpenAI也曾经提出，会在不久的将来发布更为强大的GPT-4：
将GPT-3与GPT-4、人脑进行比较据说，GPT-4会在明年发布，它能够通过图灵测试，并且能够先进到和人类没有区别，除此之外，企业引进GPT-4的成本也将大规模下降。
ChatGP与InstructGPT
ChatGPT与InstructGPT
跨链DEX项目Chainflip Labs融资1000万美元，Pantera Capital等参投:5月11日消息，总部位于柏林的加密货币初创公司Chainflip Labs宣布完成1000万美元融资，Framework Ventures、Blockchain Capital和Pantera Capital参投，并换取了该公司的股权。关于此次融资的估值未披露。
据悉，Chainflip Labs正在建立一个跨链去中心化加密货币交易所。Chainflip创始人兼首席执行官Simon Harman称，该初创公司正试图通过简单的界面和用户体验“将资本效率发挥到极致”，从而消除封装代币或小型钱包的需求。此外，Chainflip计划在今年晚些时候为其原生代币FLIP进行IDO。
去年8月，基于去中心化自动化做市商的跨链协议Chainflip完成600万美元融资，Framework Ventures领投，ParaFi Capital、Distributed Global、Delphi Digital、Hypersphere Ventures、Coinbase Ventures、DeFi Alliance、Altonomy、Maven 11、Edenblock和Morningstar Ventures等参投。（The Block）[2022/5/11 3:07:21]
谈到Chatgpt，就要聊聊它的“前身”InstructGPT。2022年初，OpenAI发布了InstructGPT；在这项研究中，相比GPT-3而言，OpenAI采用对齐研究，训练出更真实、更无害，而且更好地遵循用户意图的语言模型InstructGPT，InstructGPT是一个经过微调的新版本GPT-3，可以将有害的、不真实的和有偏差的输出最小化。InstructGPT的工作原理是什么？
声音 | Blockchain Capital合伙人：2020年加密正常化将成为一种趋势:Blockchain Capital合伙人Spencer Bogart近期参加小组讨论时表示，到2020年，世界将会看到很多“加密正常化”。回想几年前，所有与加密货币和区块链相关的东西都是陌生的，而后开始逐渐进入主流：“我喜欢看到这种正常化现象。把它（加密）从一种免费的科学项目变成一种更被广泛接受的东西。这是我在2020年看到的趋势。”（AMBCrypto）[2020/2/17]
开发人员通过结合监督学习+从人类反馈中获得的强化学习。来提高GPT-3的输出质量。在这种学习中，人类对模型的潜在输出进行排序；强化学习算法则对产生类似于高级输出材料的模型进行奖励。训练数据集以创建提示开始，其中一些提示是基于GPT-3用户的输入，比如“给我讲一个关于青蛙的故事”或“用几句话给一个6岁的孩子解释一下登月”。开发人员将提示分为三个部分，并以不同的方式为每个部分创建响应：人类作家会对第一组提示做出响应。开发人员微调了一个经过训练的GPT-3，将它变成InstructGPT以生成每个提示的现有响应。下一步是训练一个模型，使其对更好的响应做出更高的奖励。对于第二组提示，经过优化的模型会生成多个响应。人工评分者会对每个回复进行排名。在给出一个提示和两个响应后，一个奖励模型(另一个预先训练的GPT-3)学会了为评分高的响应计算更高的奖励，为评分低的回答计算更低的奖励。开发人员使用第三组提示和强化学习方法近端策略优化(ProximalPolicyOptimization,PPO)进一步微调了语言模型。给出提示后，语言模型会生成响应，而奖励模型会给予相应奖励。PPO使用奖励来更新语言模型。本段参考：TheBatch:329|InstructGPT，一种更友善、更温和的语言模型-公众号DeeplearningAI-2022-02-0712:30重要在何处？核心在于——人工智能需要是能够负责任的人工智能OpenAI的语言模型可以助力教育领域、虚拟治疗师、写作辅助工具、角色扮演游戏等，在这些领域，社会偏见、错误信息和害信息存在都是比较麻烦的，能够避免这些缺陷的系统才能更具备有用性。Chatgpt与InstructGPT的训练过程有哪些不同？总体来说，Chatgpt和上文的InstructGPT一样，是使用RLHF训练的。不同之处在于数据是如何设置用于训练的。
动态 | Blockchain.com正筹备成立5千万美元风投基金:据雅虎财经报道，加密钱包和数据提供商Blockchain.com正在筹备一只5千万美元风险投资基金，用于投资行业初创企业和加密货币。注：Blockchain.com是欧洲知名度最高的加密货币公司之一，该公司成立于2011年，已从谷歌Ventures、维珍 (Virgin) 以及欧洲顶级风险投资基金Lakestar等投资者那里筹集了逾 7000 万美元资金。根据数据显示，Blockchain.com上次融资是在今年早些时候，目前还不清楚该公司是否盈利。[2019/9/4]
ChatGPT存在哪些局限性？
如下：a)在训练的强化学习(RL)阶段，没有真相和问题标准答案的具体来源，来答复你的问题。b)训练模型更加谨慎，可能会拒绝回答。c)监督训练可能会误导/偏向模型倾向于知道理想的答案，而不是模型生成一组随机的响应并且只有人类评论者选择好的/排名靠前的响应注意：ChatGPT对措辞敏感。，有时模型最终对一个短语没有反应，但对问题/短语稍作调整，它最终会正确回答。训练者更倾向于喜欢更长的答案，因为这些答案可能看起来更全面，导致倾向于更为冗长的回答，以及模型中会过度使用某些短语，如果初始提示或问题含糊不清，则模型不会适当地要求澄清。ChatGPT’sself-identifiedlimitationsareasfollows.Plausible-soundingbutincorrectanswers:a)ThereisnorealsourceoftruthtofixthisissueduringtheReinforcementLearning(RL)phaseoftraining.b)Trainingmodeltobemorecautiouscanmistakenlydeclinetoanswer(falsepositiveoftroublesomeprompts).c)Supervisedtrainingmaymislead/biasthemodeltendstoknowtheidealanswerratherthanthemodelgeneratingarandomsetofresponsesandonlyhumanreviewersselectingagood/highly-rankedresponseChatGPTissensitivetophrasing.Sometimesthemodelendsupwithnoresponseforaphrase,butwithaslighttweaktothequestion/phrase,itendsupansweringitcorrectly.Trainerspreferlongeranswersthatmightlookmorecomprehensive,leadingtoabiastowardsverboseresponsesandoveruseofcertainphrases.Themodelisnotappropriatelyaskingforclarificationiftheinitialpromptorquestionisambiguous.AsafetylayertorefuseinappropriaterequestsviaModerationAPIhasbeenimplemented.However,wecanstillexpectfalsenegativeandpositiveresponses.参考文献：1.https://medium.com/inkwater-atlas/chatgpt-the-new-frontier-of-artificial-intelligence-9aee812876772.https://pub.towardsai.net/openai-debuts-chatgpt-50dd611278a43.https://openai.com/blog/chatgpt/4.GPT4发布在即堪比人脑，多位圈内大佬坐不住了！-徐杰承、云昭-公众号51CTO技术栈-2022-11-2418:085.一文解答你对GPT-3的好奇！GPT-3是什么？为何说它如此优秀？-张家俊中国科学院自动化研究所2020-11-1117:25发表于北京6.TheBatch:329|InstructGPT，一种更友善、更温和的语言模型-公众号DeeplearningAI-2022-02-0712:30原地址
现场 | ChainUP创始人钟庚发：交易所内部运维体系至关重要:金色财经现场报道，12月16日，由ChainUP主办，节点资本等联合主办的“Future BlockChain”全球行活动在韩国举办。ChainUP创始人钟庚发在现场发表演讲时表示，对一个加密货币交易所来说，安全是最核心的，而加密货币交易所遭受的攻击有80%左右都是从内部网络发起的。他说，黑客一般都是先进入交易所的内部工作网络，然后通过这个内部网络进行线上攻击，因此交易所的内部运维体系至关重要。[2018/12/16]
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。