AIN:ChatGPT类产品安全隐患解决?英伟达发布开源工具包

随着ChatGPT等AI聊天机器人自去年底以来迅速走红,对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题,比如实施资讯过滤和人类纠正那些被标记的问题,但效果都不尽人意。

有鉴于此,英伟达公司(Nvidia Corp.)周二正式发布了一个名为NeMo Guardrails的开源工具包,可以禁止AI聊天机器人提供那些受限的信息,使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

Beosin:BNBChain上THB项目遭受攻击事件分析:10月1日消息,据Beosin EagleEye平台监测显示,THB项目遭受攻击。Beosin安全团队分析发现攻击者0xbC62b9BA570aD783d21E5eB006F3665D3f6bBA93利用重入漏洞盗取THBR NFT,攻击合约0xfed1b640633fd0a4d77315d229918ab1f6e612f9,攻击交易0x57aa9c85e03eb25ac5d94f15f22b3ba3ab2ef60b603b97ae76f855072ea9e3a0

目前盗取的8个NFT任在攻击者账户(0xfeD1...12f9)。[2022/10/1 18:36:58]

每个人都意识到了大型生成语言模型的力量,英伟达应用研究副总裁Jonathan Cohen说,以一种安全可靠的方式部署它们非常重要。

VeChain基金会持有5.35亿美元的加密货币储备:金色财经报道,VeChain基金会已经分享了其2022年第二季度的财务报告。在该报告中,VeChain报告了5.35亿美元的BTC、ETH、VET和稳定币储备。报告称,储备资产总价值比第一季度下降了44%。目前VeChain储备的稳定币总价值为60,404,839。此外,该基金会目前持有474,887,226个代币的加密货币,分布在BTC、ETH和VET。[2022/10/1 22:43:29]

英伟达表示,NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合,该系统将能够识别用户提出的事实问题,并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实,并控制聊天机器人给出回答的方式。

Algorand基金会与Chainalysis达成合作,加强反合规解决方案:6月11日,Algorand基金会宣布与区块链分析公司Chainalysis达成合作。Algorand基金会将集成Chainalysis的KYT(了解你的交易)功能来进行交易监控和合规流程,并使用Chainalysis Reactor调查工具来加强对Algorand代币ALGO的详尽调查。[2020/6/12]

例如,假设一名员工询问人力资源聊天机器人,公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利,可能会引发拒绝指令,因为这些数据是保密的。Cohen还表示,英伟达已经在Guardrails的底层系统上工作了"多年",但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起,我们一直在朝着NeMo Guardrails的这个版本发展,"他说,"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经 善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit

Arcane Labs

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金星链

Gate.ioSTA:详解储存证明:如何提升预言机性能?

Starknet 上无需信任的跨链信息访问存储证明是一种跟踪区块链信息的加密方式,可以跨链共享。与预言机类似,存储证明提供信息真实性的证明。然而与预言机的区别在于,存储证明不需要第三方来证明.

FIL币LSD:一文梳理近期的高APY神矿

在最近的 DeFi 赛道里,最火热的质押挖矿协议或许就是 Agility 了,短短几天内就达到了 5.1 亿美元 TVL,凭借极高的流动性挖矿收益.

[0:15ms0-1:585ms