撰文:YihanXu,ForesightResearch
在这篇报告中你可以了解到:
EIP-4844;
Proto-danksharding;
Danksharding;
KZGCommitment;
KZGCeremony;
Dynamicstatesharding;
…
最近社区参与度超标的KZGCeremony都刷到了吧,这个仪式到底在干什么?
简单概括,KZGCeremony是实现EIP-4844不可绕过的一个初始化环节,而EIP-4844是实现以太坊sharding过程中的先行版本。
一、Sharding:以太坊扩容的长久之计
Sharding从数据可用性角度扩容,而rollup主要从执行层面扩容,一起缓解主网拥堵问题;我认为sharding可能是突破区块链不可能三角的一次尝试。
下面这张以太坊区块大小的走势图可以从另一个角度说明数据层面扩容的必要性。从创世区块开始,以太坊从底层架构到上层应用都在不断地快速迭代,但平均区块大小仍为90Kb左右,最高点也没有质的突破。虽然Rollup从计算层切入,解决以太坊拥堵问题,但性能仍然受制于layer1的数据存储能力。
由于实现过程的复杂度和安全性考虑,以太坊开发团队将sharding分成了多个阶段,其中就包括最近提到的proto-danksharding和danksharding。整个过程将会是一个历时数年的更新;
在目前的以太坊的数据存储模式下,只有少数特定高配置的机器可以加入网络成为节点,而fullsharding之后ethereum不再需要每个节点都保存全部数据,在降低主网数据存储成本的同时加强了安全性。
二、EIP-4844:短期高回报,Sharding的精简先行版
EIP-4844=Proto-Danksharding;
Proto来自以太坊研究者的名称
由于实现danksharding的复杂度很高,开发周期至少是以年为单位的。因此proto-danksharding是实现danksharding前对以太坊的扩容方案,主要实现了danksharding中的交易格式、precompile等设计;
1.Proto-danksharding概述
Proto-Danksharding主要引入了一种新的transactiontype,也就是blob-carryingtransaction。至此,Rollup的数据通过blob的形式以更低的成本向layer1传输,并作非永久存储。同时,blob远大于现在的calldata,可以更好地支持rollup上的高TPS。
社交平台Snapchat宣布与Filenet基金会达成深度战略合作:近日,社交平台Snapchat宣布与Filenet基金会达成深度战略合作,双方就应用数据存储及流量分发等业务展示技术及商业合作。Snapchat计划将平台上量200PB的数据部署在Filenet主网节点,以提升用户的产品使用体验,此次合作将降低Snapchat的存储成本。
据悉,Snapchat是由美国斯坦福大学两位学生开发的一款“阅后即焚”照片分享应用,其用户每天上传1.5亿张照片,估值160亿美元。[2020/3/5]
关于blob:
每个transaction最多挂2个blob;
每个block理想状态包含8个blob,约为1MB,最多包含16个blob,约为2MB;
Blob不需要像calldata一样作为historylog被永久存储;
相比danksharding,节点还是需要对完整的DA进行验证。
2.Blob-carryingtransaction解读
给transaction挂上blob
作用
参考Vitalik在提案中给出的图,Datablob和当前的calldata相似,rollup可以将交易、证明等数据通过blob上传到layer1来保证dataavailability。
成本
Datablob的设计初衷是支持rollup高通量的交易,相比同等大小的calldata,blob的成本将会降低很多。因此,rollup在维持数据可用性上花费的gas相比之前会显著降低。
容量
每个blob的大小约为125kB。
3.Blob-carryingtransaction的价值和挑战
价值
可以把blob看成一种缓存,rollup提交的交易数据从此以缓存的形式存在。降低对存储硬件的要求,为以太坊提供额外的数据扩容并降低gas成本。
挑战:对以太坊节点硬件性能的要求
Ethereum当前平均区块大小只有~90kB,但是一个blob就有~125kB
根据EIP-4844的设计,每个slot正常情况下约为1MB,因此每年增加的数据量为:
1MB/block*5block/min*43200min/month*12month/year=?2.47TBperyear
每年增加的数据大小远超过了以太坊数据总量,这样的存储方案显然是不高效的。
声音 | 中国智能交通产业联盟理事长:交通需要与区块链等新技术深度融合:金色财经报道,12月10日,在“智无界·共生长” 2019百度地图生态大会上,中国智能交通产业联盟理事长、国家智能交通系统研究中心首席科学家王笑京表示,交通是个完整的体系,既包括基础设施建设,又包括运输服务网发展,更需要与大数据、互联网、人工智能、区块链等新技术的深度融合。[2019/12/11]
解决方案
从短期扩容效果看,由于每个节点仍然需要储存全量历史数据,在实现EIP-4844的同时,对一段时间窗以外的blob进行自动删除;
从sharding的长期利益看,实现EIP-4444,即节点不需要存储全量历史数据,而是只需要参照historyexpiry,存储特定时间之后的数据;
这两种解决方案从不同程度上缓解了blob-carryingtransaction在存储空间上的tradeoff。
4.KZGCommitment
KZGCommitment是EIP-4844中采用的多项式承诺方案
解析KZGcommitment
KZG是作者AniketKate,GregoryM.Zaverucha和IanGoldberg姓氏的缩写,他们在2010年发表了多项式承诺方案论文“Constant-SizeCommitmentstoPolynomialsandTheirApplications”,并且这个方案在plonk-style的zk-snark协议中有很广泛的应用。
参考DankradFeist演讲中的示意图,KZGroot类似Merkleroot,区别在于KZGroot承诺一个多项式,即所有position都在这个多项式上。基于proto-danksharding的场景,KZGroot承诺了一堆数据,其中的任何一个数据都可以被验证属于这个整体。
这也是为什么KZGcommitment在兼容性上对后面实现DAS更友好。
KZGcommitment的流程如下:
Prover:提供证明,计算data的commitment,prover无法改变给定的多项式,并且用于证明的commitment只对当前这一个多项式有效;
Verifier:接收prover发送的commitmentvalue并进行验证,确保prover提供了有效的证明。
KZGCommitment的优势
我认为主要出于对成本和安全性的思考,可以归纳但不局限于以下几点:
声音 | 经济日报:推进区块链健康稳步发展,必须引导区块链技术与实际应用场景深度融合:\u202811月8日,经济日报刊文“区块链:脚踏实地走向光明未来”。文章表示,当前,区块链的关注热度起来了,但区块链行业的发展还需要静下心来,踏踏实实进行技术探索,才能实现区块链技术和产业创新发展,实现区块链在数字经济时代应有的价值,占据以区块链为代表的新时代互联网科技制高点。推进区块链健康稳步发展,必须继续严厉打击投机行为,必须引导区块链技术与实际应用场景深度融合。[2019/11/8]
成本
KZGcommitment具备快速验证、复杂度相对更低、简洁的特点;
不需要提交额外的proof,因此成本更低、更省bandwidth;
数据触达所需的Pointevaluationprecompile可以获得更低的成本。
安全
假设出现了failure,也只会影响commitment对应的blob中的数据,而不会其他深远的影响。
更兼容
纵观sharding的整体方案,KZGcommitment对DAS方案兼容,避免了重复开发的成本。
5.KZGCeremony(trustedsetup)
KZGCeremony是为KZGCommitment提供trustsetup,目前吸引了超过20,000participants的参与和贡献,已经成为历史上最大规模的trustsetup。
最近社区参与热情高涨的KZGCeremony就是为EIP-4844采用的KZGcommitment提供trustsetup;
KZGCeremony的流程
参考Vitalik的流程图,任何人都可以作为participants贡献secret并与之前的结果进行混合产生一个新的result,以此类推,通过套娃的形式获得最终的SRS,并协助完成KZGcommitment的trustsetup
trustsetup
EIP-4844中采用了一种常见的multi-participanttrustsetup,即powers-of-tau;
遵循1-of-N可信模型,不管多少人参与generatingsetup的过程,只要有一个人不泄漏自己的生成方式,可信初始化就是有效的;
必要性
KZGcommitment的trustsetup可以简单理解为:生成一个在每次执行cryptographicprotocol时需要依赖的一个参数,类似于zk-snark需要可信初始化;
声音 | 杭州市委书记:加快推动区块链等核心技术在金融领域的深度应用:今天上午,第三届钱塘江论坛主论坛在杭州国际博览中心举行。杭州市委书记周江勇表示,面向未来,我们将以打造国际金融科技中心为引领,加速推动钱塘江金融港湾成为创新、活力、联动、包容的“金色港湾”。要坚持科技赋能、数字驱动,加快推动区块链等核心技术在金融领域的深度应用,通过技术渗透、扩散和转移不断催生新业态、新模式、新场景。(科创板日报)[2019/11/2]
Prover在提供证明时,KZGcommitmentC=f(s)g1。其中f是评估函数,s就是KZGtrustedsetup最终获得的finalsecret;
可以看出finalsecret是生成多项式承诺的核心参数,而作为获取这个核心参数的可信流程,这次KZGCeremony对于整个sharding的实现非常重要。
6.EIP-4844带来的变化
Rollup
参考ethresear上给出的示意图,rollup需要将statedelta、KZGcommitment的versionedhash包含在calldata中进行提交
可以发现不同的是,calldata只包含一些数据量小的,比如statedelta、KZGcommitment,而将包含大量交易数据的transactionbatch放到了blob里。
有效降低成本,放calldata里很贵;
降低对区块空间的占用
安全性
Dataavailability:Blob存储在信标链上,等同于layer1的安全性;
历史数据:节点不会只会将blob存储一段时间,需要layer2rollup做永久数据存储,因此安全性依赖于rollup。
成本
Proto-Danksharding引入了新的交易类型,低成本数据格式blob的加入无疑会让rollup的成本进一步降低,取决于实际链上应用和实现进展,优化后rollup的成本可能降低x10甚至x50;
同时EIP-4844引入了blobfee;
Gas和blob将会分别有可调节的gasprice和limit;
Blob的收费单元还是gas,gasamount随traffic变动,以此维持每个block平均挂8个blob的目标
Precompile的实现
Blob中的数据本身无法被直接触达,EVM只能获取datablob的commitment。因此需要rollup提供precompile来验证commitment的有效性.
声音 | 互金协会李礼辉:区块链等数字技术的深度融合能够提高信用评价:据新浪财经消息,12月8日,以“探索金融与科技融合发展之道”为主题的2018第二届中国互联网金融论坛今日在京召开,中国互联网金融协会区块链研究工作组组长、中国银行原行长李礼辉表示,大数据、云计算、人工智能、区块链等数字技术的深度融合能够提高信用评价、风险定价和投资决策效率。为了更好地加强数字技术在驱动开放银行业务转型升级方面的作用,我们应该不断地推进大数据、人工智能、云计算、区块链等数字技术的集成,以效率为中心,重构金融服务流程,打造零距离、多维度、一体化的开放银行服务模式,全面提升金融服务的质效。[2018/12/8]
下面分析两种EIP-4844中提到的precompile算法
Pointevaluationprecompile
证明多个commitments指向同一数据;
主要针对zk-rollup,rollup需要提供2种commitments:1.KZGcommitment;2.zk-rollup本身的commitment;
对于optimisticrollup,大多数已经采用了multi-roundfraudproof的机制,finalroundfraudproof所需的数据量较小。因此,采用pointevaluationprecompile能达到更低的成本
Blobverificationprecompile
证明versionedhash和blob是有效对应的;
optimisticrollup在提交欺诈证明时需要access全量数据,因此先验证versionedhash和blob合法,再进行fraudproofverification
三、Danksharding:迈向fullsharding的重要一步
Danksharding的命名来自以太坊研究员DankradFeist
1.扩容:进一步扩充Rollup的缓存空间
在proto-danksharding实现后,由于新的交易格式引入了blob,每个区块可以平均额外获得1MB的缓存空间。Danksharking实现后,每个区块额外16MB,最大允许32MB。
2.Data?availability:存储和验证策略更高效
相比proto-danksharding要求全节点下载全量数据,Danksharking实现后以太坊节点只需要对blob抽样。Sampling后的数据会分布在全网节点中,并可以组成完成的datablob。
DAS:高效抽样检查
通过纠缠码帮助全网节点在下载部分数据的情况下更容易发现原始数据的丢失的概率,从而提升安全性
3.安全性:基本不变
由于每个节点不再保存全量历史数据,从数据可用性、备份和抽样检查的角度出发,安全性由至少一个节点保存全量数据变为多个节点存储部分数据,并最终还原完整数据。
虽然乍一看对单点的依赖安全性远高于对多点的依赖,但是以太坊网络中的节点数量够多,完全可以保证数据备份的需求,因此安全性并不会有很大变化。
4.新的挑战:对blockbuilder的要求提升
虽然验证者不需要下载并保留全量历史数据,对bandwidth和存储硬件的要求得到了缓解,但是区块创建者仍然需要上传包含全量transactiondata的blob数据。
这里简单介绍一下PBS(proposer/builderseparation),参考Dankrad给出PBS在danksharding方案中的应用图:
将负责出块负责人的角色拆分为proposer和builder。最初是为了做anti-MEV设计的提案,在danksharding的设计中为了降低区块创建时对bandwidth的要求。
四、其他sharding方案:Shardeum的动态分片
Shardeum是EVM兼容的layer1公链,与以太坊的staticsharding方案不同,shardeum通过dynamicstatesharding的方案提升底层可扩展性和安全性,同时,天然地保证较高的去中心化程度;
1.Dynamicstatesharding
优势
Dynamicstatesharding带来最直观的优势在于linearscaling,接入网络的节点可以非常高效的被sharding算法动态分组,并快速响应,提升区块链网络的TPS。在dynamicstatesharding的设计中,每个节点会覆盖不同range的address,并且覆盖范围又会有冗余设计以保证高效的sharding和安全性。
场景内实现
抛开生态的复杂度,单从两种技术实现的角度看,dynamicstatesharding的难度大于staticsharding。可以看出Shardeum的技术团队在sharding的技术层面有很深的积累,团队之前在Shardustechnology上的研发也对这条公链的底层技术做出了很大贡献,甚至在项目早期阶段很好的展示了dynamicstatesharding所带来的linearscaling。
2.Shardeum综合归纳
产品
将节点划分到不同的group,参考divideandconquer的思路,把计算和存储的workload进行分流,从而允许更高程度的并行处理。因此,可以容纳更多节点加入,进一步提升公链的throughput和去中心化程度。
团队
市场经验丰富,叙事能力超强,对动态分片研究很深。
技术
针对自己的场景设计了合适的sharding方案(dynamicstatesharding)和共识的设计(ProofofStake+ProofofQuorum),以提升可扩展性为第一目标,保证更高程度的去中心化和安全性。
进度
将在2023-02-02launchbetanet,值得关注。
五、对sharding的思考和展望
Sharding是以太坊扩容的长久之计,也是一个价值巨大、意义深远的长期方案。实现sharding的过程中,现有所有方案都可能被不断迭代,包括现在提到的proto-danksharding、danksharding等,值得持续关注;
对sharding大方向的理解很重要,但是每一个实现fullsharding过程中的提案所采纳的技术方案同样值得关注,并且我相信也会涌现很多相关的优秀团队和项目;
Sharding是对一种扩容技术的统称,但具体落地的方案并不是只有一种。需要认识到不同的公链会有适合自己场景的sharding方案。比如danksharding中的一些设计也只适合以太坊网络,安全性的tradeoff需要大量的节点来抵消;
Sharding和其他扩容方案的合理结合对于可扩展性的提升1+1>2。目前的Danksharding并不是自成一派的扩容方案,而是和以太坊生态的其他实现相辅相成的。比如Danksharding和rollup一起,为以太坊扩容达成更好的效果。
Reference
https://notes.ethereum.org/@dankrad/kzg_commitments_in_proofs
https://notes.ethereum.org/@dankrad/new_sharding
https://vitalik.ca/general/2022/03/14/trustedsetup.html
https://notes.ethereum.org/@vbuterin/proto_danksharding_faq#Why-use-the-hash-of-the-KZG-instead-of-the-KZG-directly
https://ethresear.ch/t/easy-proof-of-equivalence-between-multiple-polynomial-commitment-schemes-to-the-same-data/8188
https://dankradfeist.de/ethereum/2020/06/16/kate-polynomial-commitments.html
https://notes.ethereum.org/@dankrad/new_sharding
https://eips.ethereum.org/EIPS/eip-4844
https://www.eip4844.com/
https://biquanlibai.notion.site/Data-Availability-caa896aae59d489b98f2448f17b01640
https://docs.google.com/presentation/d/1-pe9TMF1ld185GL-5HSWMAsaZLbEqgfU1sYsHGdD0Vw/edit#slide=id.g1150d91b32e_0_474
https://ethresear.ch/t/a-design-of-decentralized-zk-rollups-based-on-eip-4844/12434
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。