改名Meta之后，Facebook的元宇宙愿景正在一点点实现。这一次，Facebook把目光投在了元宇宙社交上。
Meta发布语音处理模型XLS-R
近日，Meta正式发布XLS-R——一套用于各类语音任务的新型自监督模型。据悉，XLS-R由海量公共数据训练而成(数据量是过去的十倍)，能够将传统多语言模型的语言支持量增加两倍以上。目前，XLS-R共支持128种语言。
Meta认为，语音交流是人们最自然的一种交互形式。“随着语音技术的发展，我们已经能够通过对话同自己的设备及未来的虚拟世界直接互动，由此将虚拟体验与现实世界融为一体。”
时尚品牌Zara推出可在元宇宙穿戴的产品Lime Glam:4月12日消息，快时尚品牌Zara推出全新系列春夏款限量产品Lime Glam。这些服装和配饰可以在Zepeto元宇宙内穿戴，也可以在实体店购买。
如果买家选择实体版，也将获得数字版本，从而简化购买流程。Zara网站上专门展示了部分穿着Lime Glam系列产品的虚拟化身。Zepeto应用程序还为该特定系列提供照相亭、数字墙和地板。（Cryptoslate）[2022/4/12 14:19:13]
这与扎克伯格此前宣称的“公司业务将以元宇宙优先”不谋而合。此前，扎克伯格曾概述了他建立“元世界”的计划：一个建立在我们自己的数字世界之上的数字世界，包括虚拟现实和增强现实。“我们相信元宇宙将会接替移动互联网”。
而XLS-R作为元宇宙社交中必不可少的一环，可以帮助母语不同的人在元宇宙无障碍对话。
上海国盛资本在元宇宙方面已布局数10家企业:金色财经报道，据新华网消息，上海国盛资本在元宇宙方面已布局企业数10家，包括为元宇宙提升效率的AI算法的商汤科技、云从科技、依图科技，为元宇宙提供底层动力、算力、芯片的壁仞科技、摩尔线程和兆芯。此外，国盛集团领投的达闼科技，在数字孪生、区块链等元宇宙底层架构技术上，在国内外均处于领先地位。[2022/3/11 13:50:55]
值得一提的是，为了通过单一模型实现对多种语言的广泛语音理解能力，Meta对XLS-R进行了微调，使其获得语音识别、语音翻译及语言识别等功能。据介绍，XLS-R在BABEL、CommonVoice以及VoxPopuli语音识别基准测试，CoVoST-2的外语到英文翻译基准测试，以及VoxLingua107语言识别基准测试中都取得了不错的成绩。
花花公子将推出Centerfold数字社交平台并在元宇宙中建造一个花花公子大厦:2月11日消息，花花公子集团已经放弃了以兔子头像为特色的 NFT，而是转向推出一个名为「Centerfold」的数字社交平台，并计划在元宇宙中建造一个花花公子大厦（Playboy Mansion）。花花公子表示，他们希望积极拥抱 Web 3 新一波互联网创新并对这个传统品牌进行数字化改造。（CNBC)[2022/2/11 9:46:04]
为了尽可能降低功能访问门槛，目前，Meta与HuggingFace联手发布了模型本体，并通过fairseqGitHubrepo全面开放。
试用地址：https://huggingface.co/spaces/facebook/XLS-R-2B-22-16
报告：到2026年，世界上25%的人口将每天至少花一个小时在元宇宙上:金色财经报道，美国市场研究公司 Gartner 发布的一份报告称，到2026年，全球25%的人口将使用元宇宙进行工作、购物、教育，社交和娱乐。并将每天花费至少一个小时。报告补充说：“到2026年，预计全球30%的公司将在元宇宙提供产品和服务。一些品牌已经在数字世界中留下了自己的印记。”由于没有单一供应商会拥有元宇宙，Gartner 预计它将拥有一个由数字货币和不可替代代币 (NFT) 支持的虚拟经济。（cointelegraphcn）[2022/2/8 9:37:22]
XLS-R工作原理
据介绍，XLS-R在wav2vec2.0训练集上接受了超过43万6千小时的公开语音录音训练，从而实现了对语音表达的自监督学习方法。这样的训练量已经达到去年发布的当时最强的模型XLSR-53的10倍。利用从会议记录到有声读物的多种语音数据来源，XLS-R的语言支持范围扩展到128种，涵盖的语种量达到前代模型的近2.5倍。
作为Meta打造的有史以来最大模型，XLS-R中包含超过20亿个参数，性能远高于其他同类模型。Meta表示，事实证明，更多参数能够更充分地体现、数据集中的各类语种。此外，Meta还发现，规模更大的模型在单一语言预训练方面的性能也同样优于其他较小模型。
Meta在四种主要多语言语音识别测试中对XLS-R做出评估，发现它在37种语言上获得了超越以往模型的效能。具体测试场景为：BABEL中选取5种语言，CommonVoice中选取10种语言，MLS中选取8种语言，以及VoxPopuli上选取14种语言。
BABEL上的单词错误率基准测试结果。XLS-R较前代模型实现了显著改进。
此外，Meta还评估了语音翻译模型，即将录音资料直接翻译成另一种语言。为了打造一套能够执行多种任务的模型，Meta同时在CoVoST-2基准测试的数个不同翻译方向上对XLS-R进行了微调，使其能够在英语与多达21种语言之间实现内容互译。
在使用XLS-R对英语以外的其他语言进行编码时，获得了显著的效能提升，这也是多语言语音表达领域的一次重大突破。据Meta介绍，XLS-R在低资源语言学习中实现了显著改进，例如印尼语到英语的翻译，其中BLEU准确率平均翻了一番。BLEU指标的提升是指模型给出的自动翻译结果与处理同一内容的人工翻译结果间重合度更高，代表着模型在改进口语翻译能力方面迈出了一大步。
以BLEU指标衡量的自动语音翻译准确率，其中较高值表示XLS-R从高资源语言(例如法语、德语)、中资源语言(例如俄语、葡萄牙语)或低资源语言(例如泰米尔语、土耳其语)语音记录翻译至英语时的准确率。
Meta认为，XLS-R证明扩大跨语言预训练规模可以进一步提高低资源语言的理解性能。它不仅提高了语音识别率，同时也将由外语到英语的语音翻译准确率提高了一倍以上。
“XLS-R是我们朝着以单一模型理解多种不同语言(语音)目标迈出的重要一步，也代表着我们在利用公共数据推进多语言预训练方面做出的最大努力。我们坚信这是一条正确的探索方向，将让机器学习应用更好地理解所有人类语音、并促进后续研究，大大降低语音技术在全球范围内、特别是服务匮乏社群中的使用门槛。我们将不断开发新方法，通过低监督学习拓展模型的语言理解能力、逐步使其覆盖全球7000多种语言，实现算法的持续更新。”Meta提到。
https://ai.facebook.com/blog/xls-r-self-supervised-speech-processing-for-128-languages/
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。