PEN:人工智能监管进入倒计时?美国各界两极分化

来源:钛媒体App,作者:CraigSmith,编辑:林志佳

图片来源:由无界AI工具生成

随着超17亿月访问的AI聊天机器模型ChatGPT风靡全球,产品体验令人惊叹,但与此同时,这也引发美国各界对AI技术风险的担忧。

近日,美国联邦贸易委员会接到人工智能和数字政策中心的投诉,要求对OpenAI及其产品GPT-4进行调查。CAIDP在一份公开信中称,OpenAI违反FTC法案规定和AI治理规则,存在偏见、欺诈,并对隐私和公共安全构成风险,该机构要求FTC对OpenAI展开调查,并暂停GPT产品商业部署,直到符合FTC法案规定。目前该信已获得超过20000个签名。

在此之前,亿万富翁马斯克、苹果联合创始人SteveWozniak以及上千名专家联名呼吁暂停训练比GPT-4更强大的AI系统。

研究人员提议用区块链、DAO、NFT和人工智能构建智能教育系统:金色财经报道,土耳其Anadolu大学研究员Mehmet F?rat最近发表了一项研究,设想采用一种多技术解决方案来解决挑战传统教育系统的问题,称为“智能开放教育生态系统”(SOEE)。该研究结合了区块链、去中心化自治组织(DAO)、NFT、多模式学习分析和人工智能(AI),形成了一个独立的教育生态系统,该系统使用ChatGPT等生成式人工智能系统与学生交互并个性化学习体验。课程、学习资源和证书将被制作为NFT,整个过程将由DAO管理。F?rat认为,开放教育的最终目标不仅是使学习民主化、让教育变得可及,而且还为每个人提供个性化的学习体验。[2023/7/26 15:59:09]

另外,5月4日,美国副总统哈里斯会见了微软、谷歌和OpenAI的CEO,讨论AI潜在风险。美国总统拜登则明确表示,这些AI企业必须在推出产品之前确保其安全性,“你们正在做的事不仅有巨大的影响力,还将带来巨大的危害。”

人工智能平台H2O.ai完成1亿美元E轮融资,澳大利亚联邦银行领投:11月8日消息,硅谷人工智能平台H2O.ai完成1亿美元E轮融资,澳大利亚联邦银行(CBA)领投,Pivot Investment Partners、Crane Venture Partners和Celesta Capital参投。此前7500万美元的D轮融资由高盛领投,后者同样参与了此轮融资。H20.ai的投前估值为16亿美元,高盛、富国银行、Capital One和平安的投资部门均是其投资者和客户。CBA计划将H20.ai的服务整合进银行的众多系统,包括客户奖励、线上零售、信用评估以及欺诈检测,以提供个性化定制的金融科技式服务。上周,CBA宣布计划提供加密货币服务,成为发达国家里首家计划提供此类服务的主流银行。(澳大利亚经济评论)[2021/11/8 21:33:06]

不过,尽管美国从拜登到学术界、产业界集体表达对AI技术监管和暂停的提议,但多份信息显示,目前美国各界对此仍有分歧。MetaAI实验室首席科学家LeCun直言反对暂停任何AI开发,他认为应该继续进行研究并负责任地开展AI研究工作。

无论结果如何,这场AI监管风暴即将打响。包括ChatGPT在内的全球AI新热潮正在迎来技术监管倒计时。

动态 | 内蒙古自治区将培育发展人工智能、区块链、北斗等新兴产业:据内蒙古新闻网消息,记者从内蒙古自治区大数据发展管理局获悉,今年内蒙古要大力发展数字经济,围绕大数据、云计算、人工智能、区块链等领域的应用技术研究,培育引进一批高科技创新创业企业,支持一批创新创业示范项目,建设一批技术创新公共服务平台,形成一批面向各行业的应用产品和解决方案。培育发展人工智能、区块链、北斗等新兴产业。[2019/4/18]

在此之前,欧洲和中国已抢先下场调查和监管。

3月31日,意大利打响调查ChatGPT第一,要求暂时禁止使用ChatGPT,并对OpenAI公司展开调查;随后法国、爱尔兰、西班牙跟进,欧洲数据保护委员会则成立专门工作组开展调查;4月11日,中国下发《生成式人工智能服务管理办法》的通知,并向社会公开征求意见。直到4月末,OpenAI宣布ChatGPT恢复在意大利的访问。此外,加拿大、德国和澳大利亚当局也在推进调查和规范AI发展。

几乎是同一天,美国也加入到了这场这场围剿ChatGPT的AI监管风暴中。

3月30日,CAIDP向联邦贸易委员会提交了一份长达46页的投诉信,投诉呼吁放慢生成式AI模型的发展,并实施更严格的政府监管。

声音 | 中国平安:深入开展人工智能、区块链、云三大核心技术的研发与应用:中国平安(601318)昨日发布了即将在年度股东大会及H股类别股东大会上的决议资料,其中包括《公司2019-2021年发展规划》,规划在发展措施中指出,公司持续夯实基础,深入开展人工智能、区块链、云三大核心技术的研发与应用,深度赋能核心业务的客户经营、渠道管理、客户服务、风险管控等方面,推动业务价值提升和创新公司孵化。[2019/3/29]

诉讼全文截图

CAIDP称,OpenAI违反了FTC法案第5节,该条禁止不公平和性的贸易行为,而且违反AI治理规则,存在偏见、欺诈,并对隐私和公共安全构成风险。CAIDP要求FTC对OpenAI展开调查并暂停GPT产品的商业化部署。

作为上述这封2万多名签署的控诉信之一,非营利性机构CAIDP总裁兼总法律顾问MarcRotenberg表示,OpenAI根本不符合FTC的指导方针,他声称担心GPT模型是不公平的和具有性的。

物美集团总裁张斌:区块链、人工智能等技术可使超市从业人员下降一半:3月25日下午,物美集团总裁张斌在2018中国(深圳)IT领袖峰会高端对话环节中提到,超市员工主要由三大方面构成,即收银、防损和上货,利用互联网、物联网、云计算、区块链、人工智能等技术可以使从业人员下降一半。[2018/3/25]

“FTC之前已经宣布,AI的使用应该‘透明、可解释、公平,并且在经验上合理,同时促进问责制’。我们认为FTC应该密切关注OpenAI和GPT-4。”Rotenberg表示,G??PT-4不满足这些要求,FTC应该对OpenAI展开调查,并确保建立必要规范以保护消费者、企业以及商业市场。

实际上,Rotenberg并不仅是一个机构负责人,他还是乔治城大学法学院教授、隐私法专家和AI政策倡导者,而且是《AI政策手册》的编辑、OECDAI专家小组的成员。他此前成功参与FTC与Meta和谷歌之间的监管过程。

2010年,他通过另一个非营利组织电子隐私信息中心(EPIC),曾指控谷歌于2010年推出的GoogleBuzz社交网络服务违反用户隐私规定,未经用户同意自动共享他们的电子邮件联系人。随后FTC调查此事,并在2011年与谷歌公司达成和解协议,谷歌同意实施全面的隐私计划并接受为期20年的定期隐私审计,并全面关停GoogleBuzz服务;此外,Rotenberg还曾向FTC指控Facebook侵犯用户隐私权,致使Facebook与FTC在2019年达成50亿美元和解协议,是该机构迄今为止实施的最大罚款之一。

因此种种迹象表明,Rotenberg并不是普通的反对者,而是能够参与拜登政府监管科技公司的一个关键性人物,一定程度上可以影响美国在AI技术监管与规范的走向。

如今,Rotenberg对准GPT-4大模型和它的OpenAI公司。他认为,AI创新和基本权利保护可以通过监管策略实现两者平衡。Rotenberg强调,这项行动并不是“反OpenAI”。

图灵奖得主、深度学习领域另一位先驱YoshuaBengio也同意暂停AI大模型技术发展。Bengio表示,一年前他可能不支持暂停,但是ChatGPT已经跨越了“图灵测试”的重要阈值,因此这可能会以非常危险的方式被利用,从而威胁到更多的人。

“然而,我不认为它应该只针对OpenAI,也不认为它应该只在美国进行。”Bengio警告称。

但截至发稿前,美国FTC官网并没有对外公布对于OpenAI的管控措施,以及未对上述控诉信发表评论,只承认正在调查此事。

“我们已经要求国会向联邦贸易委员会施压,了解我们的控诉进展情况。”Rotenberg强调,美国将会对AI行业公布规范措施与监管。

不过,尽管部分美国人认为OpenAI应受到更严格的审查和监督,但另一波人则对此反对,OpenAI及其支持者们认为这样做可能会扼杀AI行业快速发展和技术创新,而是应该努力开发可信赖、有益于整个人类的AI系统。

“我们应该迅速行动并构建事物,不要因为有很多好处和价值可以创造而暂停,”著名AI专家、斯坦福人工智能实验室主任、前百度首席科学家吴恩达(AndrewNg),与AI先驱、Meta首席科学家YannLeCun就此问题进行的讨论中这样表示。

LeCun称反对“暂停AI技术开发6个月”这种说法,而是应该继续进行并负责任地开展AI技术研究工作,包括考虑伦理影响。吴恩达则直言,AI研究暂停6个月,才是真正巨大的伤害。应该受监管的是AI产品,而不是背后的研究。

华盛顿大学AI研究员、《终极算法》作者PedroDomingos则在邮件中表示:“我认为暂停函是一个可怕的想法,而这个控诉更糟糕。应该被嘲笑出庭。”

总的来看,无论是支持,还是反对ChatGPT和AI大模型发展,毫无疑问的是,AI技术的发展速度比任何人预期的都快,令很多机构措手不及,同时也让FTC等各国机构开始加速AI技术监管。

随着谷歌、微软、Meta、阿里等科技巨头陆续发布AI大模型,这就像在潮湿的地方出现的蘑菇一样,这类工具正逐步广泛分布在社会当中。正如阿里云CTO周靖人所言,未来每一家企业都将拥有自己的专属GPT大模型。

而这种大模型、大数据背后的安全性有待质疑。据ViceMotherboard5月12日报道,一名犯利用AI生成了仿冒美国R&B歌手FrankOcean的歌曲,并在互联网音乐收藏社区和聊天社区Discord上以9722美元的价格售出,每首歌赚了约3000至4000美元。报道指,这些曲目全部由AI制作,并在一个地下音乐社区中作为泄露曲目出售。

无独有偶。据某地公众号5月8日消息,“AI换脸”新型频发,分子通常使用他人真实姓名及照片,冒充他人身份添加被害人微信,再利用“AI换脸”技术和被害人进行短暂视频通话,博取被害人信任后实施,日前,福州一市民也遇到了此事,被走48000元。

当AI变得更加聪明时,医生、律师、会计师、工程师等职位似乎会被取代,IBM已经宣布AI将替代7800名员工职位。但同时,如果发生了错误,谁会对这场错误负责。比如自动驾驶,一旦出现事故到底是乘客责任还是AI软件的责任。

AI最终的守门人是医生、律师或其他人等等。这些问题似乎目前没办法得到回答,需要时间的不断推移、技术的不断进步、法律法规的不断健全、AI技术会朝着安全可控的方向发展等。

如今,人类开始迷思,面对不可阻挡的技术发展趋势,我们是否要摧毁AI技术进步。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金星链

[0:15ms0-2:26ms