FX168财经网_全球视野外汇黄金加密货币NFT资讯网

a16z领投AGI算力市场协议Gensyn 4300万美元一文读懂Gensyn

算力市场协议，将开发人员（任何能够训练机器学习模型的人）与解题者（Solver，任何想用自己机器训练机器学习模型的人）联系起来。通过利用世界各地闲置的、具有机器学习能力的长尾计算设备例如小型数据中心、个人游戏电脑、M1 和 M2 Mac甚至是智能手机，Gensyn 可以将可用计算能力提高 10-100 倍用于机器学习。 AGI（通用人工智能）面临的问题：高度中心化经过近半年的发展，市场普遍承认AGI是未来。但是AGI行业目前看起来高度垄断，国家之间是中美的贸易和人才战，公司之间是大型科技公司（微软、Google、Meta）的游戏。因为AGI 的三个关键资源（计算能力、知识和数据）目前高度中心化。计算能力：越来越大和复杂的模型需要使用高算力的处理器训练。国家之间：中美之间的芯片战，美国一直在积极阻止中国获取高算力芯片。公司之间：产能不足，英伟达最新AI芯片全部被某些大客户购买，其他公司根本无法买到。在技术栈上：一些公司甚至创建了自己的深度学习专用硬件，例如谷歌的TPU 集群。这些在深度学习方面的性能优于标准GPU，并且不出售，仅供出租。知识：许多公开的突破都源于研究人员开发的新的大模型架构，但在底层知识产权和人才方面存在着一场战斗。比如，美国吸引了超过50%的中国AI人才，而利用这些人才开发大模型的大公司正越来越多地降低这项技术的可及性；OpenAI的GPT-3.5或者4名义上可以公开使用，但它位于API后面，只有Microsoft可以访问其源代码。数据：AGI深度学习模型需要大量数据——包括标记的和未标记的——并且通常随着数据量的增加而改进。GPT-3 接受了 3000 亿个单词的训练。标记数据尤为重要，训练AGI需要的数据集集中在一些大公司手中。比如一个冷知识：每次你解决reCaptcha访问网站时，你都在标记训练数据以改进谷歌地图。去中心化AGI计算存在的困难去中心化计算可以创造一个更便宜、更自由的基础来研究和开发人工智能。但去中心化AGI存在着工作验证难题，如何知道第三方已完成你请求的计算？工作验证难题有两个因素：状态依赖，高计算费用。状态依赖：神经网络中的每一层都连接到它之前的层中的所有节点。这意味着它需要前一层的状态。更糟的是，每一层的所有权重都由前一个时间步决定。因此，如果你想验证是否有人训练了一个模型——比如，通过在网络中选择一个随机点并查看你是否得到相同的状态——你需要一直训练模型直到那个点，这计算量非常大。高计算费用： 2020 年 GPT-3 单次训练的成本约为 1200 万美元，比2019 年 GPT-2 训练的估计值约 43,000 美元高出 270 倍以上。一般来说，最好的神经网络的模型复杂度（大小）目前每三个月翻一番。如果神经网络更便宜，和/或如果训练代表更少的模型开发过程，那么可能来自状态依赖的验证开销是可以接受的。如果想降低深度学习训练的价格并去中心化控制权，需要一个系统来不信任地管理状态相关的验证，同时在开销和奖励那些贡献计算的人方面也很便宜。 Gensyn如何去中心化AGI计算 Gensyn协议将世界上所有的计算联合到一个全球机器学习超级集群中，任何人都可以随时使用。它通过结合两件事来实现以超大规模和低成本无需信任地训练神经网络： 1、创新的验证系统有效解决任意规模神经网络训练中状态依赖问题的验证系统。该系统将模型训练检查点与终止于链上的概率检查相结合。它以无需信任的方式完成所有这些工作，并且开销与模型大小成线性比例（保持验证成本不变）。根据Gensyn Litepaper，Gensyn主要通过三个概念解决验证问题：概率proof-of-learning（使用基于梯度的优化过程中的元数据来构建所执行工作的证书并通过某些阶段的复制来快速验证）、基于图的精确定位协议（使用多粒度、基于图的精确定位协议和交叉评估器一致执行，以允许验证工作重新运行并比较一致性，并最终由链本身确认）、Truebit 式激励游戏（使用 staking 和 slashing 来构建一个激励游戏，确保每个财务理性的参与者诚实行事并执行他们的预期任务）该系统主要由四个主要参与者：提交者、解题者、验证者和吹哨者。提交者：系统最终用户，提供将要计算的任务并为完成的工作单元付费；解题者：系统主要工作部分，执行模型训练并生成证明以供验证者检查；验证者：将非确定性训练过程链接到确定性线性计算、复制解题者证明的一部分并将距离与预期阈值进行比较；吹哨者：最后一道防线，检查验证者的工作并挑战以期获得累积奖金。 2、新的供应利用未充分利用和未充分利用/未优化的计算设备资源。这些设备包括从目前未使用的游戏GPU到之前以太坊PoW时代的GPU矿机。而且该协议的去中心化意味着它最终将由社区多数管理，未经社区同意不能“关闭”；与web2对应物不同，这使其具有抗审查性。大规模+低成本：Gensyn 协议提供了与数据中心拥有的GPU相似的成本，其规模可以超过AWS 来源：金色财经

金色财经2023-06-12

区块链动态2023年6月12日早参考

金色财经2023-06-12

财报分析 | AI 赋能的下一代搜索：百度的新增长引擎

有连云2023-06-12

马斯克讽刺人工智能炒作：什么“机器学习” 其实就是统计

　　在这张图片中，一位路人询问戴着“机器学习”（marchine learning）面罩的人工智能：“嗨，人工智能。为什么你总是戴着那个面罩？”一边说一边动手揭开了那个面罩，结果看到里面是另一幅面孔，写着“统计”（statistics）。路人急忙放下面罩，说：“还是戴着吧。” 　　马斯克的这条推文引发了广泛关注，目前浏览量已超过2900万次，被转发近2.9万次，并收获了超过28万个点赞。

金融界2023-06-12

没有AI的Web3没有灵魂 ZKML如何重塑AI与区块链的关系

b3将如何融合？近期，源自零知识证明和机器学习的新兴结合体ZKML叙事走热，它将如何协同人工智能和Web3，建立一个可信任的、去中心化的未来？一、AI需要Web3，反之亦然 CoinDesk的首席内容官迈克尔-凯西(Michael Casey)说：“将加密货币和人工智能视为不相关的技术是一个错误。它们是相辅相成的，彼此都在改进对方。” Web3、加密货币和区块链解决了自互联网开始以来一直存在的社会挑战，即在去中心化的环境中如何保持有价值的信息安全。它们通过采用分布式记录和激励机制的新系统来处理人类对信息的信任问题。这些系统帮助由不信任的陌生人组成的社区集体维护开放的数据记录，使他们能够在没有中间人的情况下分发和分享有价值或敏感的信息。当前，我们正迅速迈向全面人工智能时代，而这一时代所带来的挑战是十分艰巨的。这些挑战涵盖了多个方面，从保护大型语言模型（LLMs）输入的版权，到避免其输出中出现错误的偏见，再到我们目前无法准确区分真实内容和由人工智能创造的虚假信息所带来的“说谎者红利”。要确保人类不受人工智能的负面影响，没有简单的解决方法可言。任何解决方案都不能依赖于过时的20 世纪监管和技术框架来解决这些问题。我们迫切需要一个去中心化的治理系统，以应对在这个新时代如何生产、验证和分享信息的挑战。无论目前的Web3是否能提供所需的解决方案，区块链技术确实在解决这些问题方面发挥了一定的作用。不可篡改的账本使我们能够追踪图像和其他内容的来源，从而防止深度伪造。这种技术也可以用于验证机器学习人工智能产品数据集的完整性。加密货币提供了一种无边界的数字支付方式，可用于向全球为人工智能培训做出贡献的人们提供报酬，如Bittensor等项目正在努力建立代币化的区块链-政府社区，以激励人工智能开发者构建对人类友好的模型。与此相反，私营公司拥有的人工智能系统通常将股东利益置于用户权益之上。在这些想法能够实现并规模化之前，我们还有很长的路要走。我们将需要整合一系列其他技术，例如零知识证明（ZK）、同态加密、安全计算、数字身份和去中心化凭证（DID）、物联网等。此外，我们还需要解决隐私保护、惩罚不良行为、鼓励以人为本的创新智能以及多方立法监管等诸多挑战。二、ZKML如何架起AI和区块链的桥梁近期，源自零知识证明和机器学习的新兴结合体ZKML被广泛讨论。目前，机器学习（ML）的部署变得越来越复杂。很多企业主要依赖于亚马逊、谷歌、微软等服务提供商来部署复杂的机器学习模型。然而，这些服务变得越来越难以审计和理解。作为AI服务的消费者，我们如何相信这些模型所提供预测的有效性呢？ ZKML作为人工智能和区块链之间的桥梁，解决了AI模型和输入的隐私保护问题，同时确保了推理过程的可验证性。它提供了一种解决方案，使得可以在验证私有数据时使用公共模型，或在验证私有模型时使用公共数据。通过添加机器学习功能，智能合约能够变得更加自主和动态，使其能够根据实时链上数据而不是静态规则进行处理。这样一来，智能合约将更具灵活性，能够适应更多场景，甚至是那些在最初创建合约时可能没有预料到的场景。当前，机器学习算法在区块链上广泛采用的困难之一是其高昂的计算成本。由于百万级别的浮点运算无法直接在以太坊虚拟机（EVM）上执行，因此在链上运行这些模型成为一个挑战。另外，机器学习模型的信任问题也是一个障碍，因为模型的参数和输入数据集通常是私有的，而模型的算法和运行过程又如同一个不透明的“黑匣子”，这可能引发模型拥有者和模型使用者之间的信任问题。然而，通过ZKML技术，我们可以克服这些问题。ZKML允许任何人在链下运行一个模型，并生成一个简洁且可验证的证明，证明该模型确实产生了特定的结果。这个证明可以在链上发布，并由智能合约进行验证。这意味着模型使用者可以验证模型的结果，而无需了解模型的具体参数和运行细节，从而解决了信任问题。通过上述图表，我们可以看到ZKML技术兼具计算完整性、启发式优化和隐私保护等特点。这种技术在Web3领域有着广泛的应用前景，并且正在快速发展。越来越多的团队和个人加入了这个领域，推动着各种潜力巨大的ZKML项目的开发。三、ZKML项目分析以下是一些潜力ZKML项目。 1 、Worldcoin Worldcoin正在应用ZKML，试图建立一个保护隐私的人格证明协议。World ID 用户将能够在他们的移动设备的加密存储中自我保管其生物特征（如虹膜），下载用于生成 IrisCode 的 ML 模型并在本地创建零知识证明，接收的智能合约可以证明其 IrisCode 已成功创建。然后，可用于执行有用的操作，如成员资格认证和投票。他们目前使用具有安全enclave的可信运行环境来验证摄像头签名的虹膜扫描，但他们最终的目标是使用ZKP来证明神经网络对加密级别安全保障的正确推理，并且保证ML模型的输出不会泄露用户的个人数据。 2 、Modulus Labs Modulus Labs是ZKML领域中最多样化的项目之一，致力于相关研究的同时也在积极构建链上AI应用范例，Modulus Labs通过RockyBot（链上交易机器人）和Leela vs. the World（一种国际象棋游戏，所有人与经验证的Leela国际象棋引擎实例对决）展示了zkML的用例。该团队还涉足研究领域，撰写了The Cost of Intelligence（智能的成本）一文，对不同大小模型的各种验证系统的速度和效率进行了基准测试。 3 、Giza Giza是一种可以以一种完全无需信任的方法在链上部署AI模型的协议。它使用的技术栈包括用于机器学习模型的ONNX格式，用于将这些模型转换为Cairo程序格式的Giza Transpiler，用于以可验证和确定性的方式执行模型的ONNX Cairo Runtime，以及用于部署和执行链上模型的Giza Model智能合约。Giza总体上属于机器学习模型到证明的链上编译器，为链上AI的发展提供一个替代路径。 4 、Zkaptcha Zkaptcha 专注于 Web3 中的机器人问题，为智能合约提供captcha（验证码）服务，保护智能合约免受机器人攻击，使用零知识证明来创建抗女巫攻击的智能合约。目前，该项目使终端用户通过完成captcha验证码来产生一个人类工作的证明，captcha由链上验证者验证，并通过几行代码由智能合约访问。未来，Zkaptcha 将继承 zkML，推出类似于现有的 Web 2 验证码服务，甚至可以分析鼠标运动等行为，以确定用户是否为真人。目前看来，zkML赛道还处于初级阶段，但我们有理由相信会 zkML 的力量可以给 crypto 带来更好的前景和发展，也期待该领域能出现更多样的产品，zk 技术和 crypto 为 ML 的运行提供安全可信的环境，而未来除了产品的创新之外，还可能会催生 crypto 商业模式的创新，因为在这个狂野和无政府的 Web 3 世界中，去中心化、crypto 技术和信任才是最最基础的设施。结语在日益复杂和不确定的数字世界中建立信任，一直是人工智能和Web3所面临的核心挑战。然而，将人工智能与Web3相融合却为建立一个信任、安全的去中心化未来带来了巨大希望。对于开发者、技术专家、政策制定者和整个社会而言，共同塑造人工智能和Web3的未来至关重要，我们或许可以创造出一个超乎想象的智能互联网时代。 Reference https://worldcoin.org/blog/engineering/intro-to-zkml#motivation-and-current-efforts-in-zkml https://github.com/worldcoin/awesome-zkml https://www.coindesk.com/consensus-magazine/2023/05/19/why-web3-and-the-ai-internet-belong-together/ 版权声明：如需转载欢迎加小助理微信沟通，未经允许转载、洗稿、我方将保留追究法律责任的权利。免责声明：市场有风险，投资需谨慎。请读者在考虑本文中的任何意见、观点或结论时严格遵守所在地法律法规，以上内容不构成任何投资建议。来源：金色财经

金色财经2023-06-11

被神话的GPT 造不出你的梦中神车

hatGPT就运用了这项技术。那么，让机器学习司机的驾驶习惯，就不是一件很难的事情。特斯拉的影子模式，就是把真人司机的驾驶数据，投喂给机器学习。通过比对人类驾驶员行为，来达到训练算法的目的。 GPT掀起新一轮AI热潮后，对行业造成的一个认知冲击是，通过把模型的参数规模不断变大，数据量指数型增加，也就是所谓的大模型，在达到某个临界点后，模型会突然变得很聪明。过去，模型在训练阶段需要的数据，是经过人工标注的。以自动驾驶为例，数据标注员通过大量的图片标注，告诉机器什么是猫，什么是狗，猫和狗各有多少种类。标注员就像是机器的老师，一遍一遍教会它认识这个世界。问题是，老师没教过的东西，机器还是不会。典型的是特斯拉曾多次发生自动驾驶事故，车辆撞上侧翻的大卡车，因为机器识别不了。和高资本创始合伙人何宇华对深途举过这样一个例子：广州的夏季雨天频繁，在一些灯光比较昏暗的场景下，空中会有大量的飞虫。当汽车驶过时，灯光打过去，可能会有数以千计的飞虫撞向车头。在这种情况下，汽车的自动驾驶感知系统，可能会误认为是一堵墙。自动驾驶系统不能穷尽所有的corner case（极端场景），是其发展路上的一大难关。 ChatGPT抓取的是全网未标记的数据。在自监督学习中，数据本身被用作监督信号，而不是依赖于人工标记的标签。有一天人们发现，大模型在消化这些数据的过程中，突然具备了举一反三的能力。那么，如果自动驾驶大模型也能无监督地学习人类驾驶行为，不需要“老师”手把手地教，是不是意味着，系统摇身一变，成了“老司机”？ GPT“开车”，还不靠谱梦想很美好，实现梦想的路总是很骨感。类似ChatGPT的AI大模型要在自动驾驶领域发挥威力，目前来看至少有如下几个问题需要解决。首先是数据来源。 ChatGPT的数据来源非常丰富，包括维基百科、书籍、新闻文章、科学期刊等等，相当于全网公开数据都是它的养料。自动驾驶不同。驾驶员的驾驶数据、车辆行驶数据不公开，很多还涉及隐私。汽车厂商、自动驾驶公司各自为政，数据封闭不流通，这让获取数据变得困难。没有数据，自动驾驶就是无源之水。联想创投总裁贺志强对深途说，自动驾驶的核心是要有数据，数据对训练模型非常重要。比亚迪这样的主机厂有数据，但算法还需要打磨，“蔚小理”等造车新势力擅长算法，但车的销量还不够。既有数据也有算法的公司，才能充分用好大模型。其次是系统的计算部署方式有限制。余凯认为，OpenAI、ChatGPT是在云端的计算，在云端有充分的能量供给、电源供给，同时有非常好的系统，可是如果在车上依赖的是电池，依赖的是车端的散热，那么这个挑战是很大的，意味着自动驾驶不能用那么大的模型、那么大的计算。大模型对算力的消耗，导致云计算厂商成为这波AI热潮中第一批吃到红利的玩家。大厂开卷云计算，也是为大模型开路。但是在车端，这会是一个矛盾。更大的问题是，大模型的可靠性尚未验证。使用过ChatGPT的人知道，ChatGPT有时候会胡说八道，时对时错。这在业内被称为幻觉（hallucination）倾向，即产生完全没有出处的非真实内容。大模型会编造内容，而不在意内容的真实性和准确性。聊天可以胡说八道，自动驾驶不可以。任何一次错误的输出，导致的结果都可能是致命的。 “ChatGPT取得巨大进展，但自动驾驶迟迟没有到来，因为自动驾驶特别是无人驾驶，可能容错率就是零，那是人命关天的事情。”余凯说。曾在硅谷某AI创业公司担任COO的龙志勇认为，不可控、不可预测和不可靠，是大模型商业化最大的威胁。典型表现是大模型有幻觉倾向。现在，要让自动驾驶系统学会选择和辨别，并稳定地输出最优解，还不太现实。一家人工智能公司的内部人士对深途说：“视觉感知在算法层面的确有不少突破。但车这种场景，要求太高了，我个人不觉得短期能有大的突破。可以关注一下特斯拉的动向。” 然而最近科技圈有一股风气，大大小小的公司，都要蹭一把GPT的热点。有一些汽车厂商，宣布即将应用类似GPT的技术，一堆炫酷的概念让人傻傻分不清楚。比如某传统车企旗下的自动驾驶公司，就发布了一个自动驾驶生成式大模型，要用这个模型来训练自动驾驶，号称“行业首例”。一位长期关注智能汽车赛道的投资人，询问一位行业大佬怎么看该模型，对方就回了四个字：“TM扯淡。” “完全就是一个PR行为。”这位投资人对深途评价。自动驾驶，会被推倒重来吗？在特斯拉的带动下，再叠加今年兴起的AI浪潮，自动驾驶行业逐渐向大模型、大算力、大数据方向不断靠近。大模型对自动驾驶的影响，目前还不够剧烈，但嗅觉敏锐的人已经呈现出一种矛盾心态。就像当年特斯拉利用Transformer将多摄像机数据从图像空间转化为BEV空间，为此不惜将原有架构推翻，重写算法。现在大模型的应用，也可能意味着原有自动驾驶算法，会被推倒重来。贺志强认为，大模型会对自动驾驶有巨大影响。以前自动驾驶用到很多小模型，现在变成大模型，可能需要重新来一遍。自动驾驶行业会重新洗牌。一家AI芯片公司的自动驾驶总监赵东翔对深途说，整体端到端更改，等于重新做。洗牌对新入局者是机会，对领先者是威胁。弯道超车的故事，往往发生在技术急速变革时期。在技术一日千里的时代，在旧路线投入越多，沉没成本可能越大，转身越困难。对于整车厂或自动驾驶公司而言，要拥抱一项新技术，不仅要考虑效果，还要考虑成本。赵东翔表示，就当前阶段而言，自动驾驶变换技术路线没意义，“现在行业技术能力也不差，大家花那么多钱做了那么久，没有大幅度提高的话没有换的动力。” 在去年底的AI DAY上，特斯拉将BEV升级到占用网络（occupancy network），泛化能力得到进一步提升。通过占用网络，特斯拉的自动驾驶感知系统可以不需要知道看到的物体是什么，就可以判断是否需要躲避，由此解决了更多长尾问题。不论何种技术路线，现在都处于快速变化迭代中。过去的小模型可能会被大模型替代，今天的大模型也可能在未来被某种新物种替代。但不管怎样，蹭热点、制造噱头的做法，是无益于技术进步的。“蹭热度是陋习，踏踏实实做产品才有用。”赵东翔说。自动驾驶真正的“王炸”，还远没有到来。我们需要做的，是对每一轮技术变革保持敬畏之心。被神话的GPT，造不出你的梦中神车，但至少，变化已经发生了。来源：金色财经

金色财经2023-06-10

没有AI的Web3没有灵魂 ZKML如何重塑AI与区块链的关系

b3将如何融合？近期，源自零知识证明和机器学习的新兴结合体ZKML叙事走热，它将如何协同人工智能和Web3，建立一个可信任的、去中心化的未来？一、AI需要Web3，反之亦然 CoinDesk的首席内容官迈克尔-凯西(Michael Casey)说：“将加密货币和人工智能视为不相关的技术是一个错误。它们是相辅相成的，彼此都在改进对方。” Web3、加密货币和区块链解决了自互联网开始以来一直存在的社会挑战，即在去中心化的环境中如何保持有价值的信息安全。它们通过采用分布式记录和激励机制的新系统来处理人类对信息的信任问题。这些系统帮助由不信任的陌生人组成的社区集体维护开放的数据记录，使他们能够在没有中间人的情况下分发和分享有价值或敏感的信息。当前，我们正迅速迈向全面人工智能时代，而这一时代所带来的挑战是十分艰巨的。这些挑战涵盖了多个方面，从保护大型语言模型（LLMs）输入的版权，到避免其输出中出现错误的偏见，再到我们目前无法准确区分真实内容和由人工智能创造的虚假信息所带来的“说谎者红利”。要确保人类不受人工智能的负面影响，没有简单的解决方法可言。任何解决方案都不能依赖于过时的20世纪监管和技术框架来解决这些问题。我们迫切需要一个去中心化的治理系统，以应对在这个新时代如何生产、验证和分享信息的挑战。无论目前的Web3是否能提供所需的解决方案，区块链技术确实在解决这些问题方面发挥了一定的作用。不可篡改的账本使我们能够追踪图像和其他内容的来源，从而防止深度伪造。这种技术也可以用于验证机器学习人工智能产品数据集的完整性。加密货币提供了一种无边界的数字支付方式，可用于向全球为人工智能培训做出贡献的人们提供报酬，如Bittensor等项目正在努力建立代币化的区块链-政府社区，以激励人工智能开发者构建对人类友好的模型。与此相反，私营公司拥有的人工智能系统通常将股东利益置于用户权益之上。在这些想法能够实现并规模化之前，我们还有很长的路要走。我们将需要整合一系列其他技术，例如零知识证明（ZK）、同态加密、安全计算、数字身份和去中心化凭证（DID）、物联网等。此外，我们还需要解决隐私保护、惩罚不良行为、鼓励以人为本的创新智能以及多方立法监管等诸多挑战。二、ZKML如何架起AI和区块链的桥梁近期，源自零知识证明和机器学习的新兴结合体ZKML被广泛讨论。目前，机器学习（ML）的部署变得越来越复杂。很多企业主要依赖于亚马逊、谷歌、微软等服务提供商来部署复杂的机器学习模型。然而，这些服务变得越来越难以审计和理解。作为AI服务的消费者，我们如何相信这些模型所提供预测的有效性呢？ ZKML作为人工智能和区块链之间的桥梁，解决了AI模型和输入的隐私保护问题，同时确保了推理过程的可验证性。它提供了一种解决方案，使得可以在验证私有数据时使用公共模型，或在验证私有模型时使用公共数据。通过添加机器学习功能，智能合约能够变得更加自主和动态，使其能够根据实时链上数据而不是静态规则进行处理。这样一来，智能合约将更具灵活性，能够适应更多场景，甚至是那些在最初创建合约时可能没有预料到的场景。当前，机器学习算法在区块链上广泛采用的困难之一是其高昂的计算成本。由于百万级别的浮点运算无法直接在以太坊虚拟机（EVM）上执行，因此在链上运行这些模型成为一个挑战。另外，机器学习模型的信任问题也是一个障碍，因为模型的参数和输入数据集通常是私有的，而模型的算法和运行过程又如同一个不透明的“黑匣子”，这可能引发模型拥有者和模型使用者之间的信任问题。然而，通过ZKML技术，我们可以克服这些问题。ZKML允许任何人在链下运行一个模型，并生成一个简洁且可验证的证明，证明该模型确实产生了特定的结果。这个证明可以在链上发布，并由智能合约进行验证。这意味着模型使用者可以验证模型的结果，而无需了解模型的具体参数和运行细节，从而解决了信任问题。通过上述图表，我们可以看到ZKML技术兼具计算完整性、启发式优化和隐私保护等特点。这种技术在Web3领域有着广泛的应用前景，并且正在快速发展。越来越多的团队和个人加入了这个领域，推动着各种潜力巨大的ZKML项目的开发。三、ZKML项目分析以下是一些潜力ZKML项目。 1、Worldcoin Worldcoin正在应用ZKML，试图建立一个保护隐私的人格证明协议。World ID 用户将能够在他们的移动设备的加密存储中自我保管其生物特征（如虹膜），下载用于生成 IrisCode 的 ML 模型并在本地创建零知识证明，接收的智能合约可以证明其 IrisCode 已成功创建。然后，可用于执行有用的操作，如成员资格认证和投票。他们目前使用具有安全enclave的可信运行环境来验证摄像头签名的虹膜扫描，但他们最终的目标是使用ZKP来证明神经网络对加密级别安全保障的正确推理，并且保证ML模型的输出不会泄露用户的个人数据。 2、Modulus Labs Modulus Labs是ZKML领域中最多样化的项目之一，致力于相关研究的同时也在积极构建链上AI应用范例，Modulus Labs通过RockyBot（链上交易机器人）和Leela vs. the World（一种国际象棋游戏，所有人与经验证的Leela国际象棋引擎实例对决）展示了zkML的用例。该团队还涉足研究领域，撰写了The Cost of Intelligence（智能的成本）一文，对不同大小模型的各种验证系统的速度和效率进行了基准测试。 3、Giza Giza是一种可以以一种完全无需信任的方法在链上部署AI模型的协议。它使用的技术栈包括用于机器学习模型的ONNX格式，用于将这些模型转换为Cairo程序格式的Giza Transpiler，用于以可验证和确定性的方式执行模型的ONNX Cairo Runtime，以及用于部署和执行链上模型的Giza Model智能合约。Giza总体上属于机器学习模型到证明的链上编译器，为链上AI的发展提供一个替代路径。 4、Zkaptcha Zkaptcha 专注于 Web3 中的机器人问题，为智能合约提供captcha（验证码）服务，保护智能合约免受机器人攻击，使用零知识证明来创建抗女巫攻击的智能合约。目前，该项目使终端用户通过完成captcha验证码来产生一个人类工作的证明，captcha由链上验证者验证，并通过几行代码由智能合约访问。未来，Zkaptcha 将继承 zkML，推出类似于现有的 Web 2 验证码服务，甚至可以分析鼠标运动等行为，以确定用户是否为真人。目前看来，zkML赛道还处于初级阶段，但我们有理由相信会 zkML 的力量可以给 crypto 带来更好的前景和发展，也期待该领域能出现更多样的产品，zk 技术和 crypto 为 ML 的运行提供安全可信的环境，而未来除了产品的创新之外，还可能会催生 crypto 商业模式的创新，因为在这个狂野和无政府的 Web 3 世界中，去中心化、crypto 技术和信任才是最最基础的设施。结语在日益复杂和不确定的数字世界中建立信任，一直是人工智能和Web3所面临的核心挑战。然而，将人工智能与Web3相融合却为建立一个信任、安全的去中心化未来带来了巨大希望。对于开发者、技术专家、政策制定者和整个社会而言，共同塑造人工智能和Web3的未来至关重要，我们或许可以创造出一个超乎想象的智能互联网时代。 Reference https://worldcoin.org/blog/engineering/intro-to-zkml#motivation-and-current-efforts-in-zkml https://github.com/worldcoin/awesome-zkml https://www.coindesk.com/consensus-magazine/2023/05/19/why-web3-and-the-ai-internet-belong-together/ 来源：金色财经

金色财经2023-06-10

撤离中国！微软正将顶尖中国AI研究人员调往加拿大：“派到中国有风险”

系，但把我们最优秀的研究人员，尤其是在机器学习领域工作的研究人员派到中国是有风险的。”“人才可能会被中国公司挖走，员工可能会被当局骚扰。我们在内部会议上讨论了这些风险。” 另一名同样申请加拿大签证的微软研究人员表示:“也许在美国和中国以外的第三个国家，我们可以重拾过去那种充满活力的科技讨论。” 微软表示:“我们正在温哥华建立一个新的实验室，该实验室将在组织上与MSRA保持一致，旨在更好地与温哥华的工程团队合作。该实验室的工作人员将来自世界各地的其他MSR实验室，包括中国。” 任何将顶尖人工智能研究人员迁往海外的决定都有可能引发北京方面的愤怒，北京一直试图通过慷慨的资助和享有声望的教学职位，吸引在海外工作的中国高科技研究人员回到内地。由台湾计算机科学家李开复创立的MSRA一直是中国科技人才的重要培训中心。其校友名单包括阿里云创始人王坚、商汤科技首席执行官徐立和人工智能集团旷视科技负责人印奇。 “MSRA对人工智能的贡献是惊人的，”一位曾与微软合作过的中国科技顾问表示。“它已经在这个领域工作了很长时间。许多前同事都加入了中国的科技公司，推动了中国整个人工智能生态系统的发展。” 微软进入中国已有30多年的历史。在谷歌(Google)、eBay、Facebook和优步(Uber)等其他西方科技集团因竞争或监管而被迫退出之际，微软在中国仍保持着强大的影响力。微软开发了受欢迎的本地化产品，包括其旗舰Office和Windows软件包，以及必应(Bing)搜索引擎。根据微软去年9月发布的一篇帖子，微软在中国拥有9000名员工，其中逾80%是软件工程师或从事研发工作。该公司还宣布计划在中国再招聘1000名员工。但中国有很大一部分工程人才从事全球产品的研发，如果中美关系进一步恶化，这可能会给这家美国公司带来越来越大的问题。一位接近该公司的人士表示，未来这些有才华的工程师中，有一些可能也会被调离中国。今年5月，微软旗下的领英(LinkedIn)在宣布关闭面向中国用户的求职网站InCareer后，对其中国办事处进行了裁员。InCareer在2021年取代了这家专业社交网站。 MSRA是中美两国在高科技研究领域合作的一个罕见例子。但两名研究人员表示，这两个大国之间不断恶化的关系，以及对各自科技野心的偏执加剧，缩小了它们与西方同行合作的能力，并使它们受到中国官员更严格的审查。在英国《金融时报》报道该研究所与一所中国军方管理的大学合作进行可用于监视和审查的人工智能研究后，该研究所受到了华盛顿方面的批评。 “过去两年，人工智能已成为一个所谓的敏感领域，”一位申请加拿大签证的微软中国研究人员表示。“以前，作为一名在美国机构工作的中国人，意味着可以从两国获得大量资源。交流的空间正在缩小。”

夏洛特 1评论2023-06-10

AI训练中的公平

平来源-----使用不平衡的数据集训练机器学习模型在许多情况下，获取代表性数据可能过于困难。同时公平性算法对于输入的变化特别敏感。数据挑战包括在数据标注时的错误、测量误差、偏差和样本不平衡。数据标签错误是实现公平机器学习严重障碍之一。数据类别不平衡也会影响不公平性学习效果。只有通过尽量准确的标注数据，以及针对训练数据的特点设计机器学习算法实现公平性。同时，建设评估公平性算法的数据集也很关键。如果使用不平衡的数据集训练机器学习模型，比如一个包含远多于肤色较浅的人的图像的数据集，则当模型部署在现实世界中时，该模型的计算存在严重风险。但这只是问题的一部分。麻省理工学院的研究人员发现，在图像识别任务中流行的机器学习模型在对不平衡数据进行训练时实际上会编码偏差。即使使用先进的公平性提升技术，甚至在使用平衡数据集重新训练模型时，模型中的这种偏差也无法在以后修复。 ●解决方案----公平性嵌入到机器学习模型中公平性表示学习包含数据和模型的公平性表示。数据的公平性表示，是指一方面能够表达出包含数据点相关的大量有用信息，同时这一表示是公平的，即包含有关敏感属性信息，目的是防止机器学习算法产生歧视性行为。模型的公平性表示，是指把公平性嵌入到机器学习模型中，成为不可分割的一部分。从算法的基本定义出发，用输入、过程及输出不同阶段描述解决问题的策略机制。这使模型即使在不公平数据上进行训练也能产生公平的输出，这一点尤其重要，因为很少有平衡良好的数据集用于机器学习。 Meta(前facebook)在经历AI标注歧视事件与Oasis lab建立合作伙伴关系，并推出一个安全多方计算 (SMPC) 来评估 Meta 产品的公平性，同时保护人们的隐私。由第三方调查提供商收集的数据将以某种方式与第三方服务商秘密共享，这样服务商或 Meta 都无法获悉用户的调查回答。然后，促进者使用来自 AI 模型的加密计算数据计算测量值，这些数据由 Meta 以加密方式共享，每个促进者的组合、去识别化结果由 Meta 重组为聚合公平性测量结果。该平台使用的加密技术使 Meta 能够衡量偏见和公平性，同时为贡献敏感人口统计测量数据的个人提供高水平的隐私保护。 ●结语 AI已经应用在人们生活的方方面面，如何摒弃偏见，实现AI公平将是AI能在人们的经济生活中正确发挥作用的重大挑战。Meta 和Oasis Lab合作的新平台是AI公平的新的尝试。期待他们的合作，为更公平、更包容的社会构建负责任的人工智能和负责任的数据使用。参考资料：https://www.oasisprotocol.org/blog/web3-responsible-ai-by-oasis https://ai.facebook.com/blog/assessing-fairness-of-our-products-while-protecting-peoples-privacy/）来源：金色财经

金色财经2023-06-10

AI公平的实现

平来源-----使用不平衡的数据集训练机器学习模型在许多情况下，获取代表性数据可能过于困难。同时公平性算法对于输入的变化特别敏感。数据挑战包括在数据标注时的错误、测量误差、偏差和样本不平衡。数据标签错误是实现公平机器学习严重障碍之一。数据类别不平衡也会影响不公平性学习效果。只有通过尽量准确的标注数据，以及针对训练数据的特点设计机器学习算法实现公平性。同时，建设评估公平性算法的数据集也很关键。如果使用不平衡的数据集训练机器学习模型，比如一个包含远多于肤色较浅的人的图像的数据集，则当模型部署在现实世界中时，该模型的计算存在严重风险。但这只是问题的一部分。麻省理工学院的研究人员发现，在图像识别任务中流行的机器学习模型在对不平衡数据进行训练时实际上会编码偏差。即使使用先进的公平性提升技术，甚至在使用平衡数据集重新训练模型时，模型中的这种偏差也无法在以后修复。 ●解决方案----公平性嵌入到机器学习模型中公平性表示学习包含数据和模型的公平性表示。数据的公平性表示，是指一方面能够表达出包含数据点相关的大量有用信息，同时这一表示是公平的，即包含有关敏感属性信息，目的是防止机器学习算法产生歧视性行为。模型的公平性表示，是指把公平性嵌入到机器学习模型中，成为不可分割的一部分。从算法的基本定义出发，用输入、过程及输出不同阶段描述解决问题的策略机制。这使模型即使在不公平数据上进行训练也能产生公平的输出，这一点尤其重要，因为很少有平衡良好的数据集用于机器学习。 Meta(前facebook)在经历AI标注歧视事件与Oasis lab建立合作伙伴关系，并推出一个安全多方计算 (SMPC) 来评估 Meta 产品的公平性，同时保护人们的隐私。由第三方调查提供商收集的数据将以某种方式与第三方服务商秘密共享，这样服务商或 Meta 都无法获悉用户的调查回答。然后，促进者使用来自 AI 模型的加密计算数据计算测量值，这些数据由 Meta 以加密方式共享，每个促进者的组合、去识别化结果由 Meta 重组为聚合公平性测量结果。该平台使用的加密技术使 Meta 能够衡量偏见和公平性，同时为贡献敏感人口统计测量数据的个人提供高水平的隐私保护。 ●结语 AI已经应用在人们生活的方方面面，如何摒弃偏见，实现AI公平将是AI能在人们的经济生活中正确发挥作用的重大挑战。Meta 和Oasis Lab合作的新平台是AI公平的新的尝试。期待他们的合作，为更公平、更包容的社会构建负责任的人工智能和负责任的数据使用。参考资料：https://www.oasisprotocol.org/blog/web3-responsible-ai-by-oasis https://ai.facebook.com/blog/assessing-fairness-of-our-products-while-protecting-peoples-privacy/）来源：金色财经

金色财经2023-06-10

24小时热点