用 AI 预测 AI,它的未来会是什么?

8a07e570b7d8f97684c919f8a1c97eff.jpeg

来源:学术头条

人工智能,开始解决越来越多人类尚未解决的问题,且取得了不错的成果。

然而,在过去几年中,人工智能领域的科学研究数量呈指数级增长,使得科学家们和从业者们很难及时跟踪这些进展。

数据显示,机器学习领域的研究论文数量每 23 个月就会翻一番。其中一个原因是,人工智能正在数学、统计学、物理学、医学和生物化学等不同学科中得到利用。

通过从科学文献中获得见解,提出新的个性化研究方向和想法的工具可以显著加速科学的进步。在人工智能与其他各领域交叉的过程中,人们该如何判别哪些方向有意义并值得去做?

为此,由马克斯·普朗克光科学研究所(MPL)人工智能科学家 Mario Krenn 领导的国际团队发布了一项关于“指数级增长知识网络中的高质量链接预测”的研究。相关研究论文以“Predicting the Future of AI with AI: High-Quality link prediction in an exponentially growing knowledge network”为题,发表在预印本网站 arXiv 上。

7a17aba1cf5176942a1c2616cc4533bf.jpeg(来源:arXiv)

这项研究工作的目的是设计一个可以“阅读、理解,然后行动”的人工智能相关文献的程序,从而为预测和建议跨领域研究思路打开大门。研究团队认为,从长远来看,这将提高人工智能研究人员的生产力,开辟新的研究途径,并指导该领域的进步。

以往的实践证明,新的研究思路往往通过在看似不相关的主题/领域之间建立新的联系而产生。

这促使研究团队将人工智能文献的演化制定为一个时间网络建模任务,并创建了一个可以描述自 1994 年以来人工智能文献内容和演变的语义网络。

同时,研究团队也探讨了一个包含 64000 个概念(也称为节点)和 1800 万条节点间联系的网络,并使用语义网络作为 10 种不同的统计和机器学习方法的输入。

其中最基本的任务之一——构建语义网络——有助于从网络中提取知识,并随后使用计算机算法进行处理。

ca160f0e9564a71d99bfa5d48161a489.jpeg图|在此次工作中,研究团队使用了 14.3 万篇于 1992-2020 年发表在 arXiv 上的人工智能和机器学习类的论文,并使用 RAKE 和其他 NLP 工具构建了一个概念列表。这些概念构成了语义网络的节点,当两个概念同时出现在一篇论文的标题或摘要中时,就会画出边界(edge)。通过这种方式,他们构建了一个不断发展的语义网络,随着时间的推移,更多的概念被一起研究。最终的任务是预测未连接的节点,即在科学文献中没有一起研究的概念,将在几年内连接起来。(来源:arXiv)

起初,研究团队考虑使用 GPT-3 和 PaLM 等大型语言模型来创建这样的网络。然而,主要的挑战是,这些模型仍然难以推理,很难识别或提出新的概念组合。

于是,他们便转向借鉴生物化学的方法,即从科学论文中共同出现的概念中创建知识网络;单个生物分子代表一个节点,当一篇论文提到两个对应的生物分子时,两个节点就连接起来。这种方法是由芝加哥大学医学教授和人类遗传学教授 Andrey Rzhetsky 和他的团队首先提出的。

研究团队使用这种方法捕获了人工智能领域的历史,并使用超级计算机模拟提取了有关科学家集体行为的重要陈述,基于大量论文不断重复这一过程,从而形成一个捕获可操作内容的网络。

基于此,研究团队开发了一个名为 Science4Cast 的新基准测试,并提供了十种不同的方法来解决这一基准测试。研究团队认为,他们的工作有助于构建一个能够预测人工智能研究趋势的新工具

以往,每当打开任何人工智能和机器学习相关论坛时,人们都会发现,“跟上人工智能的进步”是讨论的首要话题。

或许,这一研究能够为人们缓解一些这样的压力。

论文链接:
https://arxiv.org/pdf/2210.00881.pdf

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

2f76e4b65c6414d10f3894a42c47834f.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/481505.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

文献阅读课17-利用实体BIO标签嵌入和多任务学习进行不平衡数据关系提取,一个句子多关系多实体,ACL2019

文章目录abstract1 Introduction2. Proposed Approach3.实验3.1数据准备3.2 Experiment Settings3.4 分析3.4.1 BIO embedding3.4.2 Effect of Positive/Negative Instance Ratio3.4.3 Effect of Loss Function w/o Multi-tasking4 Related work5 结论Ye, W., et al. (2019). E…

【Brain】登上国际顶刊 PNAS!科学家从理论计算机出发,提出了一个意识模型——「有意识的图灵机」...

来源:墨玫人工智能编译:AI 科技评论组编辑:陈彩娴深度学习三巨头之一的Yoshua Bengio也点头称赞。5月下旬,国际顶刊《美国国家科学院院刊》(PNAS)发表了一篇其于去年10月接收审核的工作,研究非常…

72名图灵奖获得者的成就

来源:图灵教育从“图灵机”到“图灵测试”,从破译德军的 Enigma 到自杀之谜,图灵一生都是传奇,关于图灵的故事我们不在这里赘述,感兴趣的读者请看文末推荐阅读。今天我们更想聊聊,计算机领域最高奖项 —— …

18-Gm-TransH:Group-Constrained Embedding of Multi-fold Relations in Knowledge Bases,嵌入,transH,n-ary

文章目录abstract1. introduction2 Related Work2.1 Binary Relation Embedding2.2 Multi-fold Relation Embedding3 Group-Constrained Embedding3.1 Framework3.2 Optimizing Method3.3 Proposed Model3.4 Complexity Analysis4.实验4.1 数据集4.2 Link Prediction4.3 Instan…

统计学权威盘点过去50年最重要的统计学思想

来源:量化研究方法作者:陈彩娴、Mr Bear编辑:青暮近日,图灵奖得主、“贝叶斯网络之父”Judea Pearl在Twitter上分享了一篇新论文“What are the most important statistical ideas of the past 50 years?”(过去50年中…

19-A Walk-based Model on Entity Graphs for Relation Extraction(句内多对,多关系,多元,2018ACL

文章目录abstract1.introduction2 Proposed Walk-based Model2.1 嵌入层2.2 Bidirectional LSTM Layer2.3 Edge Representation Layer2.4 Walk Aggregation Layer2.5 Classification Layer3.实验3.1数据集3.2 Experimental Settings5.结果6.相关工作6.总结Christopoulou, F., e…

CCCF精选 | 李德毅:机器如何像人一样认知——机器的生命观

如果上一代人工智能可以叫做计算机智能,硬核是算力、算法和数据的话,那么新一代人工智能应该是有感知、有认知、有行为、可交互、会学习、自成长的机器智能,其硬核是交互、学习和记忆,而量子认知机的落地应用,则可能是…

量子混沌:相互作用如何影响量子多体系统的局域化?

导语在量子系统中,相干性会打破单个粒子的遍历性,使之进入一种动态局域化状态。对于包含相互作用的量子多体系统,情况会是怎样呢?近日发表于 Nature Physics 的两项研究通过实验证明,相互作用会破坏量子多体系统的动态…

可能是全网最简明的量子纠缠科普

前两天有位朋友抱怨,说是看了很多学者关于量子纠缠的科普,但还是一头雾水,没有一个人真的讲明白的。我就上网搜了几个看。确实,大多数科普要么是光顾着讲爱因斯坦和波尔打嘴炮的历史了,不讲物理;要么讲着讲…

20-Joint entity and relation extraction based on a hybrid neural network(LSTM-ED+CNN),考虑长距离的实体标签之间的关

文章目录abstract1.introduction2.相关工作2.1. Named entity recognition2.2. Relation classification2.3 联合模型2.4. LSTM and CNN models On NLP3.模型3.1. Bidirectional LSTM encoding layer3.2. Named entity recognition (NER) module:LSTM decoder3.3. Relation cla…

牛津大学团队采用先进机器人技术,推动「人造肌腱」实际应用

你知道“肩袖撕裂”吗?它是肩关节炎疼痛的常见原因之一。作为肩袖撕裂损伤中最为常见的肌腱损伤,每年世界范围内的患者高达几千万人。该病痛给患者带来巨大疼痛,甚至导致肢体功能丧失,无法正常生活和工作,造成极大的家…

finetune与Bert

文章目录一:过拟合1.1 直接finetune1.2 layer finetune1.3ULMFiT2 Bert节省内存3 Bert蒸馏4.post train一:过拟合 1.1 直接finetune 容易过拟合 1.2 layer finetune 拷贝部分预训练参数,而其他随机初始化 两部分一同训练:提升…

《Nature》长期寻找,终于发现直接促进神经递质“弹药库”的蛋白质

来源:生物通俄勒冈健康与科学大学(Oregon Health & Science University)的科学家们发现了一种长期寻找的基因编码蛋白质,这种蛋白质能使大脑在神经元之间的间隙(称为突触)之间传递广泛的信号。科学家们发现了一种长期寻找的基因编码蛋白质&#xff0…

机器翻译

1 模型 1.1 模型 1.2 RNNBeam searchAttention 损失函数:交叉熵 预测:不使用解码器而是beam search #paddlepaddle from __future__ import print_function import os import six import numpy as np import paddle import paddle.fluid as flui…

姚能伟:以邻盛智能为例,如何在行业大脑进行创新实践

报告内容摘要随着技术发展,未来一定是智慧的时代。为此我们提除了感知世界,透视数据,洞察未知为理念的新型技术探索与实践。依托多年项目经验与行业专业积累,形成了一些行业深度的解决方案。在实践过程中形成了客观世界的泛感知和…

Science:已“死亡”的细菌仍能感知来自环境的信息

根据信号强度对细菌孢子进行颜色编码的显微镜图像:颜色越亮,信号越强细菌依靠其顽强的生命力,在包括人类在内的各种生命体和地球的各个角落繁衍生息。细菌之所以难以被杀死,是因为它们具有独特的生存策略,其中一种是在…

Berttransformer

1.transformer transformer self-attention 当前编码的词和整个句子所有词做attention,权重加在所有句子上获得当前的表示 encoder-decoder-attention 当前解码的单元和编码器的所有输出做attention,权重加在所有编码输出上,获得当前的表示…

GPT1-3(GPT3/few-shot,无需finetune)

GPT1–finetune 12层单向transformer预训练精调被bert比下去了 GPT2-元学习 输入:加上任务描述 “英翻法:This is life” 输出: “C’est la vie” 参数15亿在NLU:比不上bert也比不过其他大参数模型:如Turing-NLG GPT3-Langua…

一种基于人工智能的化学合成机器人,用于纳米材料的探索和优化

编辑 | 萝卜皮格拉斯哥大学(University of Glasgow)的研究人员提出了一种自主化学合成机器人,用于探索、发现和优化由实时光谱反馈、理论和机器学习算法驱动的纳米结构,这些算法控制反应条件并允许选择性地模板化反应。这种方法允…

千脑智能理论:开启创造机器智能的路线图 | 《千脑智能》

导语当人们谈论人工智能时,往往热衷于算法优化、模型迭代、算力提升,海量参数的复杂网络仿佛就是人工智能的发展方向。然而,这就是真正的智能吗?计算机科学家与神经科学家杰夫霍金斯在《千脑智能》中提出了一种关于大脑和智能的理…