文本到图谱的转换是一个具有技术挑战性的研究领域，其核心任务是将非结构化文本数据转换为结构化的图谱表示。这种技术虽然由来已久，但随着大型语言模型(LLMs)的发展，其应用范围得到了显著扩展，并逐渐成为主流技术方案之一。 上图展示了信息抽取过程 ...

RLVR（基于可验证奖励的强化学习）简单而粗暴：别听人的，听结果的。成为LLM的AlphaZero时刻，探索→验证→强化，还引入了全新Scaling Law 测试时计算。 （2）Vibe Coding（氛围编码）的流行：Vibe ...

不知 Gemini 1.5 Pro 是否用到了这项技术。 谷歌又放大招了，发布下一代 Transformer 模型 Infini-Transformer。 Infini-Transformer 引入了一种有效的方法，可以将基于 Transformer 的大型语言模型 (LLM) 扩展到无限长输入，而不增加内存和计算需求。使用该技术，研究者成功将 ...

实验结果令人惊喜，MTA几乎以零错误率完成了任务，这充分展现了MTA在处理多信息检索任务时的实力，与传统注意力机制相比，有着跨越式的进步。

这两天 Andrej Karpathy 的最新演讲在 AI 社区引发了热烈讨论，他提出了「软件 3.0」的概念，自然语言正在成为新的编程接口，而 AI 模型负责执行具体任务。 Karpathy 深入探讨了这一变革对开发者、用户以及软件设计理念的深远影响。他认为，我们不只是在使用新 ...

告别繁琐微调，一句话就能生成LoRA？！ 由Transformer作者之一Llion Jones联合创立的明星AI公司SakanaAI，近期推出Text-to-LoRA （T2L），彻底简化了模型适配流程： 现在，微调大模型时动辄数周的数据集准备、反复调整超参数的复杂流程，可以省了。 使用T2L生成的LoRA在 ...

据悉，昇思MindSpore开源社区将于 2025 年 12 月 25日在杭州举办昇思人工智能框架峰会。本次峰会的昇思人工智能框架技术发展与行业实践论坛将讨论到昇思MindSpore大模型套件技术进展与实践，MindSpore Transformers SIG的核心贡献者将在昇思开发者动手实践workshop设立 ...

微软本周发布20亿参数的1-bit模型BitNet b1.58 LLM家族，称此新型模型比主流Transformer LLM更不占内存且更少能耗，适合在CPU或较小型硬件平台上执行。 微软研究院与中国科学院研究人员2023年发布名为《BitNet: Scaling 1-bit Transformers for Large Language Models》的论文，首度发布 ...

本文讲述了大语言模型LLM的基本原理以及应用，仅供参考。 最近在做一些基于LLM（Large Language Models）的项目，计划系统化的梳理一个LLM系列文章，整个大纲，大概包括以下内容： 1、大语言模型：LLM的基本原理解读 2、如何将LLM应用到实际的业务中 3、基于LLM构建 ...

阿尔茨海默病早期筛查研究通过融合transformer嵌入与手工语言特征（如词汇丰富性、句法复杂度）的晚期融合模型，在ADReSSo ...

近日，上海交通大学电子信息与电气工程学院计算机系/教育部人工智能重点实验室盛斌教授团队携手清华大学黄天荫教授团队 ...