Fielix神经网络架构：场效应革新Transformer学习效率
作者开源新型神经网络架构Fielix，以“场效应”机制替代传统注意力机制。实验显示，在27M参数模型下，Fielix初始Loss为3.0，Transformer为7.9；最终Loss Fielix为1.66，Transformer为2.59...
标签索引 / 第 5 页
transformer
这个标签下有 60 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
AI大模型全栈工程师课程资源第9期：完整课件与实战工具包
本文提供了AI大模型全栈工程师第9期的完整课件资源，包括视频课程和配套工具包，覆盖大模型应用开发基础、Prompt Engineering、模型微调（上下）、多模态大模型（上下）、神经网络和Transformer详解、LangChain、R...
GLM-Image引入AR模型支持，新功能在望
GitHub上出现一个PR，旨在为GLM-Image适配AR模型的实现。该PR由开发者提交，获得51个赞，显示社区支持。GLM-Image是一个基于Transformer的AI图像模型，此次适配可能预示模型将扩展功能，支持更多应用场景，为未...
Trellis AI招募工程师，构建医疗保健AI代理
Trellis AI是斯坦福AI实验室的衍生公司，专注于构建AI代理以革新医疗保健访问。他们的系统自动化文档处理、预先授权和上诉流程，每年处理价值数十亿美元的治疗，覆盖全美50个州。公司由YC、General Catalyst等知名投资者支...
Karpathy神经网络07：GPT - 从零实现ChatGPT
本文是《Karpathy神经网络零基础课程》系列文章 ← 上一篇：Karpathy神经网络06：WaveNet – 神经网络大升级 | → 下一篇：Karpathy神经网络08：Tokenizer – 为什么AI不识...
大模型面试100问01：基础概念与架构篇
TL;DR 面试官问你Transformer原理，你能答到什么深度？本文从12个高频面试题入手，带你搞懂大模型的底层架构——不是背概念，是真正理解为什么GPT用单向注意力、LLaMA为什么选RoPE、多头注意力到底在干什么。读完这篇，你能用...
大模型面试100问：从基础到实战的完整指南
大模型面试100问：从基础到实战的完整指南 为什么需要这个系列？ 大模型面试不是背八股文——面试官要的是系统性理解和实战经验。市面上的面试题要么太碎片化（100个孤立问题），要么太理论化（只讲公式不讲应用）。 这个系列不一样： ✅ 系统化：...
AI大师Karpathy：神经网络从零到英雄实战课程
Andrej Karpathy推出“神经网络：从零到英雄”课程，系统讲解从反向传播到现代深度神经网络如GPT的构建过程。课程包括实践项目：micrograd、makemore语言模型、MLP、WaveNet、GPT及其Tokenizer。通...
腾讯开源混元Motion 1.0：AI生成3D动画新突破
混元Motion 1.0是一款基于Diffusion Transformer（DiT）架构与流匹配机制的十亿参数级AI模型，能从自然语言描述生成流畅自然的3D角色动画，覆盖广泛类别并无缝集成到美术管线。该模型由腾讯研发，计划于2025年12...
39岁Java老兵转型AI大模型开发，前辈指点迷津
一位拥有13年Java开发经验的39岁开发者，近日萌生转型AI大模型开发的念头。他已系统学习机器学习、深度学习、Transformer等核心技术，虽感门槛高但充满探索热情。针对转型可行性、常见陷阱及学习路径，他向行业前辈寻求真实建议。这一经...