近年来，由ChatGPT掀起的AGI革命如火如荼，但可能鲜有人知，GPT背后的基石模型——Transformer，才是这场革命的真正推手。这项集各种神经网络大成的结构，包含了MLP前馈层、残差网络、自注意力机制（可以认为是卷积网络的一种推广），本身就是一种变体的循环神经网络。这种设计使其能学习极其复杂的数据逻辑，无论是在自然语言处理、计算机视觉，还是金融数据分析、游戏AI设计、基因序列分析、音频生 ...

值得一提的是，这里面的员工人数是年度博客里没有提及的内容。可以看到，尽管同比2023年已经扩张了31%的规模，但Supercell目前仍仅有686名员工。要知道，这在国内游戏行业的语境下，可能还说不上是一家“大厂”。

根据 Deepseek 公布的信息，许多人认为，只有训练更大规模的模型，才能真正发挥强化学习（RL）的威力。然而，训练大模型需要庞大的计算资源，让开源社区望而却步。目前的工作（如 TinyZero）仅在简单任务上复现了所谓的 “Aha moment” ...

DeepSeek-R1火遍海内外，但推理服务器频频宕机，专享版按GPU小时计费的天价成本更让中小团队望而却步。

近日，南芯科技（688484）在其投资者关系平台上回应了投资者关于人形机器人电源芯片的询问，确认公司目前尚未推出专为人形机器人设计的芯片产品。这一消息引发了业界的广泛关注，特别是在人工智能和机器人技术快速发展的背景下，供电技术的进步必然成为这些行业发 ...

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@ ...

随着人工智能技术的蓬勃发展，Transformer模型的影响力和应用范围也在不断扩大。这个改变游戏规则的模型已经成为学界与业界探索新技术的关键。面对这一趋势，迅速掌握并应用Transformer将极大增强个人的行业竞争力，为未来的人工智能发展打下坚实的基础。 返回搜狐，查看更多 ...

编辑：编辑部 【新智元导读】只用4500美元成本，就能成功复现DeepSeek？就在刚刚，UC伯克利团队只用简单的RL微调，就训出了DeepScaleR-1.5B-Preview，15亿参数模型直接吊打o1-preview，震撼业内。 强化学习迎来重大突破！

就在DeepSeek引发美国科技界焦虑与“双标”行为之际，美国增长最快的云安全初创公司Wiz旗下安全研究团队也在密切关注DeepSeek是否存在安全风险问题。过去一年，Wiz已经报告了多个人工智能大模型项目存在的安全漏洞。1月29日，Wiz报告称De ...

而市面上所谓“本地部署”方案，多为参数量缩水90%的蒸馏版，背后原因是671B参数的MoE架构对显存要求极高——即便用8卡A100也难以负荷。因此，想在本地小规模硬件上跑真正的DeepSeek-R1，被认为基本不可能。

电压互感器 （Potential Transformer 简称PT，Voltage ...

许主洪的加入，也恰好印证了阿里的这一技术布局。作为BLIP系列的参与者，他在多模态预训练和效率优化方面的积累正是阿里所需要的。从夸克的图文理解到天猫精灵的视觉交互，再到未来可能推出的AI眼镜，多模态交互将成为阿里AI产品的标配。