几万亿参数的前沿大模型不断在新闻里改变着世界，让全球股市在一天内涨跌几千亿美元。但公司用什么技术，通常取决于它的预算。离开雇佣大批高薪程序员的科技行业，最先进的大模型更多是谈资。
一项前沿技术真正进入各行各业、改变每个人的生活，往往要等到它不再性感，成熟到“无聊”。最近进入这个阶段的，是Transformer之前的明星——CNN、RNN架构的模型。
十年前，科技媒体最关注的创新科技公司是做这些模型的“AI四小龙”。英伟达来中国办活动，黄仁勋将海康列为跟阿里云一样重要的AI合作伙伴。
今天，这些公司不再被人讨论，而曾经的前沿技术也足够便宜，进入了生产线。
双十一前夕，多个物流转运中心装上了新的AI服务器。每台服务器盯着一个转运中心上千个摄像头的实时画面，每秒刷新8次。包裹卡住、分拣员用力扔快递，服务器一分钟内就会发出通知，派人处理。
在苹果一家中国供应商的生产线上，一百多个激光3D打印的钛合金零件组装成折叠屏铰链。每个零件和装好的铰链，最后都要放上支架检查。产线上没有纪录片里那种扭着脖子看放大镜的工人。干活的是一排十几个摄像头，每秒拍10张，边拍边调整位置。照片全部在流水线里一台类似PC的AI服务器上检测。人只负责把合格的零件搬走。
一些司法部门下班后，办公楼里的小型服务器还在处理历史档案。这些数据不能、也不需要上传到对外服务的大模型，楼内服务器上的 27B Qwen 就能把它们整理成数据库。第二天上班，工作人员像用豆包一样提问，就能准确查到相关历史案件怎么处理，附上出处。
这些场景不需要最大的模型。十年前流行的视觉模型，加上规模较小的大语言模型——参数规模通常只有 Kimi K3 几分之一甚至几十分之一，已经能完成不少工作。
这些场景里的GPU都由登临提供，一块卖几千元到几万元。今年前4个月，登临卖了10000多块。在价格敏感的行业里，它一单一单替掉了英伟达的推理芯片，甚至游戏显卡。
从快递物流，到工厂流水线，AI已经是一笔算得过来的账
快递业今天更像自动化工厂。一座占地30万平米的大型物流转运中心，传送带总长40公里。货车运来的快件倒上分拣机，扫码后进入不同的传送带，再装车发往全国。
这里的传送带，平均一天出上千起故障。包裹被护栏挂住，就可能挡住后面的包裹，堵住一整条传送带；有时包装被撕裂卷进机器，导致整条线停下；如果面单损坏，查不到包裹从哪儿来、该到哪儿去，就成了快递业说的“无头件”，等着赔客户。
这样一个转运中心，光专门盯着流水线和分拣操作的摄像头，就有将近数千个。
“人根本看不过来。”一位工程师说。监控室的大屏幕通常一屏放16个画面。每个画面停1分钟，仔细看包裹有没有异常，平均3个小时才能轮一遍，中间有170多分钟盲区。
管理人员凭经验安排巡查路线。事故最多的路线，一公里距离，随时有三个人不间断巡查。即便这样，事故平均也要30分钟才被发现，处理又要几分钟。
当头部的综合物流企业大规模用AI盯住转运中心全部生产环节，其他企业也会紧随其后。今年，多个物流转运中心相继收到AI服务器，里面分别装着8张登临KS38GPU。
如果把这台服务器上的AI当成一个活物：它待在一片漆黑里，面前是一块比IMAX还大的巨幕，由1000个1920×1080的画面拼成。巨幕每秒刷新8次，它也要看8遍。脑子里运行的是“图像分割模型”：先从画面里认出包裹、勾出轮廓，再判断它有没有卡住。
现在包裹一卡住，服务器1分钟内就通知到人，10分钟内故障解除，恢复运转。人不用再密集巡查、紧盯屏幕，只要按AI的提示去现场处理。
检测用的是YOLO等开源视觉模型，有的只有几十MB，不大，难在每秒要处理8次。每0.125秒，摄像头传回来压缩过的视频流，GPU上的硬件解码单元先把视频还原成一帧帧图像，再抽出要检查的画面，调好尺寸和数据格式，送给对应的模型，完成检测。
有物流企业开发人员试过较早的英伟达V100，要四台服务器、买32张卡，算力才够——GPT-3是一万多张V100训练出来的。他们测过另一家国产GPU，算力够，但没法同时解码1000路视频，得买两台，成本就上去了。实体行业必须抠每一分钱。最后他们选了登临的服务器，一台几十万元。
服务器有富余算力，工程团队用它来跑大模型，识别错误分拣行为。我们从几家快递公司了解到，分拣时摔坏包裹，快递员为赶时间提前上传照片谎报送达。这些不规范操作招来的平台罚款和赔偿，一家公司一年就可能有数亿元。
包裹轻重不一，分拣员力气也不同，光看动作很难判断他是不是扔得太重。工程团队先用小模型找出分拣时移动太快的包裹，再比对肢体动作，判断是否可能违规，准确率只有七八成。但将小模型筛出来的可疑案例交给大模型，准确率能提到90%多，“这就可以用了”。
AI抢走人的工作，是今天最常被谈论的风险。但在利润微薄的工业领域，更常见的情况是：企业本来就雇不起、也雇不到足够多愿意干枯燥活的人，只能让机器自己干。工厂里的质检就是这样的工作。过去，年轻人每天十几个小时对着放大镜，找屏幕、电路板上的微小划痕和虚焊，看到泪流不止。
在东莞一家工业测试公司门口，我们的手机摄像头被贴上了胶带——这是苹果的要求。两三年前起，苹果陆续要求制造商全部用上AI光学检测设备，先采购了送给他们，调试好证明可用，制造商再自己采购。我们去的，就是给苹果造检测设备的公司之一。
它的产品一台卖100万元以上，放在客户流水线的末端。机械臂把生产好的零件抓上检测台、固定住，一列最多20个摄像头开始拍，每秒10张。设备不停换灯光颜色、调整零件位置，判断尺寸合不合格、表面有没有划痕。
上个月，我们在深圳、苏州走访了多家检测公司。有的检查电路板上几百个零件是不是全部焊好，一台卖十几万元；有的检查芯片和屏幕面板有没有损伤，一台最多能卖上千万元。比它们更便宜、更贵的也都有。
视觉检测最早靠工程师写规则，用CPU就够。疫情前不久，检测设备开始用AI识别缺陷，也装上了GPU。
这些公司起初标配英伟达 RTX 3060、4070 等游戏显卡——这是英伟达利润率最低、性价比最高的产品。但这两年，英伟达游戏显卡跟着 AI 芯片一起涨价，一年调好几次，有时一两个月都买不到货。现在这几家都换成了登临的 KS19 GPU。
这个行业有几百家公司，每家专做一个细分领域，从挑水果到检查晶圆上的损伤。年收入少的几千万元，2-3亿元已算中等规模。一百家加在一起，也未必超过商汤上市前的融资额。他们请不起年薪200万元的AI博士，但也因此造出足够便宜的设备，把AI送进了同样利润微薄的工厂产线，提高了产品品控。
跟物流公司一样，检测公司也开始让大模型和小模型搭配工作。
每台设备运行几十个甚至更多的YOLO小模型，通常一类问题就需要一个模型。工程师给良品和次品拍照，标出缺陷，反复调参数，训练模型。
做屏幕和半导体检测的苏州高视，已经买来服务器，用大模型训练YOLO模型。按目前的测试结果，大模型训练小模型比老工程师快，效果也比新手好。
技术、供应链、规模都比不上英伟达，当一个AI偏科生
登临2017年成立时，芯片还能在中美之间自由买卖，也还没有GPU国产替代的故事。当时任何一家做AI计算芯片的公司，都要回答一个问题：客户为什么用它不用英伟达？
这个问题至今也成立。今天在中国没法合法买到英伟达性能最强的芯片，但它的很多推理芯片依然正常销售、使用。大互联网公司、工业企业部署了数以十万计的英伟达 A10、A30、L40、L2、L4 推理芯片。甚至发布十几年的推理芯片 Tesla T4，阿里云仍有使用它的 GPU 实例。在一些工业客户那里，国产厂商还要和几千元的英伟达游戏显卡竞争，运行视觉检测的模型。
英伟达的优势也不止单卡性能。台积电的产能、成熟的供应链和庞大的出货量，帮它压低生产成本、摊薄研发投入。几十年积累的各种芯片相关专利设计，也能在多款产品上复用，进一步获得成本优势。
CUDA 是英伟达的另一大优势，推出 20 年来超过 600 万开发者在用它写程序，是 AI 应用的首选开发平台。换用其他芯片，包括 Google TPU 等 ASIC 芯片，都要修改程序、重新测试。
芯片创业公司没有这些优势，规模更小、在生产上也有更多成本。如果做一个跟英伟达一样的产品，抢最先进的零部件，不可能比英伟达便宜。
“如果一家公司的竞争力主要靠买内存、买IP，再花钱锁定产能，最后比的就是谁有钱。”登临联合创始人王平对我们说，他们在初期调研后决定把钱先投在自己的核心计算设计和软件上，先让客户的业务运行起来，再扩大规模，造更复杂的产品。
登临最后选了AI做突破口：设计芯片时加强AI常用的矩阵计算，保留客户需要的通用计算能力，让检测、识别等场景的成熟模型跑得更划算，“在AI上做一个偏科生”。
王平说，登临定义产品“基本上是以客户应用的指标来做”。团队先按芯片面积预算估出能堆多少算力，再结合功耗用模型预测性能，确认客户愿意付钱，才往下设计。
视频分析客户希望一张卡接更多摄像头，登临就得同时提高解码能力——压缩视频来不及还原成画面，后面的模型就没东西可识别。所以定义产品时，登临就把支持更多路解码当作和英伟达同类产品竞争的指标。
计算部分也按这些需求分配资源。英伟达的 GPU 按固定比例集成矩阵计算单元（Tensor Core，主要负责 AI 计算）和通用计算核心。同一代产品之间的性能差距，取决于集成了多少 Tensor Core，但两者的比例不变。
登临则把决定AI加速性能的矩阵计算单元单独拆出来。多款GPU的通用计算核心不变，但矩阵计算单元可调。这样在同样的芯片面积里——对应生产成本——它能拿出更大比例做AI加速，在AI相关运算上提供更高性能。
在做图像预处理、结果排序这类并行计算较重的任务时，登临相对英伟达就不再有优势，因为现行架构对通用计算投入有限。“这是我们权衡之后的选择。” 王平说。
内存设计上，登临也有类似的取舍。它创办同期，英伟达推出的 T4 推理芯片使用 GDDR6 显存，之后在近年相对主流的 A10、L2、L4 等产品，以及近期消息称数家互联网企业购买的 RTX PRO 5500 也同样使用 GDDR 显存，只有部分针对公有云大模型部署的 GPU 使用昂贵的 HBM 高带宽内存。登临前三代芯片都用跟手机一样的 LPDDR 内存，更便宜、自己可以买到需要的授权。
LPDDR内存比同期的GDDR功耗更低，但带宽只有1/3。为此，登临在芯片里配置了较大的SRAM，用来暂存计算结果，再配合软件，让模型后一层直接使用前一层留下的数据，从而减少数据在芯片与外部内存之间的往返。代价是SRAM本身也占用芯片面积。
决定一个芯片成本的，不止是设计和生产。这个公司需要多少人服务客户，以及它创业花了多少钱，都将被分摊到每一个芯片。
登临控制这些开支，先从限制自己开始。成立9年，公司仍只有280人。
“我们只卖卡，连服务器都不卖。”一位登临人士说。小团队就做更少的事，把GPU卖给实际企业客户，如果服务大型政企项目，则只卖卡给系统集成商及算法公司，由合作伙伴对接复杂的需求。追逐大型政企项目能做大营收规模，但利润率低，需要大量人手支持，最终都会体现在每张卡的成本里。
跟着客户需求，古典路径创业做产品
2017年11月11日，王平从美国登机，次日到苏州，第三天就开始为尚未注册的登临工作。头一天，他忙着买锁、垃圾桶和打印机，“真的是什么都没有”。到年底，团队约有10人。
2007年，李建文、王晨辉和王平先后加入芯片设计授权公司图芯（Vivante）。李建文负责GPU及通用计算的设计授权产品，王晨辉负责驱动软件、系统集成和技术支持，王平负责性能分析和特性定义。图芯把整套GPU设计交给中国团队，几人因此参与过核心计算设计。
成立前约半年的客户和供应链走访，让登临定下方向：保留通用计算能力，加上AI计算能力。客户担心换卡后要花钱改程序，登临也要支持他们熟悉的英伟达CUDA编程方式。
登临筹备成立那年 9 月，英伟达在北京办 GTC China。黄仁勋预言，未来每一笔互联网交易都会用到神经网络；台上展示的最重要合作伙伴里，海康等智慧城市解决方案公司和阿里并列。智慧城市就是当时最先进的 AI 应用，登临选择从这些客户做起。
2020年夏天，登临第一代芯片在境外流片时，芯片封锁已经开始，半导体国产化已经成了趋势。行业客户对产品提出了具体要求。
摄像头传来的视频要先解码，还原成图像，才能交给AI模型。来不及解码，算力再富余也用不上。当时英伟达T4最多解码24路，登临的目标是48路。“至少得做到2倍路数才能赢吧。”王平说。算力够用时，一张卡处理的视频越多，客户需要买的卡就越少。
最终客户看的不是单个卡的参数，而是解决同样的任务要花多少钱。
2021年春节前半个月，登临拿到了第一代芯片样片，赶在春节前实现了智慧城市客户要求的“自己自定义、自己写的算子”，随后调整性能，进入他们的产品线验证。同年10月，这个行业中海康智慧产业股权投资基金参与了登临的D0轮融资。
每一代产品的改进，都来自客户对上一代产品的反馈。登临第一代芯片给解码分配了更多面积，编码能力较弱。但一些客户接入20路视频，经AI处理后，还要重新压缩、输出20路，编码能力就不够了。最新一代芯片支持60路编解码，客户可以自行分配编码和解码的比例。
让客户已有的CUDA程序运行起来，也从创业之初就开始做。2017年12月，王平逐条研究CUDA编程指南和公开的指令接口说明，写程序分析各项功能，据此确定设计要求。比如，程序需要多大的共享内存，登临的设计就不能比它小。
很多GPU公司都会说自己的硬件可以兼容CUDA，但CUDA只是API，所谓“兼容”就是开发编译器，把CUDA程序转换成登临芯片能执行的指令，重写客户最常用的库函数，尽量让程序不用改就能运行。仍然无法运行的，由工程师协助客户修改。
对于国产GPU厂商，客户还有一个明确的要求，无痛切换：自己为前一代开发的软件、解决的问题，第二代不要再做一遍。2021年加入登临、负责对接客户的郑韬当时承诺：客户发现过的软件错误，在下一代芯片里全部解决；主要的软件接口不改，功能保持一致，性能提升。
智慧城市客户需要的功能，很多后来用到了其他行业。昆山一家物流公司用英伟达游戏显卡做视觉检测，风扇吸入粉尘，基本每天都要死机，拆机清理时流水线也得停。登临提供了无风扇的 KS20，靠 GPU 加外壳散热。这项设计最初用于路边线杆上的视觉设备箱，要经受日晒雨淋和较大温差。
进入工厂，登临还要面对Windows系统。AI模型、软件普遍在Linux环境下开发、部署。但到了工厂，哪怕苹果供应链里的中国生产商，也全部用Windows系统。工厂很难培训操作工使用命令行，而这些人都通过网吧学会了Windows。于是Windows就成了行业标准。设备出故障时，供应商也能通过远程工具调整设备。
工业客户太小了，很多年营收只有亿元上下，第一年只买20-30张卡，第二年再加一点，一年买200张已是大单。奔着国产替代的叙事创业，争取大企业、政府算力项目的芯片公司，很多都不屑于为工业级应用专门开发各版本的Windows驱动和相关软件。
订单小，需要解决的软件问题却未必少，登临只能“一个客户一个客户、一个行业一个行业地啃”。同一个需求出现第二个客户，他们就赶紧做；等第3、第4个客户来时，往往就能直接用。
技术突破可能是科学问题，但技术普及一定是商业问题
登临开始准备做过去做不起的产品，计划为下一代产品加入高带宽的HBM内存，以及让多颗芯片协同计算的互联设计，逐步进入公有云市场。按照招股书草案，这些产品将分阶段推出：先提高现有企业客户能买到的算力，再做面向更大模型的产品。
“IP攒够了。”王平说。他指的是不同芯片上的设计模块。登临每卖出一代产品，都在检验这些设计：硬件还缺哪些能力，哪些常用模块支持不够，哪些软硬件功能做了却没人需要。真实客户才能倒逼芯片公司做出更易用、被更多公司需要的产品。
这种积累已经改变了交付产品的速度。郑韬刚来的时候，第一代芯片送进客户的实验室，两个月还在调整软件、驱动。到第三代，一些开发能力有限的中小客户拿到GPU，两周就能送到自己的客户那里试用。
跟上游供应商之间的合作关系也用时间积累起来。今天全球的晶圆代工厂、存储芯片制造商都比奢侈品公司更挑客户。有钱不够，客户还得证明一年销量高过上一年，并经过长期合作，才值得分到紧缺的产能。登临是长鑫最早的算力芯片客户，从2023年开始用它的LPDDR4X内存。
王平说，早期融资一两亿元，公司只能一步步做。等自己的计算设计和软件经过客户验证，再筹钱投入更昂贵的内存、封装和后续研发，做更复杂的产品，把这些年积累的设计、技术，以及对客户需求的洞察用在投入更大、竞争也更激烈的市场。
做客户需要的东西，卖到客户愿意付的价格，这是做生意的常识。再先进的技术，再宏大的叙事，最后真的落地用于日常，也都是在解决这样的商业问题。
红腾网提示：文章来自网络，不代表本站观点。
