AI技术这么火，但你公司真的需要吗？怎么用？用了能带来什么？ 不是所有企业都适合做基础大模型，但几乎所有企业都能从AI应用中获益。关键是要选对切入点。 先想清楚：AI能解决什么问题？ 很多企业AI项目失败的根因是——根本不知道要解决什么问题。看到别人做了就盲目跟风，结果搞出一堆”PPT项目”。 AI不是万能药，先问自己几个问题： 我现在的业务流程里，哪里最费时间？ 哪些决策是重复性的、可以标准化的？ 有没有信息检索困难的场景，员工经常找不到资料？ 客户服务里有多少问题是重复的？ 这些就是AI的用武之地。 企业AI应用的四个层次 第一层是基础工具层。Copilot类助手帮你写文档、做PPT、分析数据。这是门槛最低的，谁都能用，员工生产力直接提升10%-30%。 第二层是流程自动化层。把重复性高、规则明确的工作交给AI。发票处理、合同审核、客服工单分类、数据录入这些，都可以用AI改造。 第三层是决策辅助层。AI不直接做决定，但给决策者提供洞察。销售预测、风险评估、需求预测、舆情分析，这些都是AI擅长的。 第四层是业务重塑层。AI成为产品的一部分，定义新的业务模式。智能客服、智能营销、智能制造、智能医疗……AI不只是工具，是业务核心。 大多数企业应该从第一、第二层入手，逐步往深水区走。一上来就搞”AI重塑业务”容易翻车。 数据：企业AI的真正门槛 模型可以调，算法可以改，但数据是企业独有的资产。AI项目能不能成功，80%取决于数据。 但企业数据现状往往很糟糕：散落在不同系统里，格式不统一，质量参差不齐，存在大量孤岛。 AI落地前要做的数据工作： 数据治理：建立数据标准、明确数据所有权 数据集成：打通各业务系统，建立数据中台 数据清洗：识别和处理脏数据、缺失值 数据标注：为监督学习准备高质量标签数据 没有这步，后续的AI项目都是空中楼阁。

GPT-4、Claude、文心一言、通义千问……这些大模型越来越像科幻。但你知道训练一个千亿参数模型是什么概念吗？ 这是一个工程奇迹，也是一场算力军备竞赛。 大模型到底有多大？ GPT-3是1750亿参数，GPT-4据传超过1.8万亿。模型不是越大越好，但更大的模型确实能涌现出意想不到的能力——逻辑推理、代码生成、多语言理解，这些能力往往只在参数规模达到一定量级后才会出现。 但参数多意味着什么？1.8万亿个参数，每个用16位浮点数存，就需要360GB内存。这还只是存模型。训练时还要存梯度、优化器状态、激活值……实际显存需求是参数量的十几倍。 训练需要多少算力？ 训练GPT-3级别的模型，用上千块顶级GPU跑几个月是基本操作。Meta训练LLaMA用了2048块A100 GPU，跑了几周。 这块算力成本巨大：A100单卡几万人民币，顶级AI集群动辄几亿。再加上电力消耗——训练一个模型用掉几百万度电是很常见的。 并行训练：把大象装进冰箱 怎么训练一个超大的模型？核心思路是”分而治之”，业界主要用三种并行策略： 数据并行：把数据切成多份，每块GPU跑相同的模型但喂不同数据。简单粗暴，但每张卡都得存完整的模型，对显存要求高。 模型并行：把模型切成多份，分到不同GPU上。每张卡只负责模型的一部分，但GPU之间需要频繁通信。 流水线并行：把模型按层分，不同层在不同GPU上，像流水线一样工作。通信开销小但需要仔细调度。 实际项目里，这三种往往组合使用——3D并行。 数据：被低估的关键 聊大模型时大家总盯着参数规模和算力，但数据质量才是决定模型上限的关键。 数据清洗不是简单地”去重去脏”。你需要： 质量过滤：把低质量、垃圾信息过滤掉 去重：减少重复样本，避免模型”背诵”而不是”理解” 去偏见：识别和缓解数据中的偏见 多样化：覆盖不同领域、不同语言、不同文化 现在业界共识是：数据质量>数据数量。一个用1万亿精选token训练的小模型，往往比用10万亿杂乱token训练的大模型表现更好。 优化训练的实用技术 训练千亿模型不只是堆GPU，还有很多工程优化：

AI很强悍，但电费也很吓人。训练一个大模型用的电，够一个普通家庭用一个世纪。这不是可持续的路。 于是”绿色AI”概念出来了——在保持AI能力的同时，把能耗降下来。 问题有多严重？ GPT-4训练据估计用了约5000万度电，碳排放超过1000吨。这还没算推理用的电——模型部署后，每次生成回答都在耗电。 随着模型越来越大、越来越普及，这个问题只会更严重。 怎么让AI变”绿”？ 几个方向： 更高效的芯片：专用AI芯片比通用GPU能耗低得多。Google的TPU、亚马逊的Trainium，都在往这个方向走。 模型压缩：知识蒸馏、量化、剪枝……把大模型变小，能耗自然降下来。7B参数的模型可能达到百亿参数模型90%的能力，但能耗只有零头。 训练优化：更高效的分布式训练、更好的并行策略，减少重复计算。 数据中心升级：液冷、自然冷却、选址在寒冷地区……让PUE（能效比）接近1.0。 用绿电：数据中心用太阳能、风能，碳排放就下来了。 行业在行动 大公司都在重视这个： Google：承诺2030年全天候使用无碳能源，数据中心PUE降到1.1以下。 Microsoft：在北欧建数据中心，用海水冷却，目标是负碳排放。 Meta：训练效率每年提升2-3倍，同时把模型能力翻倍。 这对中国意味着什么？ 中国AI发展很快，数据中心也在快速建设。绿色AI不仅是环保责任，也是竞争力。 西部清洁能源丰富，在那边建数据中心是个好选择。液冷技术在浸没式散热上有优势。国产AI芯片也在崛起，能耗控制是关键指标。 我们在贡献什么 Freshere的高密度光纤解决方案支持更高效的机房布线，帮助降低散热需求。高速低功耗的光模块，减少电光转换的能耗。 绿色AI不是一个选项，而是一个趋势。早做准备的企业，会在成本和合规上都更有优势。 绿色AI：可持续发展的未来

云计算很强大，但它不是所有问题的答案。当延迟成为问题，当断网成为常态，当数据隐私不能妥协时，我们需要把智能推到边缘。 这就是边缘计算+AI的意义。 什么是边缘AI？ 边缘计算就是在数据产生的地方处理数据——不是遥远的云服务器，而是靠近你的设备。把它跟AI结合起来，就是让设备自己就能思考，不用等云端回复。 想象一下：工厂里的机器能自己检测异常，摄像头能实时识别问题，自动驾驶汽车能在毫秒级做出反应。这些都是边缘AI在发挥作用。 为什么现在火起来了？ 几个原因： 芯片进步：专用AI芯片越来越便宜、越来越省电，边缘设备也能跑得动复杂的模型。 延迟需求：有些场景真等不起那几百毫秒。自动驾驶、远程医疗、实时控制，这些都要求即时响应。 隐私顾虑：把敏感数据传上云让人不放心。在本地处理，不用离开设备。 成本考虑：不是所有数据都值得上传云端。筛选后再传，省带宽也省钱。 实际应用场景 制造业：生产线上的视觉检测，不良品实时拦截。不用等图片上传、等待分析、返回结果——发现问题立刻停线。 零售业：摄像头本地分析客流、货架状态、顾客行为。不用把视频流全传到云端，隐私更好，成本更低。 智慧城市：交通灯、路灯、监控都带上本地AI。交通拥堵自动调节，异常事件实时预警。 医疗健康：可穿戴设备本地分析健康数据，不用时刻联网。紧急情况还能救命。 挑战也不小 边缘AI不是万能的： 算力有限：边缘设备跟服务器比不了，复杂的模型可能跑不动。 模型优化：需要把大模型”压缩”成能在边缘跑的版本，这是一门技术活。 更新维护：分布式的边缘设备怎么统一更新模型？怎么监控状态？ 安全风险：物理接触风险增加了——设备丢了、被篡改了怎么办？ 我们在做什么 在Freshere，我们的光纤和连接解决方案是边缘AI基础设施的重要组成。边缘计算节点需要快速、可靠地互联，数据需要高效回传云端做进一步分析。这正是我们擅长的。 边缘AI不是要取代云端，而是计算架构的重要补充。理解这个分工，才能设计好下一代智能系统。

说实话。刚开始听到AI智能体（AI Agent）这个词的时候，我以为这只是又一个科技buzzword——那种会像NFT或Web3一样消退的东西。但过去一年真正接触后，我的想法变了。 因为我们谈论的不是边际改进。我们正在谈论的是软件工作方式的根本性转变。 所以AI智能体到底是什么？ 我的理解是：AI智能体不仅仅是听起来更聪明的聊天机器人。它是一个真正能做事儿的系统。把它想象成给你的软件一个能推理、规划、执行任务的大脑——不仅仅是回答问题。 传统软件遵循明确的指令。做这个，然后做那个。智能体不同。它们能把复杂目标分解成步骤，找出需要什么工具，并在流程中发生变化时灵活调整。 真正的机遇（不是被炒作的那些） 以下是让企业真正感兴趣的地方： 真正有用的客服：不是那种让你转来转去的FAQ机器人。我们谈论的是能理解上下文、访问真实客户数据、端到端解决问题的智能体。 自动化的数据分析：想象一下不是雇人每周生成报告，而是智能体自动发现趋势、标记异常、总结洞察。 有判断力的工作流自动化：传统自动化在遇到意外情况就会崩溃。智能体可以随机应变。 销售和营销情报：能研究潜在客户、个性化外联、筛选线索的智能体，无需人工介入。 这对产品公司意味着什么 如果您在做产品——就像我们在朗域做的那样——您需要思考智能体如何改变游戏规则。这不仅仅是把”AI驱动”加到营销文案里，而是从根本上重新思考您的产品架构。 最终胜出的产品是从一开始就为智能体能力设计的。这意味着要思考： 诚实的挑战 如果我不提这些挑战，那就是在误导您。因为确实存在： 可靠性：智能体的行为可能不可预测。您需要健壮的测试和监控。 成本：运行智能体不是免费的。每个任务可能涉及多次AI调用，成本会累积。 信任：用户需要知道智能体在做什么，什么时候应该干预。 集成：大多数企业都有一堆遗留系统。让智能体与这些老旧软件协同工作很难。 我们现在的阶段 我们还很早。真的还很早。工具每个月都在变好，但我们还没到那种随便”加个AI”就能期待奇迹的时候。 在朗域，我们已经在探索我们的光纤产品和服务如何成为这个智能体生态系统的一部分。基础设施必须存在来支撑这些系统。老实说，这就是我们存在的意义之一。 如果您真的好奇智能体能为您的业务做什么，欢迎联系我们。我们不是来卖您不需要的东西。但如果真的合适，我们宁愿开诚布公地谈一谈。