AI技术这么火，但你公司真的需要吗？怎么用？用了能带来什么？ 不是所有企业都适合做基础大模型，但几乎所有企业都能从AI应用中获益。关键是要选对切入点。 先想清楚：AI能解决什么问题？ 很多企业AI项目失败的根因是——根本不知道要解决什么问题。看到别人做了就盲目跟风，结果搞出一堆”PPT项目”。 AI不是万能药，先问自己几个问题： 我现在的业务流程里，哪里最费时间？ 哪些决策是重复性的、可以标准化的？ 有没有信息检索困难的场景，员工经常找不到资料？ 客户服务里有多少问题是重复的？ 这些就是AI的用武之地。 企业AI应用的四个层次 第一层是基础工具层。Copilot类助手帮你写文档、做PPT、分析数据。这是门槛最低的，谁都能用，员工生产力直接提升10%-30%。 第二层是流程自动化层。把重复性高、规则明确的工作交给AI。发票处理、合同审核、客服工单分类、数据录入这些，都可以用AI改造。 第三层是决策辅助层。AI不直接做决定，但给决策者提供洞察。销售预测、风险评估、需求预测、舆情分析，这些都是AI擅长的。 第四层是业务重塑层。AI成为产品的一部分，定义新的业务模式。智能客服、智能营销、智能制造、智能医疗……AI不只是工具，是业务核心。 大多数企业应该从第一、第二层入手，逐步往深水区走。一上来就搞”AI重塑业务”容易翻车。 数据：企业AI的真正门槛 模型可以调，算法可以改，但数据是企业独有的资产。AI项目能不能成功，80%取决于数据。 但企业数据现状往往很糟糕：散落在不同系统里，格式不统一，质量参差不齐，存在大量孤岛。 AI落地前要做的数据工作： 数据治理：建立数据标准、明确数据所有权 数据集成：打通各业务系统，建立数据中台 数据清洗：识别和处理脏数据、缺失值 数据标注：为监督学习准备高质量标签数据 没有这步，后续的AI项目都是空中楼阁。

GPT-4、Claude、文心一言、通义千问……这些大模型越来越像科幻。但你知道训练一个千亿参数模型是什么概念吗？ 这是一个工程奇迹，也是一场算力军备竞赛。 大模型到底有多大？ GPT-3是1750亿参数，GPT-4据传超过1.8万亿。模型不是越大越好，但更大的模型确实能涌现出意想不到的能力——逻辑推理、代码生成、多语言理解，这些能力往往只在参数规模达到一定量级后才会出现。 但参数多意味着什么？1.8万亿个参数，每个用16位浮点数存，就需要360GB内存。这还只是存模型。训练时还要存梯度、优化器状态、激活值……实际显存需求是参数量的十几倍。 训练需要多少算力？ 训练GPT-3级别的模型，用上千块顶级GPU跑几个月是基本操作。Meta训练LLaMA用了2048块A100 GPU，跑了几周。 这块算力成本巨大：A100单卡几万人民币，顶级AI集群动辄几亿。再加上电力消耗——训练一个模型用掉几百万度电是很常见的。 并行训练：把大象装进冰箱 怎么训练一个超大的模型？核心思路是”分而治之”，业界主要用三种并行策略： 数据并行：把数据切成多份，每块GPU跑相同的模型但喂不同数据。简单粗暴，但每张卡都得存完整的模型，对显存要求高。 模型并行：把模型切成多份，分到不同GPU上。每张卡只负责模型的一部分，但GPU之间需要频繁通信。 流水线并行：把模型按层分，不同层在不同GPU上，像流水线一样工作。通信开销小但需要仔细调度。 实际项目里，这三种往往组合使用——3D并行。 数据：被低估的关键 聊大模型时大家总盯着参数规模和算力，但数据质量才是决定模型上限的关键。 数据清洗不是简单地”去重去脏”。你需要： 质量过滤：把低质量、垃圾信息过滤掉 去重：减少重复样本，避免模型”背诵”而不是”理解” 去偏见：识别和缓解数据中的偏见 多样化：覆盖不同领域、不同语言、不同文化 现在业界共识是：数据质量>数据数量。一个用1万亿精选token训练的小模型，往往比用10万亿杂乱token训练的大模型表现更好。 优化训练的实用技术 训练千亿模型不只是堆GPU，还有很多工程优化：

AI很强悍，但电费也很吓人。训练一个大模型用的电，够一个普通家庭用一个世纪。这不是可持续的路。 于是”绿色AI”概念出来了——在保持AI能力的同时，把能耗降下来。 问题有多严重？ GPT-4训练据估计用了约5000万度电，碳排放超过1000吨。这还没算推理用的电——模型部署后，每次生成回答都在耗电。 随着模型越来越大、越来越普及，这个问题只会更严重。 怎么让AI变”绿”？ 几个方向： 更高效的芯片：专用AI芯片比通用GPU能耗低得多。Google的TPU、亚马逊的Trainium，都在往这个方向走。 模型压缩：知识蒸馏、量化、剪枝……把大模型变小，能耗自然降下来。7B参数的模型可能达到百亿参数模型90%的能力，但能耗只有零头。 训练优化：更高效的分布式训练、更好的并行策略，减少重复计算。 数据中心升级：液冷、自然冷却、选址在寒冷地区……让PUE（能效比）接近1.0。 用绿电：数据中心用太阳能、风能，碳排放就下来了。 行业在行动 大公司都在重视这个： Google：承诺2030年全天候使用无碳能源，数据中心PUE降到1.1以下。 Microsoft：在北欧建数据中心，用海水冷却，目标是负碳排放。 Meta：训练效率每年提升2-3倍，同时把模型能力翻倍。 这对中国意味着什么？ 中国AI发展很快，数据中心也在快速建设。绿色AI不仅是环保责任，也是竞争力。 西部清洁能源丰富，在那边建数据中心是个好选择。液冷技术在浸没式散热上有优势。国产AI芯片也在崛起，能耗控制是关键指标。 我们在贡献什么 Freshere的高密度光纤解决方案支持更高效的机房布线，帮助降低散热需求。高速低功耗的光模块，减少电光转换的能耗。 绿色AI不是一个选项，而是一个趋势。早做准备的企业，会在成本和合规上都更有优势。 绿色AI：可持续发展的未来

云计算很强大，但它不是所有问题的答案。当延迟成为问题，当断网成为常态，当数据隐私不能妥协时，我们需要把智能推到边缘。 这就是边缘计算+AI的意义。 什么是边缘AI？ 边缘计算就是在数据产生的地方处理数据——不是遥远的云服务器，而是靠近你的设备。把它跟AI结合起来，就是让设备自己就能思考，不用等云端回复。 想象一下：工厂里的机器能自己检测异常，摄像头能实时识别问题，自动驾驶汽车能在毫秒级做出反应。这些都是边缘AI在发挥作用。 为什么现在火起来了？ 几个原因： 芯片进步：专用AI芯片越来越便宜、越来越省电，边缘设备也能跑得动复杂的模型。 延迟需求：有些场景真等不起那几百毫秒。自动驾驶、远程医疗、实时控制，这些都要求即时响应。 隐私顾虑：把敏感数据传上云让人不放心。在本地处理，不用离开设备。 成本考虑：不是所有数据都值得上传云端。筛选后再传，省带宽也省钱。 实际应用场景 制造业：生产线上的视觉检测，不良品实时拦截。不用等图片上传、等待分析、返回结果——发现问题立刻停线。 零售业：摄像头本地分析客流、货架状态、顾客行为。不用把视频流全传到云端，隐私更好，成本更低。 智慧城市：交通灯、路灯、监控都带上本地AI。交通拥堵自动调节，异常事件实时预警。 医疗健康：可穿戴设备本地分析健康数据，不用时刻联网。紧急情况还能救命。 挑战也不小 边缘AI不是万能的： 算力有限：边缘设备跟服务器比不了，复杂的模型可能跑不动。 模型优化：需要把大模型”压缩”成能在边缘跑的版本，这是一门技术活。 更新维护：分布式的边缘设备怎么统一更新模型？怎么监控状态？ 安全风险：物理接触风险增加了——设备丢了、被篡改了怎么办？ 我们在做什么 在Freshere，我们的光纤和连接解决方案是边缘AI基础设施的重要组成。边缘计算节点需要快速、可靠地互联，数据需要高效回传云端做进一步分析。这正是我们擅长的。 边缘AI不是要取代云端，而是计算架构的重要补充。理解这个分工，才能设计好下一代智能系统。