hb1

近几年来关于AI的应用非常广泛,遍布在各个领域,从早期的键盘、鼠标到触屏,到如今可以通过语音识别等技术实现跟机器人自然交互,或者说我们正处在一个AI的时代。

人工智能的研究由来已久,早期时候更多是依靠专家,根据他们自己的经验来告诉机器,机器在定义好的规则里做一些搜索。这个是依赖专家的经验。2006年以后,随着数据量和硬件计算能力的大幅度提升,人们开始尝试直接将数据交给计算机,让计算机自己在里面做搜索。算法是核心,硬件和数据是基础。

深度学习作为人工智能的核心技术,通过模仿人类大脑的神经机制来分析和解释数据,例如图像、声音、文本。但是人的大脑本身并没有成熟的规则,这一切是通过神经元触发实现的。DNN、CNN、RNN是目前常用的几种神经网络算法分类,TensorFlow、Caffe是几种常用的深度学习框架。

神经网络包含输入层、输出层和隐藏层,每层都包含若干个神经元,神经元之间通过权重参数进行计算,如同形成了一个巨大的神经网络。用一个简单的例子说明一下深度学习训练和预测过程,这是一个图像识别,我们的目标是构建一个神经网络的模型,来实现对图片信息的准确识别。预测是我们最终目的,为了实现最终目的,我们需要数据,将数据做上标签,经过神经网络的前向计算,产生类别,将这个类别与标签的类别做比较,将结构反推给神经网络,如此反复。

下面聊一下AI芯片。大家知道非常著名的摩尔定律,每隔18个月相同成本下,芯片的晶体管数量会翻一番,相应的计算性能也将提升1倍。随着晶体管的体积逐渐接近物理极限,或许在将来摩尔定律会面临失效。在AI领域随着数据量和计算量暴增,我们对计算性能有了更高的追求,于是大家开始寻找计算之外的,比如GPU、FPGA、AISC。GPU没有那么多的控制器件,取而代之的是大量的计算核心,GPU有了远超CPU的大规模数据运算能力。FPGA和CPU、GPU不同,功耗也比GPU要低,ASIC性能提升是以牺牲通用性为代价。有关异构平台广泛存在,大到数据中心,小到手机、平板、可穿戴设备。用CPU+来描述异构平台,CPU+GPU、CPU+FPGA、CPU+TPU等。

最后说一下计算平台的选择,从现阶段看,受益于各个框架对GPU的良好支持,我们对GPU的需求也从最初的单机单卡发展到单机多卡到现在的多机多卡。Inference端会选择CPU+GPU或者CPU+FPGA/ASIC,FPGA同时拥有流水线并行和数据并行,ASIC兼具高吞吐量、低延迟、低功耗的特性。

就分享这么多,谢谢大家。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2025-04-25 11:11:02
国内资讯 万国数据全国首单“数据中心持有型不动产ABS”在上交所 成功挂牌上市
本次发行是贯彻落实中央‘金融五篇大文章’要求的生动实践,通过‘持有型不动产ABS+可持续挂钩’这一创新,实现了资金用于金融数据中心核心资产收购和运营。 <详情>
2025-04-01 18:19:39
国内资讯 普洛斯中国首支数据中心基金完成募集,投资规模约26亿人民币
普洛斯推出首支数据中心收益基金,提供稳定收益和长期增长并重的投资产品,满足投资人需求。 <详情>
2025-03-26 16:35:02
国内资讯 中国移动成渝(重庆)江南数据中心正式投产
3月20日,中国移动成渝(重庆)江南数据中心(以下简称“江南数据中心”)投产暨战略合作协议签约仪式在南岸区、重庆经开区举行。 <详情>
从“后备电源”到“电网友好型”:UPS如何接住AIDC的GPU功率跃迁
2026-06-02 14:50:00
总投资58亿元,深圳本贸重庆新型算力中心项目正式主体基础施工阶段
2026-05-29 16:30:00
总投资估算15.5亿元,中国电信杭州大数据处理(二期)项目方案进入公示阶段
2026-05-27 14:30:12
字节跳动巴西数据中心签署20亿美元绿电合同
2026-05-27 11:32:26
完整嘉宾阵容公布:500+全球算力产业领袖齐聚曼谷|DIFGC 2026·Thailand
2026-05-26 19:28:03
PDG拟出售中国区数据中心资产,估值或达10亿美元
2026-05-26 14:49:32
运营商Token套餐热潮,究竟是新赛道还是资本泡沫?
2026-05-26 10:46:00
参会指南|与您畅游 数字基础设施全球合作发展曼谷论坛
2026-05-25 11:07:01
发改委明确优先支持算力设施"绿电直连"!智算下半场已至, 8 月上海这场盛会不可错过
2026-05-25 11:01:01
案例征集|科智咨询《算力底座之争:智算芯片产业链、竞争态势与趋势研判白皮书》启动参编征集
2026-05-25 09:24:15
SpaceX斥资28亿美元 为数据中心采购燃气轮机
2026-05-22 10:11:28
AI行业最大的错配:我们都在为Token买单,却还按囤卡思维投资
2026-05-22 09:50:00
商汤林海谈AIDC:“通用标准”已不再是最优解,“适用高效”成为新法则
2026-05-21 10:48:23
东南亚AI数据中心迎“寒武纪时刻”,当前面临最大挑战是什么?
2026-05-21 10:15:26
5月27日•曼谷,DIFGC 2026•Thailand正式启幕!500位产业领袖齐聚,聚焦AI数据中心本地化交付与绿色能源协同
2026-05-21 09:24:00