多管齐下让人工智能更节能
世界经济论坛官网近日报道指出,多管为让人工智能(AI)发挥其变革潜力、齐下提高生产力水平及社会福祉,让人上饶市某某电子科技制造厂人类必须确保它可持续地发展。工智这一愿景面临的多管核心难题在于,随着算力和性能的齐下不断提升,能耗也在快速增长。让人
AI生态系统,工智从硬件、多管训练协议到操作技术,齐下都会耗费大量能源。让人上饶市某某电子科技制造厂鉴于此,工智科学家正在设法让其更节能。多管措施包括改变AI的齐下运行策略、研制更节能的让人算法和芯片等。
能源“吞金兽”
AI是能源密集型技术。它究竟有多耗能?数据给出了答案。
据法国《回声报》网站报道,AI平台“抱抱脸”研究员兼环境问题主管萨沙·卢乔尼表示,Midjourney或Dall-E等AI算法生成一张图片消耗的电力,相当于给一部智能手机充满电。一块英伟达H100型图形处理单元一年消耗的电量,比一个中等规模的美国家庭一年所耗的电量还要多。
美国《哈佛杂志》网站提出,大语言模型在生成类似人类、连贯且符合上下文逻辑的文本方面做得更好。但这种改进也有代价,训练GPT-3消耗的能源相当于120个美国家庭一年消耗的能源。美国《纽约时报》的报道更是惊人,ChatGPT每天要响应大约2亿个请求,这一过程中消耗超过50万度电。
世界经济论坛的数据显示,运行AI任务所需的能源消耗,年增长率介于26%至36%之间。这意味着到2027年,AI行业消耗的能源堪比冰岛或荷兰等国家一年的能耗。
改变运行策略
让AI更节能势在必行。
首先是调整AI运行策略。世界经济论坛官网指出,AI运行一般分两个主要阶段:训练阶段和推理阶段。在训练阶段,模型通过消化大量数据来学习和开发;经过训练后,它们进入推理阶段,用于解决使用者提出的问题。在这两个阶段限制能耗,可将AI运行总能耗降低12%到15%。
美国俄勒冈州立大学电气工程与计算机科学学院托马斯·迪特瑞克教授指出,另一个有效的策略是优化调度以节省能源。例如,在夜间运行轻量级的任务,或在寒冷的月份运行更大的项目等,也可节省大量能源。此外,将AI处理转移到数据中心也有助于减少其碳排放,因为数据中心的运行效率非常高,其中有些运行使用了绿色能源。
从长远看,促进AI与新兴量子技术的协同也是引导AI走向可持续发展的重要战略。传统计算能耗随计算需求增加呈指数级增长,而量子计算和能耗之间呈线性增长。
此外,量子技术可使AI模型更紧凑、学习效率更高并可改善其整体功能。
新模型和新器件
AI公司之间竞争的一个驱动力是相信越大越好,这也意味着参数越来越多,能耗越来越大。例如,GPT-4拥有1.8万亿个参数,而其“前身”GPT-3拥有1750亿个参数。因此,为让AI更节能,不少科学家正在尝试找出不需要那么多参数的算法。
HawAI.tech公司使用了新型电子元器件和基于概率论的AI技术来节省能耗。在相同时段和能耗下,新器件运算速度是英伟达Jeston芯片的6.4倍。该公司联合创始人兼首席执行官拉斐尔·弗里施表示,结合概率论和更优化的电子元器件,他们的解决方案所用的数据和能源会更少。
此外,模拟人脑功能的神经形态芯片也有望提升AI的效率。近日,英特尔公司发布了名为Hala Point的大型神经拟态系统。其内置1152个基于Intel四制程的Loihi 2处理器,支持多达11.5亿个神经元和1280亿个突触,每秒可处理超过380万亿个8位突触和超过240万亿个神经元操作。它独特的功能可实现未来AI应用的实时持续学习,如解决科学和工程问题、物流、智能城市基础设施管理、大语言模型和AI代理等。
(责任编辑:时尚)
-
12月1日消息,Vidu推出升级后的Q2参考生图功能,并同步上线文生图与图像编辑功能,试图解决AI多模态创作中“创意”与“可控性”难以兼顾的长期难题。官方称,此次更新将创作的控制权进一步交还给创作者。
...[详细]
-
来源:央视新闻客户端乌克兰海军司令阿列克谢·奈日帕帕近日接受采访时称,乌克兰需要西方潜艇以增强其在黑海的军事能力。他认为,部署潜艇可以改变乌克兰在黑海的战略地位,并表示,希望乌克兰能“从一个沿海国家变
...[详细]
-
来源:新黄河 在国务院食安办成立联合调查组彻查食用油罐车运输环节有关问题后,舆论的风向似乎又发生了微妙的变化。 有一些声音认为,新京报对涉事央企指名道姓,但没有深挖买家公司,对整体流通链条的调
...[详细]
-
52名学子被中科大少年班录取:江苏最多,北京市第八中学贡献5人
7月7日,中国科学技术大学少年班学院官方微信公众号公布了《中国科学技术大学2024年少年班录取名单公示》,共有52名学子入围。从性别来看,男生共有50人,女生2人。澎湃新闻记者注意到,从人数分布上来看
...[详细]
-
当地时间12月5日,美国联邦地区法官罗德尼·史密斯下令公开爱泼斯坦案的联邦大陪审团调查文件。据悉,2005年至2007年期间联邦大陪审团关于爱泼斯坦的调查记录将被公开。 11月18日,美国国会众
...[详细]
-
王思聪当年没做成的事,“赌王”之子何猷君要更进一步了。不久前,何猷君任董事长兼联席CEO的电竞公司星竞威武集团NIP Group)正式向美国证券交易委员会递交了招股书,准备在纳斯达克上市。若上市成功,
...[详细]
-
来源:封面新闻走访村民的张滔根右) 图源受访者封面新闻记者 郝莹 杨峰7月1日,受持续强降水影响,湖南岳阳平江县遭遇70年以来最大洪灾,县城老城区三分之一、新城区二分之一、14个乡镇集镇被洪水淹没,大
...[详细]
-
中国海警局新闻发言人就菲从非法“坐滩”军舰后送一名生病人员发表谈话
原标题:中国海警局新闻发言人就菲从非法“坐滩”军舰后送一名生病人员发表谈话) 中国海警船,资料图中国海警局新闻发言人甘羽表示,7月7日,根据菲律宾有关方面请求,中
...[详细]
-
IT之家 12 月 1 日消息,据科技媒体 NoteBook Check 昨天报道,一款名为 Lotus Diplomat 的全键盘手机最近现身网络,配备 5.3 英寸屏幕和 24GB 内存,搭载高通
...[详细]
-
有媒体报道,商业卫星图片显示,山东舰曾出现在菲律宾附近海域,有分析认为“中方首次派出航母前往菲律宾近海,有威慑之意”。对此国防部新闻发言人张晓刚今天表示,海军航母编队组织远海实战训练,是年度例行安
...[详细]

高市早苗被控涉嫌违规收受企业政治捐款
数读深改丨增“数”增“智” 社会治理效能不断提升
河北秦皇岛:8.45万吨级多用途纸浆船交付