数据量的爆炸性增长进一步加剧了这一挑战。据统计,全球数据量从2015年的10EB预计将在2025年飙升至175ZB,到2035年更是可能达到2432ZB的惊人规模。边缘AI的发展需要在性能、功耗和成本之间找到完美的平衡点,尤其是在低功耗的电池供电设备中,如何在不推高成本的前提下提升算力,成为亟待解决的问题。黑料 AI应用,如ChatGPT所使用的大型语言模型(LLM),依赖于“并行计算”,即由芯片网络同时执行多项计算任务。作为人工智能基础设施的核心,GPU擅长处理这类高性能并行计算工作,但其强大的处理能力也伴随着高能耗和高热量输出。高端GPU的功率密度约为CPU的四倍,这给数据中心的规划和运营带来了全新的挑战。吃瓜爆料
|
|