天博韩国科学技术院开发类人脑AI芯片能超高速处理大型语言模型数据

时间：2024-03-07

　　天博韩国科学技术院 (KAIST) 的研究人员开发了一种人工智能半导体，能够超高速处理大型语言模型 (LLM) 数据，同时显着降低功耗。

　　韩国信息通信技术部周三表示，韩国科学技术院内存处理研究中心的 Yoo Hoi-jun 教授领导的研究团队利用三星电子的 28 纳米制造工艺开发出了世界上第一款互补变压器人工智能芯片。

　　互补变压器人工智能芯片是一种模仿人脑结构和功能的神经形态计算系统。研究团队利用视觉数据处理中常用的深度学习模型，成功实现了这种转换器功能，深入了解神经元如何处理信息。

　　该部表示，这项技术通过跟踪数据内的关系（例如句子中的单词）来学习上下文和含义，是 ChatGPT 等生成式人工智能服务的源技术。

　　周三，该研究团队在位于世宗的信息通信技术部总部展示了互补变压器人工智能芯片的功能。

　　研究团队成员 Kim Sang-yeob 在配备内置互补变压器 AI 芯片的笔记本电脑上使用 OpenAI 的 LLM GPT-2 执行了句子摘要、翻译和问答任务等各种任务，所有这些都不需要互联网连接。结果，与在连接互联网的笔记本电脑上运行 GPT-2 相比，性能显着增强，任务完成速度至少快三倍，在某些情况下最多快九倍。

　　为了实现通常用于生成式 AI 任务的法学硕士，通常需要大量的图形处理单元 (GPU) 和 250 瓦的功率。然而，韩国科学技术院的研究团队成功地使用尺寸仅为 4.5 毫米 x 4.5 毫米的紧凑型人工智能芯片来实现该语言模型。

　　Yoo 表示：“神经拟态计算是一项甚至像 IBM 和英特尔这样的公司都无法实现的技术，我们很自豪能够成为世界上第一个使用低功耗神经拟态加速器运行法学硕士的公司。”

　　他预测这项技术可能会成为设备上人工智能的核心组件，即使不需要互联网连接，也能促进人工智能功能在设备内执行。由于其在设备内处理信息的能力，与依赖网络连接的基于云的人工智能服务相比，设备端人工智能可提供更快的运行速度和更低的功耗。

　　“最近，随着像 ChatGPT 这样的生成式 AI 服务的出现以及对设备端 AI 的需求，对 AI 芯片的需求和性能要求正在迅速增加。我们的主要目标是开发创新的 AI 半导体解决方案，以满足这些不断变化的市场需求。特别是，我们的目标是专注于识别商业化过程中可能出现的其他问题并提供解决方案的研究，”Yoo 补充道。

　　研究团队表示，对于相同的任务，这种半导体仅使用 Nvidia GPU 的 1/625 功率，大小也仅为 1/41。

　　游戏巨头抢攻联名机！《原神》PS5同捆机、《海绵宝宝》Xbox限定版登场

　　微星Claw A1M便携式游戏机将于3月12日发布配备7英寸IPS触摸屏

　　人工智能（AI）热到电子商务市场，亚马逊、Shopify等平台的卖家开始使用AI工具，帮忙撰写卖场网页的商品介绍、并分析...

　　由紫光集团和新华三集团主办的 2023 NAVIGATE 领航者峰会在杭州召开，新华三发布私域大模型百业灵犀LinSeer，为...

　　我们大多数人都希望从朝九晚五的工作中得到休息，最近对每周四天工作制的炒作就证明了这一点。但是，一家来自英国的新创...

　　虽然 AMD 此前已经收购了多家硬件公司，但收购的软件公司却少之又少。昨天，AMD 宣布收购人工智能软件公司 Mipsology。Mipsolo

　　中国人工智能 (AI) 物流公司 Westwell 周二在香港开设国际总部，作为全球扩张的跳板。这家总部位于上海的公司为物流行业...

　　随着软件开发人员现在创建新一代的人工智能（AI）丰富的应用程序，我们将用它来驱动我们的生活，我们也许可以感谢这...

　　Meta 公司宣布开发出一款名为 CM3Leon 的人工智能模型，该模型可以根据文本生成高质量的图像，也可以为图像生成文本描...

　　微软因ChatGPT出世，重拾在多个领域的雄心，尤其是在其与搜索引擎巨擘谷歌的竞争中，微软正展现出更大企图心。自今年...

　　华为官方今日宣布将于 2023 年 9 月 20-22 日，在上海世博展览馆和上海世博中心举办第八届华为全联接大会(HUAWEI CONNECT 2023