英伟达竞争对手Hailo推出第二代AI芯片

周二，人工智能芯片初创公司\Nvidia的竞争对手之一Hailo宣布其第二代AI加速芯片正式上市，并表示该产品是全球首款能够在极低能耗下“在边缘端实现真正的生成式AI性能”的芯片。

这家总部位于以色列的AI芯片初创公司表示，Hailo-10H芯片在仅使用2.5瓦功率的情况下，可实现每秒40万亿次运算（TOPS）的4位整数（INT4）性能和每秒20万亿次运算的8位整数（INT8）性能。相比之下，Nvidia的Jetson Orin Nano芯片最高可实现每秒67万亿次INT8运算性能——INT8是INT4大小的两倍——但其功耗范围为7至25瓦。

Hailo表示，Hailo-10H专为消费电子、企业及汽车市场的边缘设备设计，结合了“高效率、高性价比和强大的软件生态系统”，其背后是该公司“成熟且广泛采用的软件堆栈”，每月已有超过10,000名用户使用。

采用Hailo-10H芯片的企业之一是惠普公司，该公司以该芯片为基础，打造了HP AI加速M.2卡，可“无缝”集成到惠普的销售点服务系统，以及其工作站和商用PC中。

该公司表示，Hailo-10H能够在典型的边缘环境功耗和成本限制下，支持自然语言人机交互、视觉感知和多模态AI等高级应用场景。

根据Hailo进行的性能基准测试，该芯片在运行各种参数规模为20亿的语言和视觉语言模型时，可实现“首token延迟低于1秒，每秒生成超过10个token”的表现。

作为挑战Nvidia地位的多家AI芯片初创公司之一，Hailo与广泛的合作伙伴建立了合作关系，包括惠普、戴尔、研华科技等OEM，以及J-Squared Technologies、Kaga Fei America等分销商。