大模型推理相关资讯

OpenAI与博通联手打造大模型推理芯片

为应对大模型推理需求飙升，OpenAI与博通（Broadcom）联合宣布推出一款专为大规模LLM推理设计的定制芯片。该芯片基于博通在ASIC（专用集成电路）领域的深厚积累，旨在显著降低推理成本与延迟，加速AI应用落地。此举标志着AI领域的芯