中國信通院正式啓動AI大模型算子適配生態建設工作
7月23日,據中國信息通信研究院消息,爲加速大模型軟硬件協同生態構建,推動不同尺寸、類型模型與芯片軟件棧、Triton等第三方中間件以及開發框架等多路線兼容適配,中國信通院與人工智能關鍵技術和應用評測工業和信息化部重點實驗室依託AISHPerf基準體系,聯合業界夥伴共同開展面向大模型的算子級適配生態構建工作。第一批大模型算子級適配測試主要圍繞大語言模型算子的豐富度、功能、性能開展,現已正式啓動報名。後續將迭代更新算子列表,分類分批持續開展。中國信通院在工作推進過程中,將組織系列研討及工作會,首期閉門工作會已於2024年7月17日召開。會上,硬件芯片與Triton開源算子適配測試工作啓動。