机械可解释性相关资讯

初创公司新工具让LLM调试如探囊取物

旧金山初创公司Goodfire发布名为Silico的新工具，允许研究人员和工程师在训练期间深入AI模型内部，调整其参数——即决定模型行为的设置。这为模型制造商提供了前所未有的精细控制能力，改变了以往对AI技术构建方式的认知。Goodfire