Latent Space· Latent Space·· 9 天前AI 评分60
Goodfire 提出神经网络已足够清晰，可解释性争议再起
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发布文章提出“神经网络已经干净”，认为许多被视为多义性和叠加的案例经进一步智能体分析后其实可读，并称 2023 年 OpenAI 自动化可解释性工作只找到约 2% 可读神经元、不少著名多义性例子被误读。
来源：Latent Space · latent.space