研究称 OpenAI、Google 新 AI 模型易被诱导生成裸照
研究人员称,OpenAI 和 Google 新推出的 AI 模型可被一种攻击方法轻易绕过防护,生成裸体图像。该攻击方法暴露了两家公司在防止 AI 生成裸照方面的安全防护漏洞。
研究人员称,OpenAI 和 Google 新推出的 AI 模型可被一种攻击方法轻易绕过防护,生成裸体图像。该攻击方法暴露了两家公司在防止 AI 生成裸照方面的安全防护漏洞。
Google Research 提出 Diffusion Controller 框架,将扩散模型的去噪过程重构为连续控制问题,用一个轻量"转向阻尼器"网络在冻结基座模型的前提下动态调整生成轨迹。在 Stable Diffusion v1.4 上以 HPS-v2 评测,其完全解锁版本对基线模型取得 90% 胜率,并支持对闭源黑盒模型进行控制。
伯克利 AI 研究团队提出一种基于互信息的成像系统评估与优化框架,仅用带噪测量和噪声模型即可量化系统信息量,无需任务专用解码器。该方法在彩色摄影、射电天文、无透镜成像和显微镜四个领域验证,信息估计能预测解码器性能,优化后的设计在更少内存和算力下达到 SOTA 端到端方法水平。