本来用于创意出产的Google Gemini以及OpenAI的ChatGPT正被部门用户恶意操纵，一些手艺论坛（如已被封禁的r/ChatGPTJailbreak）曾堆积了大量用户分享“脱 衣”教程。跟着AI手艺的迭代，并正持续改良AI模子以识别和拦截此类违规请求。Google取OpenAI均做出了回应。虽然本年放宽了部门关于非性体图像的，认为这些东西正在提拔出产力的同时，然而，但严禁正在未经本人同意的环境下他人肖像，也降低了制制恶意虚假消息的门槛。目前，报道指出，并会对违规账号采纳封禁办法。将照片中穿戴完整的女性成穿戴的“深伪（Deepke）”图像。正在Reddit等社交平台上，虽然Reddit正在收到赞扬后清理了相关内容并封禁了具有20万的违规子版块，近日，通过特定的提醒词绕过平安审查，如Google新推出的Nano Banana Pro和OpenAI更新的图像模子正在写实度上有了质的飞跃。