OpenAI implementiert derzeit Sicherheitsmaßnahmen, um die Erstellung von NSFW-Inhalten durch seine Technologie zu verhindern. ChatGPT ist beispielsweise so konfiguriert Anträge auf pornografisches Material wurden abgelehnt werden. Die Regeln für Drittentwickler verbieten außerdem ausdrücklich „sexuell eindeutige oder anzügliche Inhalte“, außer in wissenschaftlichen oder pädagogischen Kontexten.
In der Vergangenheit hat Stable Diffusion, ein KI-System, das nicht Teil von OpenAI ist, die Erstellung von NSFW-Inhalten ermöglicht. Daraus ist eine kleine Community namens Unstable Diffusion entstanden, die sich auf die Erstellung erotischer und pornografischer Inhalte konzentriert.
Werden bald KI-Nacktbilder und NSFW-Material mit ChatGPT erstellt? erschien zuerst bei unserem Partner PCMasters.de.