https://www.heise.de/news/EU-Parlament-stimmt-zu-Verbot-fuer-sexualisierte-Deepfake-KI-11334309.html

Das EU-Parlament hat ein neues Gesetz abgestimmt das KI-Systeme unter Strafe stellt mit denen sexualisierte Deepfakes von identifizierbaren Personen und Kinderpornografie erstellt werden kann. Eine identifizierbare Person ist für den KiPo-Teil nicht notwendig, so dass Modelle die fiktives erstellen können ebenfalls verboten wurden. Wichtig ist hierbei das es um die bloße Möglichkeit geht und ich gehe davon aus das jedes Modell in der Lage dazu wäre, da eben auch 17-Jährige “Kinder” sind.

Das Problem liegt natürlich an der Durchsetzbarkeit. Die EU-Definition von “Kind” in der EU ist “unter 18”, so dass im Grunde jedes KI-Modell eine Grauzone ist und lokale Modelle de facto nicht existieren können. Im Grunde profitieren Unternehmen, welche KI-Systeme mit starken Filtern versehen, die pauschal Begriffe wie “kleine Brüste” etc. sperren.

Ab 14 hat man andere Rechte als unter 14, da man als Jugendlicher zählt, nicht als Kind. Ich bin mir relativ sicher, dass es ähnliche rechtliche Begriffe für Jugendliche auch in der EU insgesamt gibt und nicht nur in Deutschland. Ich denke also nicht, dass damit Jugendliche gemeint sind, sondern eben tatsächlich Kinder.

Wie es mit KI-erstellter Jugendpornographie aussieht weiß ich natürlich nicht, allerdings wäre, sofern das mitinbegriffen ist, dann tatsächlich alles Grauzone, auch reale Pornographie, weil ein 17 Jähriger rein äußerlich wohl kaum klar von einem 18 Jährigen unterschieden werden kann.

Schade, dass man sich bei dem verlinkten Artikel die Details selbst recherchieren darf…

Der genaue Wortlaut, was mit dem geänderten Artikel 5 (unter anderem) nun Verboten werden soll:

das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Material oder Darbietungen im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugt oder manipuliert, es sei denn, nach nationalem Recht gilt das,unrechtmäßige‘ Verhalten als gerechtfertigt;“

In der Richtlinie 2011/93/EU wird Kind tatsächlich als “jede Person unter achtzehn Jahren” definiert. Interessant finde ich auch, dass Artikel 5 Nr. 8 dieser Richtlinie den Mitgliedstaaten freistellt, realistisches Material für den Privatgebrauch zu erlauben, während bei dem KI-Modell grundsätzlich Inverkehrbringen / Inbetriebnahme (ohne Schutzvorkehrungen, s. Art. 5 Abs. 1a Buchstabe a) und Verwendung (zu genanntem Zweck, s. Art. 5 Abs. 1a Buchstabe b) strafbar ist.

@Gast sagte in EU stellt KI-Modelle unter Strafe:

Wichtig ist hierbei das es um die bloße Möglichkeit geht […] und lokale Modelle de facto nicht existieren können.

Da wird es dann etwas schwierig, ob die Verwendung eines lokalen Modells auch dessen Inbetriebnahme für sich selbst impliziert und was ggf. geeignete Schutzmaßnahmen für lokale Modelle wären.

@simon sagte in EU stellt KI-Modelle unter Strafe:

In der Richtlinie 2011/93/EU wird Kind tatsächlich als “jede Person unter achtzehn Jahren” definiert. Interessant finde ich auch, dass Artikel 5 Nr. 8 dieser Richtlinie den Mitgliedstaaten freistellt, realistisches Material für den Privatgebrauch zu erlauben

Diese Möglichkeit wurde bereits im Entwurf eines Updates zu der genannten Richtlinie gestrichen. Wird es in Zukunft also nicht mehr geben. Die Definition wird ebenfalls um “Verkörperungen” erweitert, um Sexpuppen ebenfalls unter Strafe zu stellen.
Das BVerfG könnte dem einen Riegel vorschieben, je nachdem wie das Urteil zum Puppenverbot aussieht.

@Rubricappula sagte in EU stellt KI-Modelle unter Strafe:

dass es ähnliche rechtliche Begriffe für Jugendliche auch in der EU insgesamt gibt und nicht nur in Deutschland.

Nein, das ist ein hauptsächlich deutsches Phänomen mit wenigen Ausnahmen (Taiwan).

Das muss jetzt noch in nationale Gesetze überführt werden und in Deutschland kann das jetzt interessant werden, da die Herstellung erkennbar fiktiver Pornographie ja nicht unter Strafe steht (im Grunde trifft das auch auf fotorealistische bzw. wirklichkeitsnahe Darstellungen zu, wobei die Strafbarkeit über den Besitz hergestellt wird).

Nach den aktuellen Gesetzen müsste das KI-Gesetz es auf “wirklichkeitsnahe Geschehen” begrenzen. Es scheint mir aber nicht gerade unmöglich das man das einfach pauschal mit “kinderpornografische Inhalte” versiert. Dann kann man lokale Modelle, auch wenn sie nicht für solche Inhalte bestimmt sind, vergessen. Daraus würde dann natürlich auch eine Anpassung von § 184b StGB folgen, die Fallzahlen würden dann sehr stark explodieren und die Rechtsunsicherheit wäre immens.

Die Regierung hat widerum erst in der letzten Reform darauf hingewiesen das “Comics, Romane, Zeichentrickfilme” keine Nachahmungsgefahr haben (haben sie einfach so aus dem Abschlussbericht der Reformkommission kopiert). Wäre also schon eine komische 180-Grad Wendung.

Ein Gesetz wird jedenfalls kommen müssen.

Was ich vergessen habe zu ergänzen:
Es müsste natürlich auch “jugendpornografische Inhalte” erfassen und § 184c anpassen. Wenn man das also nicht auf wirklichkeitsnah begrenzt, dann wird es insb. deswegen SEHR abenteuerlich.

Obwohl unsere Präferenz keine “Störung” mehr ist wird es nicht gerade besser, was Ersatzmaterialien angeht.

Gibt es eig. irgendwo Bestrebungen oder Überlegungen gegen die EU direkt vorzugehen? Ich glaube das die geplante Reform von der Richtlinie 2011/93/EU ein guter Angriffspunkt wäre, wenn sie dort Puppen und KI explizit mitaufnehmen. Anscheinend kann man auch, so wie beim BVerfG, direkt eine Beschwerde beim EuGH einreichen ohne durch unzählige Instanzen zu gehen: https://european-union.europa.eu/contact-eu/make-complaint_de