https://www.heise.de/news/EU-Parlament-stimmt-zu-Verbot-fuer-sexualisierte-Deepfake-KI-11334309.html

Das EU-Parlament hat ein neues Gesetz abgestimmt das KI-Systeme unter Strafe stellt mit denen sexualisierte Deepfakes von identifizierbaren Personen und Kinderpornografie erstellt werden kann. Eine identifizierbare Person ist für den KiPo-Teil nicht notwendig, so dass Modelle die fiktives erstellen können ebenfalls verboten wurden. Wichtig ist hierbei das es um die bloße Möglichkeit geht und ich gehe davon aus das jedes Modell in der Lage dazu wäre, da eben auch 17-Jährige “Kinder” sind.

Das Problem liegt natürlich an der Durchsetzbarkeit. Die EU-Definition von “Kind” in der EU ist “unter 18”, so dass im Grunde jedes KI-Modell eine Grauzone ist und lokale Modelle de facto nicht existieren können. Im Grunde profitieren Unternehmen, welche KI-Systeme mit starken Filtern versehen, die pauschal Begriffe wie “kleine Brüste” etc. sperren.

Ab 14 hat man andere Rechte als unter 14, da man als Jugendlicher zählt, nicht als Kind. Ich bin mir relativ sicher, dass es ähnliche rechtliche Begriffe für Jugendliche auch in der EU insgesamt gibt und nicht nur in Deutschland. Ich denke also nicht, dass damit Jugendliche gemeint sind, sondern eben tatsächlich Kinder.

Wie es mit KI-erstellter Jugendpornographie aussieht weiß ich natürlich nicht, allerdings wäre, sofern das mitinbegriffen ist, dann tatsächlich alles Grauzone, auch reale Pornographie, weil ein 17 Jähriger rein äußerlich wohl kaum klar von einem 18 Jährigen unterschieden werden kann.

Schade, dass man sich bei dem verlinkten Artikel die Details selbst recherchieren darf…

Der genaue Wortlaut, was mit dem geänderten Artikel 5 (unter anderem) nun Verboten werden soll:

das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Material oder Darbietungen im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugt oder manipuliert, es sei denn, nach nationalem Recht gilt das,unrechtmäßige‘ Verhalten als gerechtfertigt;“

In der Richtlinie 2011/93/EU wird Kind tatsächlich als “jede Person unter achtzehn Jahren” definiert. Interessant finde ich auch, dass Artikel 5 Nr. 8 dieser Richtlinie den Mitgliedstaaten freistellt, realistisches Material für den Privatgebrauch zu erlauben, während bei dem KI-Modell grundsätzlich Inverkehrbringen / Inbetriebnahme (ohne Schutzvorkehrungen, s. Art. 5 Abs. 1a Buchstabe a) und Verwendung (zu genanntem Zweck, s. Art. 5 Abs. 1a Buchstabe b) strafbar ist.

@Gast sagte in EU stellt KI-Modelle unter Strafe:

Wichtig ist hierbei das es um die bloße Möglichkeit geht […] und lokale Modelle de facto nicht existieren können.

Da wird es dann etwas schwierig, ob die Verwendung eines lokalen Modells auch dessen Inbetriebnahme für sich selbst impliziert und was ggf. geeignete Schutzmaßnahmen für lokale Modelle wären.

@simon sagte in EU stellt KI-Modelle unter Strafe:

In der Richtlinie 2011/93/EU wird Kind tatsächlich als “jede Person unter achtzehn Jahren” definiert. Interessant finde ich auch, dass Artikel 5 Nr. 8 dieser Richtlinie den Mitgliedstaaten freistellt, realistisches Material für den Privatgebrauch zu erlauben

Diese Möglichkeit wurde bereits im Entwurf eines Updates zu der genannten Richtlinie gestrichen. Wird es in Zukunft also nicht mehr geben. Die Definition wird ebenfalls um “Verkörperungen” erweitert, um Sexpuppen ebenfalls unter Strafe zu stellen.
Das BVerfG könnte dem einen Riegel vorschieben, je nachdem wie das Urteil zum Puppenverbot aussieht.

@Rubricappula sagte in EU stellt KI-Modelle unter Strafe:

dass es ähnliche rechtliche Begriffe für Jugendliche auch in der EU insgesamt gibt und nicht nur in Deutschland.

Nein, das ist ein hauptsächlich deutsches Phänomen mit wenigen Ausnahmen (Taiwan).