Kein "Freund" für Kinder: New York verbietet Minderjährigen Nutzung von KI-Begleitern / Foto: POOL - GETTY IMAGES NORTH AMERICA/AFP/Archiv
Kein "Freund" für Kinder: New York verbietet Minderjährigen Nutzung von KI-Begleitern
Der Bundesstaat New York hat ein Jugendschutz-Verbot zur Nutzung von KI-Chatbots eingeführt, die als eine Art Freund oder Gefährte fungieren. Gouverneurin Kathy Hochul unterzeichnete am Mittwoch (Ortszeit) ein Gesetz, das Anbietern von Künstlicher Intelligenz (KI) wie OpenAI eine Alterskontrolle bei sogenannten KI-Begleitern vorschreibt. Wenn ein KI-Chatbot von Minderjährigen genutzt wird, darf die Software demnach keine Inhalte erzeugen, die den Eindruck erwecken, sie sei "menschlich oder lebending oder empfinde menschliche Emotionen".
Das Gesetz untersagt, dass KI-Chatbots einem minderjährigen Nutzer den Eindruck vermitteln, er habe eine persönliche oder professionelle Beziehung zu der Software oder diese sei eine "Autoritätsperson". Außerdem dürfen die KI-Chatbots in New York Nutzern unter 18 Jahren keine Inhalte anzeigen, die eine "persönliche Meinung" des Chatbots darstellen sollen.
"Minderjährige werden keinen Zugang mehr zu Chatbots haben, die so tun, als seien sie ihr Freund" oder sogar Partner, sagte Hochul bei der Unterzeichnungszeremonie. "Chatbots werden künftig nicht mehr in der Lage sein, sensible Informationen über die emotionale und körperliche Gesundheit von Minderjährigen zu speichern", betonte die demokratische Politikerin.
Auch andere US-Bundesstaaten wie Kalifornien haben bereits Beschränkungen für KI-Chatbots erlassen. Die Regelung in New York geht allerdings besonders weit und stieß daher bei der KI-Branche auf Kritik. Die New Yorker KI-Lobbygruppe Tech:NYC erklärte: "Kinder im Internet zu schützen sollte nicht dazu führen, sie von Werkzeugen abzuschneiden, die ihnen beim Lernen und der Vorbereitung ihres Werdegangs helfen".
Die KI-Giganten OpenAI und Anthropic äußerten sich auf Anfrage der Nachrichtenagentur AFP zunächst nicht zu den neuen Vorgaben.
Die Organisation Common Sense Media, die sich für Jugendschutz im Internet einsetzt, lobte die neuen Vorgaben in New York als "das stärkste KI-Kinderschutzgesetz im Land". "KI-Unternehmen bieten Chatbots mit Funktionen an, die für Kinder und Jugendliche gefährlich und sogar tödlich sein können", erklärte Organisationschef Jim Steyer. Immerhin im Bundesstaat New York seien diese "schädlichen Funktionen" nun verboten.
A.Serra--GdR
