Themen: KI/Digital, Gesellschaft
Regionen: International, Nordamerika
Der Staat New York hat ein Gesetz verabschiedet, das Minderjährigen den Dialog mit KI-Begleitern weitgehend untersagt. Es erfasst einen besonders breiten Kreis generativer KI-Chatbots und verpflichtet deren Betreiber, das Alter der Nutzerinnen und Nutzer zu überprüfen. Wird eine Person als minderjährig erkannt, dürfen bestimmte Eigenschaften der Schnittstelle nicht erscheinen: Der Bot darf nicht den Eindruck erwecken, menschlich oder lebendig zu sein oder menschliche Gefühle zu empfinden. Er darf die Interaktion weder als persönliche noch als berufliche Beziehung darstellen, keine Rolle als Bezugsperson übernehmen und seine Antworten nicht als persönliche Meinung ausgeben. Auch Fragen nach Gefühlen und psychischem Zustand der jungen Nutzer sind untersagt. Tech: NYC kritisiert die von Gouverneurin Kathy Hochul unterzeichnete Regelung als vage und sieht mögliche Konflikte mit der Meinungsfreiheit. Der Verband warnt zudem vor Einschränkungen bei Nachhilfe, Hausaufgabenhilfe, Programmierassistenten und berufsvorbereitenden Plattformen sowie vor zusätzlichen Risiken bei Kinderdaten.
