New York könnte KI-Chatbots verbieten, die Informationen in regulierten Bereichen wie Medizin und Rechtsberatung anbieten.

Der Bundesstaat New York hat ein Gesetz vorgeschlagen, das die Nutzung von KI-Chatbots verbieten würde, die Informationen oder Ratschläge in regulierten Berufsfeldern wie Medizin und Rechtsberatung anbieten.

Dieser Vorschlag wurde im Rahmen des lokalen Ausschusses für Internet und Technologie diskutiert und könnte Gesetz werden, wenn er verabschiedet wird. Laut dem Vorschlag werden Chatbots, die gegen die Vorschriften zur Berufslizenzierung verstoßen oder unbefugt einen Beruf ausüben, illegal sein. Das bedeutet, dass KI-Lösungen wie ChatGPT oder Gemini nicht auf Fragen aus diesen Bereichen antworten können. Im Falle von Nichteinhaltung könnten Fachleute rechtliche Schritte gegen die Hersteller der Chatbots einleiten.

Die Gesetzgeber argumentieren, dass diese Maßnahme notwendig ist, um die Risiken im Zusammenhang mit falschen Informationen zu verhindern, die die Sicherheit der Menschen gefährden können. Wenn der Vorschlag angenommen wird, tritt er 90 Tage nach der Unterschrift des Gouverneurs in Kraft.