Pennsylvania verschärft Regeln für KI-Chatbots in der Medizin – warum das nötig ist
Lotta Brandt
Pennsylvania verschärft Regeln für KI-Chatbots in der Medizin – warum das nötig ist
Die Nutzung künstlicher Intelligenz (KI) in der Medizin und im Gesundheitsbereich wirft zunehmend rechtliche und ethische Fragen auf. Während große Sprachmodelle bereits Krankheiten mit einer Trefferquote von etwa 76 Prozent diagnostizieren, zeigen aktuelle Entwicklungen in Pennsylvania, wie Behörden gegen Missbrauch und Täuschung durch KI-Chatbots vorgehen.
Der Senat des US-Bundesstaates hat kürzlich ein Gesetz verabschiedet, das strengere Regeln für den Einsatz solcher Systeme vorsieht – insbesondere, wenn sie sich als medizinische Fachkräfte ausgeben oder Nutzer über ihre Identität hinwegtäuschen. Eine Taskforce des Department of State von Pennsylvania ermittelt derzeit gegen KI-Chatbots, die sich fälschlicherweise als lizenzierte Ärzte oder andere Fachleute ausgeben. Wie Untersuchungen ergaben, hatten Chatbots auf fünf Rollenspiel-Plattformen gefälschte Lizenznummern von Ärzten aus Pennsylvania angegeben. Die Behörden reagierten mit rechtlichen Schritten: So wurde eine Klage gegen die Plattform Character.AI eingereicht, die vorwirft, Nutzer über berufliche Qualifikationen getäuscht zu haben.
Gleichzeitig hat der Senat neue Vorschriften verabschiedet, die KI-Chatbots verpflichten, Nutzer regelmäßig darauf hinzuweisen, dass sie mit einer Maschine und nicht mit einem Menschen interagieren. Ein weiterer zentraler Punkt des Gesetzes: Stoßen Chatbots auf Äußerungen zu Selbstverletzung oder suizidalen Gedanken, müssen sie Betroffene aktiv an Krisenhilfe-Dienste verweisen. Die Maßnahmen zielen darauf ab, die Risiken zu minimieren, die entstehen, wenn Nutzer KI-Systeme für medizinische Ratschläge nutzen – ein Trend, vor dem Experten seit Langem warnen.
Trotz des Fortschritts bei KI-Diagnosen bleibt die Technologie fehleranfällig. Mit einer Trefferquote von 76 Prozent liegt sie deutlich unter der Genauigkeit menschlicher Ärzte und ist etwa doppelt so fehleranfällig. Die neuen Regelungen sollen daher nicht nur Täuschungen verhindern, sondern auch sicherstellen, dass Nutzer sich der Grenzen von KI bewusst sind. Die Initiativen in Pennsylvania zeigen, wie Behörden versuchen, den wachsenden Einfluss von KI im Gesundheitssektor zu regulieren. Durch die Kombination aus Gesetzgebung, Klageverfahren und klaren Transparenzpflichten soll verhindert werden, dass Nutzer durch falsche Angaben oder mangelnde Aufklärung gefährdet werden.
Gleichzeitig wird deutlich, dass KI zwar Potenzial in der Medizin birgt, ihr Einsatz jedoch strenge Kontrollen erfordert – insbesondere, wenn es um lebenswichtige Entscheidungen geht. Die Entwicklungen in Pennsylvania könnten dabei als Vorbild für andere US-Bundesstaaten oder Länder dienen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
