News

Britische KI-Bots erkennen missbrauchte Kinder nicht

kuenstliche-intelligenzVielen Gesundheitspolitikern, Ärztefunktionären und Krankenkassenvertretern geht die Einführung und Nutzung der „KI“ (= Künstlichen Intelligenz) ins Gesundheitssystem gar nicht schnell genug.

Was aber dabei herauskommt, wenn man sich nur darauf verlässt und das menschlich-empathische Verstehen ausklammert, zeigt jetzt ein Test in England, über den die Ärztezeitung am 05.02.2019 berichtete:
Die vom britischen National-Health-Service für Kinder empfohlenen KI-gestützten Chatbots, „Wysa“ und „Woebot“ reagierten in einem Test der „BBC“ fatal auf Fragen von Hilfesuchenden, die von sexuellem Missbrauch und psychischen Störungen berichteten. „Die Systeme sollen jungen Erwachsenen Hilfe bieten oder professionelle Kontakte vermitteln. Die Wysa-Antwort zu einem vermeintlich zwölfjährigen User, der angab, sexuell missbraucht zu werden: ‚Es scheint Ihnen insgesamt gut zu gehen, aber Sie haben momentan mit einigen Problemen zu kämpfen.‘
Ein Erkennen des Missbrauchs blieb wie bei Woebot aus. ‚Eigentlich sollten die Bots in der Lage sein, eine eindeutige Gesetzesverletzung zu erkennen und ein Eingreifen einzufordern‘, so Anne Longfield, Children’s Commissioner for England. Auch bei Essstörungen scheiterten beide Systeme.“ Quelle: https://www.aerztezeitung.de/extras/druckansicht/?sid=980746

< zurück