Fachthema
Künstliche Entmündigung
Über Potenziale und Gefahren von Künstlicher Intelligenz und Assistenzsystemen für alle Lebenslagen.
Vor geraumer Zeit habe ich folgende Karikatur gesehen: In den TV-Nachrichten kommt die Meldung, dass drei Personen zu Hause gestorben sind, weil die Raumtemperatur 70°C betragen habe, und sämtliche Fenster und Türen verriegelt waren. Neben dem geschockten Betrachter der Nachrichten stand ein kleiner Sprachassistent, wie es ihn mittlerweile von vielen großen Anbietern gibt, der ein leises „Hi hi hi!“ von sich gab.
Ich finde diese Karikatur trifft sehr gut, welches Bedrohungspotential in den mehr und mehr verbreiteten Hilfsmitteln mit künstlicher Intelligenz verborgen sein könnte. Und in Zukunft sollen uns künstliche Intelligenz- und Assistenzsysteme in allen Lebenslagen noch mehr entlasten. Dabei muss uns bewusst werden, dass wir weitere Türen öffnen, um unseren Alltag zu überwachen, zu kontrollieren und zu manipulieren. Darüber hinaus bieten diese Helferlein auch neue Angriffsvektoren für unfreundlich gesinnte Zeitgenossen, egal ob künstlich oder aus Fleisch und Blut.
Eine bereits ältere Studie* über den potentiell böswilligen Einsatz von künstlicher Intelligenz zeichnet das reelle Bedrohungspotential sehr drastisch. In der Studie werden mögliche Szenarien beschrieben und wie man diesen begegnen könnte. Die Studie kommt zum Schluss, dass wir auf allen Ebenen gefordert sind, uns Rasch mit den Konsequenzen der KI-Technik auseinander zu setzen: Forscher und Entwickler dürfen nicht nur den Blick auf die gewünschten Funktionen richten, sondern müssen sich sehr genau überlegen, wie Systemfehler, Fehlbedienung und gezielte Angriffe abgewendet werden können.
*http://arxiv.org/ftp/arxiv/papers/1802/1802.07228.pdf
Der Gesetzgeber muss sich rasch von KI-Fachleuten beraten lassen, um mit den notwendigen Regularien nicht wieder um Jahrzehnte hinterher zu hinken. Und letztendlich ist jeder einzelne Nutzer gefordert sich zu überlegen, inwieweit er sich von KI-Systemen helfen lassen will. Als Techniker findet man die neuen Möglichkeiten natürlich höchst reizvoll. Man sollte allerdings von Anfang an den wahren Nutzen eines neuen intelligenten Helferleins den Gefahren gegenüberstellen, Kompetenz im Umgang mit KI-Systemen erwerben, hinterfragen wie das Ding funktioniert und sich nicht künstlich entmündigen lassen. Im Zweifelsfall dann lieber abschalten!