Die ganze Welt spricht von KI, ChatGPT, Open AI und co. Doch (fast) niemand kümmert sich um die Gefahren, die damit verbunden sind. Eine löbliche Ausnahme bildet das ZISC an der ETH in Zürich, hier befasst sich Florian Tramèr intensiv mit den Gefahren, die drch die gezielte Manipulation von Daten möglich sind, welche durch KI-Tools genutzt werden. In einem Artikel des Economist wurde der aktuelle Stand der Bedrohungen vorzüglich dargestellt.
Aus meiner Sicht besteht das grösste Problem darin, dass sich die klassische Informationssicherheit nie um die Dateninhalte gekümmert hat. Es ist also höchste Zeit, dass man die Fachbereiche Informationssicherheit und Information Governance zusammen führt, sowie das durch die Arbeiten von Hrn. Tramèrs Team in der Forschung bereits getan wird. Doch wie sieht das in der Praxis aus?
Das krm propagiert seit Jahren, dass man die Datenqualität im Rahmen der Sicherheitsüberlegungen berücksichtigen muss. Wir haben u.a. in unserem Leitfaden Information Governance (Kap. 2.4.2) auf die Bedeutung von XAI (Explainable AI) hingewiesen. Die grössten Herausforderungen bestehen aber darin, dass diese Fachthemen bei Anwendern in unterschiedlichen Abteilungen gepflegt und agressiv verteidigt werden (don’t walk on my lawn)! Nur eine holistische Sicht und Herangehensweise kann diese Bedrohungen ausreichend adressieren und in ein effektives Risiko Management umsetzen. Ich glaube nicht daran, dass dies in nächster Zeit passiert, es stehen uns also ziemlich düstere Zeiten bevor, was den Umgang mit Sicherheitsrisiken angeht, welche durch fehlerhafte Daten entstehen (ich lasse mich aber gerne vom Gegenteil überzeugen).
