{"id":1370,"date":"2023-04-08T10:21:05","date_gmt":"2023-04-08T09:21:05","guid":{"rendered":"https:\/\/wildhaber.com\/?p=1370"},"modified":"2023-04-08T10:21:46","modified_gmt":"2023-04-08T09:21:46","slug":"data-poisoning-wo-sich-information-security-und-information-governance-vereinen-muessen","status":"publish","type":"post","link":"https:\/\/wildhaber.com\/index.php\/data-poisoning-wo-sich-information-security-und-information-governance-vereinen-muessen\/","title":{"rendered":"Data Poisoning: Wo sich Information Security und Information Governance vereinen m\u00fcssen"},"content":{"rendered":"<div class=\"section the_content has_content\">\n<div class=\"section_wrapper\">\n<div class=\"the_content_wrapper \">\n<p>Die ganze Welt spricht von KI, ChatGPT, Open AI und co. Doch (fast) niemand k\u00fcmmert sich um die Gefahren, die damit verbunden sind. Eine l\u00f6bliche Ausnahme bildet das ZISC an der ETH in Z\u00fcrich, hier befasst sich <a href=\"https:\/\/floriantramer.com\/\" target=\"_blank\" rel=\"noreferrer noopener\">Florian Tram\u00e8r<\/a> intensiv mit den Gefahren, die drch die gezielte Manipulation von Daten m\u00f6glich sind, welche durch KI-Tools genutzt werden. In einem <a href=\"https:\/\/www.economist.com\/science-and-technology\/2023\/04\/05\/it-doesnt-take-much-to-make-machine-learning-algorithms-go-awry\">Artikel des Economist<\/a> wurde der aktuelle Stand der Bedrohungen vorz\u00fcglich dargestellt.<\/p>\n<p>Aus meiner Sicht besteht das gr\u00f6sste Problem darin, dass sich die klassische Informationssicherheit nie um die Dateninhalte gek\u00fcmmert hat. Es ist also h\u00f6chste Zeit, dass man die Fachbereiche Informationssicherheit und Information Governance zusammen f\u00fchrt, sowie das durch die Arbeiten von Hrn. Tram\u00e8rs Team in der Forschung bereits getan wird. Doch wie sieht das in der Praxis aus?<\/p>\n<p>Das krm propagiert seit Jahren, dass man die Datenqualit\u00e4t im Rahmen der Sicherheits\u00fcberlegungen ber\u00fccksichtigen muss. Wir haben u.a. in unserem <a href=\"https:\/\/krm.swiss\/publikationen\/leitfaden-information-governance-2\/\" data-type=\"page\" data-id=\"5850\">Leitfaden Information Governance <\/a>(Kap. 2.4.2) auf die Bedeutung von XAI (Explainable AI) hingewiesen. Die gr\u00f6ssten Herausforderungen bestehen aber darin, dass diese Fachthemen bei Anwendern in unterschiedlichen Abteilungen gepflegt und agressiv verteidigt werden (don\u2019t walk on my lawn)! Nur eine holistische Sicht und Herangehensweise kann diese Bedrohungen ausreichend adressieren und in ein effektives Risiko Management umsetzen. Ich glaube nicht daran, dass dies in n\u00e4chster Zeit passiert, es stehen uns also ziemlich d\u00fcstere Zeiten bevor, was den Umgang mit Sicherheitsrisiken angeht, welche durch fehlerhafte Daten entstehen (ich lasse mich aber gerne vom Gegenteil \u00fcberzeugen).<\/p>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Die ganze Welt spricht von KI, ChatGPT, Open AI und co. Doch (fast) niemand k\u00fcmmert sich um die Gefahren, die &hellip; <a href=\"https:\/\/wildhaber.com\/index.php\/data-poisoning-wo-sich-information-security-und-information-governance-vereinen-muessen\/\" class=\"more-link\"><span class=\"more-button\">Continue reading &gt;<span class=\"screen-reader-text\">Data Poisoning: Wo sich Information Security und Information Governance vereinen m\u00fcssen<\/span><\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":1371,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3,67],"tags":[68,69],"class_list":["post-1370","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-informationssicherheit","category-ki","tag-data-posioning","tag-ki"],"_links":{"self":[{"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/posts\/1370","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/comments?post=1370"}],"version-history":[{"count":2,"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/posts\/1370\/revisions"}],"predecessor-version":[{"id":1374,"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/posts\/1370\/revisions\/1374"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/media\/1371"}],"wp:attachment":[{"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/media?parent=1370"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/categories?post=1370"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wildhaber.com\/index.php\/wp-json\/wp\/v2\/tags?post=1370"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}