KI und ML

Künstliche Intelligenz ist das Schlagwort, unter dessen dieser Tage viel passiert. Doch der Begriff ist durchaus zu hinterfragen, bevor man sich dem Thema inhaltlich nennt. Eine eindeutige Begriffsdefinition für künstliche Intelligenz gibt es grundsätzlich nicht. Das macht es schwer, sauber zu entscheiden, ob es sich um KI handelt oder nicht. Grundsätzlich gibt es die Anforderung, dass eine Maschine Probleme genereller Art lösen kann. Dahinter steckt die Idee, dass ich dem System nicht sage, was für eine Art Lösung ich erwarte. Auf Grund der Intelligenz erarbeitet die KI die Lösung selbstständig.

Die künstliche Intelligenz lässt sich in ihrer Stärke unterscheiden. Wir trennen hier in den Begriffen schwache KI und starke KI. Je mehr Lösungskompetenz eine KI besitzt, desto stärker ist sie, desto genereller ist sie in der Lage eingesetzt zu werden, um Probleme zu lösen.

Während wir durchaus heute schon Systeme kennen, die man zu einer schwachen KI zählen kann, ist der Einsatz von starker KI abseits von Sci-Fi wohl nicht in den nächsten Jahren zu erwarten. Der Begriff, der bis dahin eher zutrifft, ist maschinelles Lernen. Durch die Mustererkennung ist eine Maschine in der Lage, eine gewisse Lösungskompetenz aufzubauen, um Probleme in einem bestimmten Bereich (schwache KI) zu lösen.

ChatGPT, Anthropic, …

Künstliche Intelligenz lässt sich in verschiedenen Bereichen einsetzen. ChatGPT macht dieser Tage Schlagzeilen, weil es auf Basis der Mustererkennung von Daten aus dem Internet in der Lage ist, sich einem Thema strukturiert und damit sinnvoll zu nähern. Nachdem ChatGPT Ende November 2022 kostenfrei zugänglich wurde, denken Universitäten wie Berlin gerade darüber nach, was das für die Bewertung von benotbaren Arbeiten bedeutet.

Methoden des maschinellen Lernens werden sich über die nächsten Jahre weiter entwickeln und so auch wir, wie wir sie verwenden. Doch davon abgesehen, dass Methoden des maschinellen Lernens dazu geeignet sind, Themen strukturell aufzubereiten, ist sie auch in einem anderen Bereich für uns interessant. Nämlich im Bereich der Sicherheit.

ML als Angreifer oder Verteidiger

Methoden des maschinellen Lernens können auf beiden Seiten, auf Angreifer- als auch auf Verteidiger-Sicht angewendet werden. Das bedeutet grundsätzlich nur, dass sich Maschinen gewisser Strukturen bedienen und lernen sollen, mit Reaktion umzugehen. Am Beispiel von Schach versucht man schon seit einigen Jahren, Computer gegen Schachprofis antreten zu lassen, um ihnen Lösungskompetenz beizubringen. Dahinter steckt, dass der Computer über die Standard-Züge hinaus die Strategie des Angreifers verstehen und überwinden soll.

Das gleiche Konzept geht aus der Angreifer-Perspektive auch für Computer-Infrastrukturen. Haben wir das Ziel in eine Infrastruktur einzudringen, um System darin zu korrumpieren, lassen sich ML Verfahren dafür nutzen, bestimmtes auszuprobieren. Gleiches geht auf Verteidiger-Seite auch. Ein möglicher Ansatz ist es, die Verfahren gegeneinander anzuwenden, um so die Datenbasis immer wieder zu erweitern. Natürlich ist das eine Arbeit, die nicht in realen Infrastrukturen stattfindet, sondern unter Laborbedingungen. Die Grundlagen können jedoch zur Weiterentwicklung auf beiden Seiten genutzt werden.

ML zur Erstellung von Tools

Ein Schritt tiefer ist es nicht nur möglich, Verfahren des maschinellen Lernens dazu zu nutzen, Muster zu erkennen und Hürden zu überwinden oder zu verteidigen. Am Beispiel “ChatGPT schreibt die Hausaufgaben meines Sohnes” ist es möglich, die Methoden des maschinellen Lernens dazu zu nutzen, Tools zu schreiben. Beispielsweise Schadsoftware, mit dem Ziel, am Antivirus nicht erkannt zu werden, sondern unentdeckt vorbei “zu schleichen”. Aber auch auf Seiten der Anti-Viren Pattern Erkennung, um genau das zu verhindern.

Was ändert ML

Betrachten wir, was sich durch die Möglichkeit des maschinellen Lernens für den Security Bereich ändert ist die grobe Antwort: Qualität. Dinge, die früher funktioniert haben, funktionieren ggfs. wieder, aber auf einer anderen Qualitätsstufe. Man könnte das Thema maschinelles Lernen wie einen Wettkampf mit der Zeit gleich setzen. Derjenigen, der gerade die bessere Datenbasis hat, gewinnt. Doch so einfach ist es nicht. Nicht die Technik allein entscheidet, ob ein Angriff erfolgreich ist oder die Verteidigung die Oberhand gewinnt. Deshalb müssen wir uns in den nächsten Jahren darauf einstellen, dass durch Methoden des maschinellen Lernens die Anforderung an unsere Sicherheit gesteigert wird, um Angriffe mit höherer Qualität dennoch erfolgreich abzuwehren.

Was können wir tun?

Auch hier lautet die einfache Antwort: Hausaufgaben machen.

• Konzepte wie Zero Trust sind dazu geeignet, sichere Strukturen zu schaffen.
• Security in Layern sorgt dafür, dass wir eine Sicherheits-Struktur auf mehreren Ebenen entwickeln, die davon ausgeht, dass die Ebene davor korrumpiert sein könnte.
• Schwachstellenmanagement: Es kommt nicht darauf an, wo wir patchen, sondern welche Schwachstelle wir in der Infrastruktur haben und welche Auswirkung die auf uns hat. Kann der Angreifer die Schwachstelle gegen uns benutzen, hat es eine ganz andere Auswirkung im Angriffsweg, als eine Schwachstelle auf einem Computer, der nicht mit dem Internet verbunden ist.
• kontinuierlicher Verbesserungsprozess: Die dauerhafte Weiterentwicklung von Sicherheits-Prozessen und -Techniken unterstützt uns dabei, die Verteidiger-Qualität immer weiter auszubauen.
• CDC (Cyber Defense Center), SOC (Security Operation Center), SIEM (Security Information and Event Management), Anomalieerkennung. All das sind Schlagworte, die uns gerade tagesaktuell im Bereich der kritischen Infrastruktur begegnen und langfristig dafür sorgen sollen, dass die wichtigsten Bereiche aus Bundessicht auch diejenigen sind, die bestmöglich gegenüber Angriffen abgesichert werden.
• Normen und Standards: Egal ob ISO 27001 für die Informationssicherheit, 9001 für das Qualitätsmanagement oder IEC 62443 für den Bereich von kritischen Infrastrukturen und Automatisierungsanlagen. Es gibt einige Normen und einiges Wissen, das wir in Händen halten und wir sinnvoll anwenden können, um unsere Infrastrukturen nachhaltig und auf einem qualitativ hochwertigen Niveau abzusichern.

Fazit und Abgrenzung

Das Thema künstliche Intelligenz und Methoden des maschinellen Lernens haben eine Komplexität, die sich als Aufhänger für eine kritische Frage auf die Nutzbarkeit im Bereich Informations- und Cyber-Sicherheit kaum in einem kurzen Webartikel unterbringen lässt. Insofern sehen Sie es dem Autor bitte nach, an etlichen Stellen grob vereinfacht zu haben. Wichtiger als KI und ML in tiefe zu erklären war es, aufzuzeigen, dass durch neue Methoden immer Chance und Risiko entsteht, die grundsätzlichen Arbeiten dadurch aber nicht unwichtiger werden. Im Gegenteil. Chancen und Risiken in der Technik zur Weiterentwicklung münden immer in den Versuch die Qualität von etwas zu verbessern. Das bedeutet jedoch nicht, dass wir diesen Methoden schutzlos ausgesetzt sind. Und es bedeutet auch nicht, dass wir bereits 2023 die vollentwickelte KI als Angriffsgegner im Bereich Cyber Defense ins Haus stehen haben. Der Artikel dient vielmehr der Einordnung in das aktuelle Zeitgeschehen und als Denkanstoß, was es bedeutet, die Qualität für den Verteidiger dauerhaft aufrecht halten zu müssen.

Feedback

Was denken Sie? Ist das Thema KI wert in den SciFi Büchern überdauern zu dürfen, weil wir in den nächsten Jahren noch bei weitem nicht so weit sind, die starke KI als Angreifer oder Verteidiger für technische Infrastrukturen zu sehen? Oder ist Ihre Prognose düsterer? Sprechen Sie uns an!