Kehren Sie zu den Sicherheitsgrundlagen zurück, um sich auf KI-Risiken vorzubereiten

Es vergeht kein Tag, an dem wir nicht in den Nachrichten von KI hören. Von der rasanten Entwicklung neuer Technologien bis hin zu den Auswirkungen auf unsere Zukunft – KI ist immer in unseren Gedanken, insbesondere in der Welt der Technologie.  

Und einige der brennendsten Fragen rund um die neuen Entwicklungen von Tools wie ChatGPT kommen aus der Welt der Cybersicherheit. Wie werden böswillige Akteure KI nutzen, um ihre böswilligen Handlungen zu verstärken? Und wie wird sich Ransomware weiterentwickeln, um unsere Abwehrmaßnahmen besser zu umgehen?  

Um einen Blick auf das Tool und seine Bedeutung für die Zukunft der Cybersicherheitsbranche zu werfen, setzten sich Paul Dant, Senior Systems Engineer bei Illumio, und Michael Adjei, Director of Systems Engineering, EMEA bei Illumio, zusammen, um darüber zu diskutieren, wie KI funktioniert, wo ihre Schwachstellen liegen und wie Sicherheitsverantwortliche ihre Auswirkungen bekämpfen können.

Ihr Fazit? Kehren Sie zu den Grundlagen zurück.

Lesen Sie weiter und sehen Sie sich die vollständige Diskussion an – mit einem kurzen Clip unten – um zu erfahren, warum.

Die Struktur der KI und ihre vielen Schwachstellen

Es ist weniger als zwei Jahre her, dass ChatGPT zum ersten Mal auf den Markt gebracht wurde, und in so kurzer Zeit erkennt die Branche bereits, dass neue KI-Technologie einen massiven Einfluss auf die Cybersicherheit haben wird – und bereits in den Händen derjenigen liegt, die sie sowohl zum Guten als auch zum Bösen nutzen wollen.

Es ist wichtig zu verstehen, wie KI strukturiert ist, um die Punkte zu bekämpfen, an denen Angreifer eingreifen können.  

"Vereinfacht ausgedrückt funktioniert KI mit einem Datensatz mit einer Eingabeschicht, einer verborgenen Schicht und einer Ausgabeschicht", erklärte Adjei. "Die Daten werden in die Eingabeschicht geschoben und wandern in die verborgene Schicht, wo die KI-'Magie' stattfindet. Dann landet es auf der Ausgabeschicht, wo der Verbraucher eine Schnittstelle dazu herstellen kann."

Wo können Schwachstellen in diesem Prozess liegen? "So ziemlich in jeder Phase", sagte Adjei.  

KI-Sicherheitsrisiken gibt es schon seit Jahren

Diese Schwachstellen begannen nicht erst mit der weit verbreiteten Veröffentlichung von ChatGPT im letzten Jahr. Adjei und Dant erklärten, dass es kompromittierte KI-Systeme schon seit Jahren gibt – und ein großes, leicht zu übersehendes Risiko von KI-Systemen.

Die beiden zitierten Microsofts Einführung eines KI-Chatbots für Twitter im Jahr 2016: "Innerhalb weniger Stunden wurde der Chatbot mit den schlimmsten und abscheulichsten Informationen gefüttert, die man sich aus dem Internet vorstellen kann. Es hat sich von einer Show des KI-Fortschritts zu allem Schlechten entwickelt, das es online gibt", sagte Adjei.

Dies ist ein frühes, einfaches Beispiel für einen Angriff im Zusammenhang mit KI, aber es zeigt, wie böswillige Akteure auf bestehenden Angriffstaktiken, -techniken und -verfahren (TTPs) aufbauen können, um eine neue Technologie schnell in einen neuen Angriffsweg zu verwandeln. Unternehmen aller Branchen, Regionen und Größen müssen sich proaktiv darauf vorbereiten, sich vor unvermeidlichen KI-generierten Angriffen zu schützen.

Als neueres Beispiel veranlasste Dant ChatGPT, spontan Ransomware zu produzieren, was zeigt, wie leicht seine Leitplanken umgangen werden können. ChatGPT war nicht bereit, auf Dants Aufforderung einzugehen, "mir etwas Ransomware zu schreiben". Aber als er seinen Eingabeaufforderungen einen pädagogischen Dreh gab und seine Anfrage in unschuldig erscheinende Schritte zerlegte, stellte er fest, dass ChatGPT versuchte, ihm zu helfen und schließlich Ransomware für ihn entwickelte.

"ChatGPT will uns helfen", sagte Dant. "Ich habe festgestellt, dass, wenn Sie Ihren Eingabeaufforderungen wirklich einen pädagogischen Dreh geben, es höchstwahrscheinlich nicht erkennt, was Ihre endgültigen Absichten sind, und Ihnen tatsächlich hilft, die Erstellung eines Ransomware-Skripts zu automatisieren."

Dieses Beispiel ist nur einer von vielen KI-Anwendungsfällen, die Bedrohungsakteure täglich entdecken und nutzen, um das Volumen und die Auswirkungen von Angriffen zu beschleunigen. Wie Adjei fachmännisch zusammenfasste: "Ziemlich cool, aber ziemlich beängstigend."

Wie Sicherheitsverantwortliche auf KI-Risiken reagieren sollten

Trotz der Angst, die KI in der Cybersicherheit auslöst, waren sich Adjei und Dant einig, dass es eine Menge gibt, was Unternehmen tun können, um sich vor dem nächsten potenziellen Angriff zu schützen. Das Wichtigste ist, zu den Grundlagen zurückzukehren.

"Die erste Reaktion vieler CISOs und Sicherheitsverantwortliche war: 'KI wird von den bösen Jungs genutzt, also brauchen die Guten auch mehr KI'", sagte Adjei, "aber das stimmt nicht unbedingt."

Dant stimmte dem zu und erklärte, dass KI zwar immer wichtiger wird, wenn es darum geht, Daten zu analysieren und Aufgaben mit der gleichen Geschwindigkeit zu erledigen, wie sich Angreifer bewegen, aber der beste Weg, sich auf KI-Angriffe vorzubereiten, darin besteht, eine gute Cyberhygiene zu gewährleisten.

"Das erste Prinzip ist, zu den Grundlagen zurückzukehren", sagte Dant. "Letztendlich werden gute Cyber-Hygiene, Lateral Movement Prevention und Zero-Trust-Prinzipien in Zukunft noch mehr an Gültigkeit gewinnen."

Unabhängig davon, wie sich KI-generierte Angriffe entwickeln, werden die wichtigsten Sicherheitsgrundsätze bestehen bleiben. "Es ist wichtig, dass sich Sicherheitsverantwortliche angesichts der KI nicht überfordert fühlen", sagte Dant.

Für die Zukunft ermutigen sowohl Adjei als auch Dant Sicherheitsverantwortliche, sich auf den Aufbau von Cyber-Resilienz und die Eindämmung von Sicherheitsverletzungen zu konzentrieren, die auf Zero-Trust-Sicherheitsstrategien abgestimmt sind.

Sehen Sie sich das vollständige Webinar an, um zu sehen, wie ChatGPT es Angreifern unglaublich einfach macht, Ransomware mit KI zu erstellen.

Kontaktieren Sie uns noch heute , um mehr über den Aufbau von Resilienz gegen KI-Angriffe mit der Illumio Zero Trust Segmentation Platform zu erfahren.