IT Security März/April

IT SECURITY | 41
hin zur Entdeckung von Sicherheitslücken
und vielem mehr.
Mit den bahnbrechenden Fortschritten
in der Technologie sind jedoch auch
die unvermeidlichen Sicherheitsbedenken
nicht weit entfernt. Während
ChatGPT bemüht ist, böswillige Inhalte
einzuschränken, sieht die
Realität so aus, dass Cyber-Kriminelle
bereits nach Möglichkeiten
suchen, das Tool für
schadhafte Zwecke zu nutzen.
Es ist zum Beispiel nicht
schwer, realistische Phishing-
E-Mails oder Exploit-Code zu
erstellen, indem man einfach
die Benutzereingabe ändert
oder die erzeugte Ausgabe
leicht anpasst.
Die Kehrseite der Medaille
Während textbasierte Angriffe wie Phishing
weiterhin das Social Engineering
dominieren, wird die Entwicklung von
datenwissenschaftlichen Tools unweigerlich
zu anderen Medien führen, einschließlich
Audio und Video, die ebenso
effektiv sein könnten. Darüber hinaus
könnten Bedrohungsakteure versuchen,
Datenverarbeitungs-Engines so zu verfeinern,
dass sie ChatGPT nachahmen,
während sie gleichzeitig Beschränkungen
aufheben und sogar die Fähigkeiten
dieser Tools zur Erstellung
bösartiger Ergebnisse
verbessern.
Das Potenzial
Auch wenn Bedenken
hinsichtlich
der
Cyber-Sicherheit
aufgekommen
sind, darf
nicht vergessen
werden, dass dieses
Tool ein noch
größeres Potenzial
hat Gutes zu tun. Es kann
unter anderem dazu beitragen, kritische
Programmierfehler zu erkennen,
komplexe technische Konzepte in einfacher
Sprache zu beschreiben und
sogar Skripte und widerstandsfähigen
Code zu entwickeln. Forscher, Hochschulen
und Unternehmen in der Cyber-Sicherheitsbranche
können sich die
Vorteile von ChatGPT für Innovation
und Zusammenarbeit zunutze machen.
Daher wird es interessant, diese Entwicklung
für computergenerierte Inhalte
zu verfolgen, da es die Fähigkeiten
sowohl für gutartige als auch für bösartige
Absichten verbessert.
Die Lücken
Sicherheitsforscher von Check Point Research
(CPR) haben just in Experimenten
herausgefunden, dass ChatGPT
auch dafür verwendet werden könnte,
bösartige Mails und Code zu generieren
und so mit wenig Aufwand ausgefeilte
Cyberangriffe zu initiieren. Das ist
natürlich weniger schön.
Sie warnen vor Hackern, die ChatGPT
und Codex von OpenAI nutzen könnten,
um gezielte und effiziente Cyberangriffe
durchzuführen. CPR hat in
experimentellen Korrespondenzen getestet,
ob sich mithilfe des ChatBots
schädlicher Code zur Initiierung von
Cyberangriffen erstellen ließe. ChatGPT
(Generative Pre-trained Trans former)
ist ein frei nutzbarer KI-ChatBot, der
seinen Nutzern auf der Grundlage im
Internet zu findender Daten kontextbezogene
Antworten liefern kann. Bei
Codex wiederum handelt es sich um
eine ebenfalls von OpenAI entwickelte
Künstliche Intelligenz, die in der
Lage ist, natürliche Sprache in Code
zu übersetzen.
Das Vorgehen verlief wie folgt:
➤ CPR verwendete ChatGPT, um eine
Phishing-E-Mail zu erstellen, die sich
als Hosting-Unternehmen ausgab
➤ CPR wiederholte ChatGPT, um eine
Phishing-E-Mail zu verfeinern und
die Infektionskette zu erleichtern
➤ CPR verwendete ChatGPT, um
VBA-Code zum Einbetten in ein Excel-Dokument
zu generieren
Mit ChatGPT
Infektionsketten erzeugen
Um die Gefahren beider Technologien
zu demonstrieren, hat CPR ChatGPT
und Codex verwendet, um bösartige
E-Mails, Code und eine vollständige
Infektionskette zu erzeugen, die die
Computer von Nutzern angreifen kann.
CPR dokumentiert seine Korrespondenz
mit ChatGPT in einer neuen Veröffentlichung
mit Beispielen für die erzeugten
Inhalte. Das Ergebnis unterstreicht, wie
wichtig es ist, wachsam zu sein, da die
Entwicklung von KI-Technologien wie
ChatGPT die Cyber-Bedrohungslandschaft
erheblich verändern kann.
Mit ChatGPT von Open AI konnte CPR
eine Phishing-E-Mail mit einem angehängten
Excel-Dokument erstellen,
das bösartigen Code zum Herunterla-
www.it-daily.net | März/April 2023