KI im Cyberspace (Studie)

Wichtige Grundlagen der modernen Informatik und der Entwicklung künstlicher Intelligenz legte Alan Turing 1936 mit dem Konzept der Turingmaschine.

Damit konnte er beweisen, dass Maschinen die Fähigkeit besitzen, kognitive Prozesse auszuführen.

Der Informatiker John McCarthy schlug hierfür 1955 den Begriff „künstliche Intelligenz" vor. Ziel war es, Systeme zu entwickeln, die Aufgaben übernehmen können, für deren Bewältigung menschliches Denken oder Intelligenz erforderlich ist.

KI-Systeme in der IT-Sicherheit

Hierbei unterscheidet man zwischen der offensiven Seite (Phishing, Social Engineering) sowie der defensiven Seite (KI-gestützte Erkennung, Anomalieerkennung).

„Social Engineering", also die Nutzung von Psychologie und Manipulation des Menschen, um an wertvolle Informationen oder Geld zu kommen.

KI-Tools senken erheblich die Einstiegshürden für Hackerangriffe, vermehrt in den Bereichen Phishing, Vishing, Smishing, betrügerische Supportanrufe und CEO-Betrug.

Durch LLMs wie ChatGPT lassen sich in kurzer Zeit Phishing-Nachrichten ohne aufwendige Recherchen durchführen.

Dadurch können beliebige individuelle, sprachlich überzeugende Phishing-E-Mails erstellt werden, die sich von Ham (erwünschte Mail) nur noch geringfügig unterscheiden lassen.

Besonders fällt auf, dass KI-Modelle die Fähigkeit aufweisen, Dialekte zu erzeugen.

Deep Fakes stellen ein weiteres Risiko dar. Mithilfe von etwa 30 Sekunden Sprach- und einem Frontalfoto einer Person lässt sich in wenigen Stunden ein täuschend echtes Deepfake-Video erstellen.

Bei der Suche nach Schwachstellen kann KI genutzt werden, um in sehr großen Datenmengen binnen kurzer Zeit Muster zu erkennen und diese aufzuwerten – dadurch werden neue Zero-Day-Angriffe immer wahrscheinlicher.

Veränderung der Softwareentwicklung

Künstliche Intelligenz verändert die Entwicklung von Software stark, ersetzt Entwickler jedoch nicht. Fachwissen und Verständnis über Programmiercode bleiben unverzichtbar. KI-generierter Code muss auf Sicherheitslücken, Wartbarkeit und Einhaltung von Unternehmensstandards geprüft werden.

Vibe Coding eignet sich vor allem für schnelle Prototypen. Produktive Software erfordert hingegen menschliche Kontrolle, vordefinierte Prozesse und Qualitätsprüfungen.

Chancen durch KI

KI kann auch sehr gut dafür eingesetzt werden, um KI-erzeugte Inhalte zu erkennen. Big Tech, wie Meta oder Alphabet, nutzen bereits im großen Stil automatisierte KI-gestützte Mechanismen, um Bots oder illegale Inhalte auf deren Plattformen zu unterbinden.

Zudem bietet KI eine umfassende Früherkennung und gezielte Abwehr von Cyberangriffen als noch vor wenigen Jahren.

Die Arbeit eines SOC-Teams wird durch KI zunehmend erleichtert. Analystinnen und Analysten können sich gezielt auf priorisierte Bedrohungen konzentrieren, während weniger gravierende oder eindeutig falsch-positive Meldungen nachrangig behandelt werden.

Auch bei der digitalen Forensik, also um beispielsweise Straftaten im Internet aufzuklären, und den damit verbundenen Datenmengen und komplexen Metadaten wird zunehmend KI als Hilfsmittel bei der Analyse bieten.