OpenAI will „bald“ sein bislang fortschrittlichstes KI-Modell für Cybersicherheit veröffentlichen. Einen konkreten Termin für den Start von Astra nannte das Unternehmen nicht. Besonders leistungsfähige Funktionen sollen zunächst allerdings nur einer ausgewählten Gruppe von Testern zur Verfügung stehen.

Nach Angaben von OpenAI ist Astra inzwischen in der Lage, bislang unbekannte Sicherheitslücken in gut geschützten Systemen zu erkennen und selbstständig Wege zu entwickeln, diese auszunutzen. Wegen dieser Fähigkeiten seien während der Entwicklung und vor der Veröffentlichung zusätzliche Schutzmechanismen notwendig.

Teile der Entwicklung wurden deshalb verzögert. OpenAI testete unter anderem Massnahmen gegen einen möglichen Missbrauch des Modells und trainierte Astra darauf, schädliche Anfragen zuverlässig abzulehnen. Zum Start sollen die Sicherheitsvorkehrungen bewusst restriktiver ausfallen. Die fortschrittlichsten Funktionen werden zunächst nur einer kleinen Gruppe von Alpha-Testern zugänglich sein.

Astra kann laut OpenAI auch sogenannte Zero-Day-Exploits entwickeln. Dabei handelt es sich um Angriffsmöglichkeiten auf Sicherheitslücken, die den Entwicklern eines Systems noch nicht bekannt sind. Das Modell soll solche Schwachstellen in realen Systemen teilweise ohne menschliches Eingreifen identifizieren und ausnutzen können.

Damit positioniert sich OpenAI gegen Anthropic. Das Unternehmen hatte im April eine Vorschau seines Cybersecurity-Modells Mythos veröffentlicht und den Zugang zunächst auf ausgewählte Partner wie Apple und Nvidia beschränkt. Im Juni folgte eine erste öffentlich verfügbare Version.

Die Fähigkeiten von Mythos hatten zuvor Sorgen über einen möglichen Einsatz für Angriffe auf Finanzdienstleister, Betriebssysteme und Browser ausgelöst. Anthropic kündigte zusätzliche Funktionen zur Erkennung von Missbrauch an und erklärte, gemeinsam mit der US-Regierung den Zugang zu den leistungsfähigeren Funktionen schrittweise ausweiten zu wollen.

Sowohl Astra als auch Mythos können bei bestimmten Cybersecurity-Aufgaben effizienter arbeiten als Menschen. OpenAI und Anthropic betonen zugleich, dass weiterhin menschliche Kontrolle notwendig ist – unter anderem, um Fehler zu korrigieren und den tatsächlichen Kontext eines möglichen Sicherheitsproblems zu beurteilen. Wann Astra allgemein verfügbar sein wird, bleibt offen. OpenAI kündigte lediglich an, das Modell „bald“ veröffentlichen zu wollen.

Text: Antonio Pequeño IV
Foto: Dima Solomin