Microsoft-Mitgründer Bill Gates warnt vor den möglichen Folgen eines missbräuchlichen Einsatzes künstlicher Intelligenz. In einem Interview mit der US-Sendung „Meet the Press“ erklärte der Milliardär und Philanthrop, KI sei inzwischen „mächtig genug“, um Entwicklungen auszulösen, die eine Milliarde Todesopfer verursachen könnten.

Besonders problematisch sei die Verbindung aus moderner KI und Menschen mit schädlichen Absichten. Eine vergleichbar mächtige Kombination habe es bislang nicht gegeben, sagte Gates. Gleichzeitig sprach er sich für klare gesetzliche Regeln aus. Eine alleinige Selbstregulierung der Technologieunternehmen reiche seiner Ansicht nach nicht aus. Politik und Strafverfolgungsbehörden müssten sich mit der Frage beschäftigen, welche Schutzmechanismen und Kontrollsysteme notwendig seien.

Damit reagierte Gates auch auf die Debatte um die Geschwindigkeit der KI-Entwicklung. Anthropic-CEO Dario Amodei hatte zuletzt dafür plädiert, dass führende KI-Unternehmen ihr Entwicklungstempo reduzieren und gemeinsam Sicherheitsstandards festlegen. Auch Amodei fordert eine stärkere Rolle der Politik, weist jedoch darauf hin, dass Gesetzgebungsverfahren deutlich langsamer voranschreiten als die technologische Entwicklung. Wie die US-Regierung bei der Regulierung künstlicher Intelligenz weiter vorgehen wird, ist derzeit offen. Präsident Donald Trump hat sich wiederholt gegen weitreichende Einschränkungen für KI ausgesprochen. Gleichzeitig wird innerhalb des Kongresses über mögliche Sicherheitsvorgaben diskutiert.

Geplant ist zudem ein Treffen zwischen Trump, dem republikanischen Vorsitzenden des Repräsentantenhauses Mike Johnson und Vertretern der KI-Branche. Welche Unternehmen daran teilnehmen und welche Themen konkret behandelt werden sollen, war zunächst nicht bekannt. Auch im Senat gibt es Überlegungen für neue Vorgaben. Ein bereits 2023 vorgestellter Gesetzesentwurf sah unter anderem Zertifizierungen für besonders wichtige KI-Systeme, Transparenzregeln für generativ erzeugte Inhalte sowie verpflichtende Risikoanalysen für Unternehmen vor. Zudem sollte die Regierung stärker untersuchen, wie sich KI-generierte Inhalte erkennen und welche Sicherheitsmechanismen für die Branche etablieren lassen.

Die Diskussion über KI-Sicherheit hat sich zuletzt weiter verschärft. Anfang September hatte der ehemalige Anthropic-Mitarbeiter Jacob Coxon das Unternehmen verlassen und öffentlich erklärt, Menschen, die an fortgeschrittener künstlicher Intelligenz arbeiten, hielten es tatsächlich für möglich, dass die Technologie zu einer existenziellen Gefahr für die Menschheit werden könnte.

Auch Evan Hubinger, verantwortlich für Alignment-Forschung bei Anthropic, äusserte sich öffentlich zu dem Risiko und erklärte, er sehe eine Wahrscheinlichkeit von mehr als 10 %, dass KI innerhalb des kommenden Jahrzehnts zur Auslöschung der Menschheit führen könnte. Diese Einschätzung ist eine persönliche Risikobewertung und keine wissenschaftlich gesicherte Prognose. Vor diesem Hintergrund haben Google, Anthropic und OpenAI begonnen, ihre Zusammenarbeit beim Thema KI-Sicherheit auszubauen. Auch OpenAI-CEO Sam Altman und Anthropic-Chef Amodei sprachen sich zuletzt vor den Vereinten Nationen für internationale Zusammenarbeit und gemeinsame Standards beim Umgang mit künstlicher Intelligenz aus.

Text: Alison Durkee
Foto: World Economic Forum