Obwohl es ein warmer Tag Anfang Mai ist, trägt Vinod Khosla ein schlichtes schwarzes Roll­kragenshirt und einen Blazer – und überblickt den voll besetzten Zuschauerraum im Inneren des US-Kapitols, bevor er die Einsätze für die ­bevorstehende Debatte festlegt. «Das Rennen um die KI zu gewinnen bedeutet wirtschaftliche Macht, die es einem ermöglicht, die Sozialpolitik oder Ideologien zu beeinflussen.» Khoslas nächster Punkt – dass Chinas wachsende KI-Kompetenz sich als Bedrohung für die kommenden US-Wahlen erweisen könnte – findet Anklang bei der kampfeslustigen Gemengelage aus Kongress­mitarbeitern und Politikexperten, die sich im Saal der ganztägigen KI- und Verteidigungskonferenz des Hill & Valley Forums versammelten. Die Auswirkungen der KI auf die nationale Sicherheit, insbesondere in den Händen der Gegner Amerikas, spielen hier eine grosse Rolle. Doch Khoslas Worte sind mit einem Aufruf zum Handeln verbunden, die führenden KI-Modelle vor einer breiteren Nutzung zu schützen, was ihn mitten in eine erbitterte Debatte im Silicon Valley bringt.

Der ehemalige CEO von Sun Microsystems und Gründer von Khosla Ventures sowie seine Investoren- und Unternehmerkollegen sind sich grundsätzlich einig: Künstliche Intelligenz hat eine technologische Revolution eingeläutet, die mit der des Grossrechners oder PCs vergleichbar ist – oder sogar, wie sein Milliardärskollege und Greylock-Partner Reid Hoffman es ausdrückt, mit der des Automobils oder der Dampfmaschine. Ein billiger virtueller Arzt auf jedem Smartphone, ein kostenloser Nachhilfelehrer für jedes Kind: KI kann als grosser Gleichmacher dienen, als defla­tionärer Cheat-Code, der Leben retten und Armut reduzieren kann. «Wir können die Menschen von der Knechtschaft von Jobs, in denen sie 40 Jahre lang täglich acht Stunden am Fliessband arbeiten, befreien», sagt der 69-jährige Khosla.

Aber solche Träume könnten einen schrecklichen Preis haben, mit unvorhergesehenen Konsequenzen, die möglicherweise weitaus schlimmer sind als jene, die frühere Wendepunkte in der Technologie begleiteten – wie etwa ein dystopisches KI-Wettrüsten mit China. Wenn uns ­soziale Medien soziokulturelle Kriege und die Verwendung der «Wahrheit» als Waffe bescheren, welcher Kollateralschaden könnte dann mit KI einhergehen?

Für Khosla, Hoffman und eine Gruppe einflussreicher Technologieführer gibt es einen klaren Weg, bedauerliche, unbeabsichtigte Folgen abzumildern: Man muss die Entwicklung von KI kontrollieren und regeln, wie sie eingesetzt wird. Die Giganten Google und Microsoft sind mit an Bord, ebenso wie der Chat-GPT-Hersteller Open AI, bei dem sowohl Khosla als auch Hoffman zu den frühen Investoren gehörten. Ihre Ansicht, dass Leitplanken notwendig sind, um das utopische Potenzial von KI auszuschöpfen, findet auch bei US-Präsident Joe Biden Gehör, dem das VC-Duo als Geldgeber zur Seite steht. Sie fand auch beim französischen Präsidenten Emmanuel Macron Anklang, der Hoffman im vergangenen Herbst zum Frühstück einlud, um über das zu sprechen, was er eine neue «Dampfmaschine des Geistes» nennt. «Wie helfen wir möglichst vielen guten Menschen, wie Ärzten, und möglichst wenigen schlechten Menschen, wie Kriminellen?», sinniert der 56-jährige Reid Hoffman, der u. a. auch Mitbegründer von Linkedin ist, über diese Herausforderung. «Meiner Ansicht nach müssen wir den schnellsten Weg finden, intelligente Risiken einzugehen, während wir den technologischen Fortschritt weiter beschleunigen.»

Doch eine immer lauter werdende Fraktion unternimmt alles, um Khosla, Hoffman und ­alles, wofür sie stehen, zu behindern. Angeführt wird sie von Marc Andreessen, 52, dem Mitbegründer von Netscape und der Risikokapitalgesellschaft A16Z. Innerhalb von Andreessens Partnerschaft und ihrer Gruppe von Open-Source-Absolutisten, zu der die CEOs der Open-Source-KI-Start-ups Hugging Face und Mistral, Meta-Chef-KI-Wissenschaftler Yann LeCun und Tesla-CEO und X-Besitzer Elon Musk (manchmal) gehören, wird das Gerede von Katastrophen und staatlichen Risiken oft als schamloses Spiel der frühen Machthaber der KI angesehen, um diese Macht zu behalten.

«Es gibt kein Sicherheitsproblem. Die existenziellen Risiken bestehen bei der aktuellen Technologie nicht», sagt LeCun. «Wenn man den Lead innehat, sagt man, man müsse regulieren, weil es gefährlich sei – und hält damit alles unter Verschluss, um seine Position nicht zu gefährden», stimmt auch Martin Casado, ein Kollege von Andreessen und KI-Investor, zu. «Das ist eine klassische Regulierungshaltung. Das ist die Rhetorik, die die Leute benutzen, um Dinge zu unterbinden.»

Stattdessen malen sich Andreessen und seine Verbündeten ein Best-Case-Szenario aus, in dem KI-Krankheiten verhindert werden und von Künstlern bis Geschäftsleuten alle mit einem KI-Assistenten arbeiten können, der ihre Arbeit erleichtert. In Kriegen ohne blutige mensch­liche Fehler wird es weniger humane Opfer geben, überall werden durch KI erweiterte Kunstwerke und Filme auftauchen. In einem Manifest, in dem er im letzten Jahr seine Position darlegte, träumt Andreessen, der eine Interviewanfrage für diesen Artikel abgelehnt hat, von einem Open-Source-Paradies ohne regulatorische Hürden, die die Entwicklung von KI bremsen, und ohne bürokratische Schutzgräben, die Grosskonzernen die Konkurrenz von Start-ups vom Leibe halten.

Die drei milliardenschweren Akteure Hoffman, Khosla und Andreessen erscheinen in diesem Jahr auf der Midas-Liste der weltweit führenden Technologieinvestoren für Investitionen, die über KI hinausgehen: Hoffman auf Platz acht, Khosla auf Rang neun und Andreessen auf Platz 36. Aber in der Kategorie der aufstrebenden Technologien ist ihr Einfluss am deutlichsten zu spüren. Diese prominenten Anführer der jüngsten Tech-Revolution vertreten ihre Ansichten zu den kommenden Schlüsselthemen vehement: Sichere Innovation oder wettbewerbsfeindliche Verschwörung? Techno-Utopie oder chaotischer Wilder Westen? Wenn man mit den selbst ernannten Sprechern beider Lager spricht, findet man weitgehend gegensätzliche Ansichten. Für «Beschleuniger» wie Andreessen ist jeder, der bei Kurven langsamer fahren will, wie etwa Reid Hoffman es vertritt, ein «Bremser». Akademiker und intellektuelle Anführer, die KI als existenzielle Bedrohung für die Menschheit bezeichnet haben, sind für Andreessen «Schwarzseher». Reid Hoffman hingegen behauptet, er habe sich schon lange vor Andreessen als Techno-Optimist bezeichnet. «Ich schätze es, dass Marc die Werbe­trommel rührt», sagt er. «Ich bin in Bezug auf Open Source viel differenzierter als er.»

Worin sie sich jedoch einig sind: ­Welches Argument sich auch durchsetzt, es wird die ­Zukunft dessen beeinflussen, was Andreessen als «wahrscheinlich das Wichtigste und Beste, das unsere Zivilisation je hervorgebracht hat» bezeichnet. Und unabhängig davon lässt sich ­damit eine Menge Geld verdienen.

Im Mai 2023 erschien Open-AI-CEO Sam ­Altman auf dem Capitol Hill zu einer Sitzung ­eines Senatsunterausschusses zum Thema KI. Der Kern seiner Botschaft: Reguliert uns! Für seine Gegner war dies der Moment, auf den sie gewartet hatten, um ihre Maske abzunehmen.

Drei Monate zuvor hatte Elon Musk, der Open AI mitbegründet und finanziert hatte, als es noch eine gemeinnützige Open-Source-Organi­sation war, auf X die jüngste milliardenschwere Kapitalspritze von Microsoft angeprangert: Von seinen gemeinnützigen Wurzeln habe sich Open AI zu einem «Closed-Source-Unternehmen mit maximalem Gewinn entwickelt, das effektiv von Microsoft kontrolliert wird», so Musk.

Für Khosla und Hoffman – die sich mindestens einmal mit Altman getroffen haben, um über die Strategie zu sprechen, sich ansonsten aber in getrennten Kreisen bewegen – ist Open AIs Kompromissbereitschaft der richtige Weg, Dinge zu erledigen. Ob Hoffman nun mit Biden, Papst Franziskus oder der US-Handelsministerin Gina Raimondo spricht, mit der er in den letzten Monaten häufig zusammengearbeitet hat, ihre Fragen sind ähnlich: Wie wird sich das Leben der Wähler durch KI verändern? Was geschieht mit ihren Arbeitsplätzen? Wann sollten sie sich über Vorteile freuen oder Risiken fürchten? «Die Verantwortlichen müssen zeigen, dass sie verstehen, was ihr Hauptziel von KI ist, oder dass die Menschen darauf vertrauen können, dass sie es herausfinden werden», sagt Hoffman. «Wenn Sie (als Experten; Anm.) einer Regierung sagen: ‹Gehen Sie mir aus dem Weg!›, dann helfen Sie damit niemandem.»

Eine Flut von Podcast-Auftritten, Linked­in-Posts und sogar ein KI-gestütztes Buch zu diesem Thema helfen Hoffman zu zeigen, dass er in seinen Positionen konsequent ist, sagt er. Wichtig sei auch zu akzeptieren, dass viele Bürger – von Künstlern und Akademikern bis hin zu Geschäftsleuten und Wissenschaftlern – die Ansicht, dass die Entwicklung von KI überhaupt eine gute Sache ist, möglicherweise nicht teilen. Aufgrund mancher Science-Fiction-Werke denken viele, dass KI, wenn etwas schiefgeht, für Killer­roboter steht, oder für eine übermenschliche Intelligenz, die beschliesst, die Menschheit auszu­löschen. «Ich kann die Sorgen rund um KI sehr gut nachvollziehen», sagt Hoffman. «Aber das ist, als würde man sagen: ‹Ich möchte nicht, dass die Gebrüder Wright in die Luft gehen, bis wir wissen, wie wir Flugzeugabstürze vermeiden können.› So funktioniert es einfach nicht.»

Khosla sagt, er und Hoffman seien in ihren politischen Ansichten «an sehr ähnlichen Punkten». «Ich denke, ein ausgewogener Ansatz, der das Risiko senkt und gleichzeitig die Vorteile bewahrt, ist besser für die Gesellschaft», sagt er. Als Co-Moderator der Silicon-Valley-Spendenaktionen für Joe Biden im aktuellen Wahlkampf reichte er im Oktober beim US-amerikanischen Copyright Office einen Kommentar ein, in dem er das Training von KI-Modellen mit urheberrechtlich geschütztem Material (mit «Opt-outs») verteidigte. Deshalb versuchen viele Tech-Manager diesmal, nett zu sein, auch wenn sie mit dem Open-Source- und Start-up-zentrierten Ethos sympathisieren, das lange Zeit das Herzstück des Silicon Valley war: Sie glauben, es sei besser, sich jetzt selbst Bundesvorschriften aufzuerlegen, als es Staaten wie Kalifornien zu überlassen, ihre eigenen Vorschriften durchzusetzen – oder, noch schlimmer, der rigorosen Europäischen Union, die im März ihr erstes KI-Gesetz verabschiedet hat.

«Ich kann Ihnen gar nicht sagen, wie oft ich mit jemandem spreche, der sagt: ‹Martin, ich stimme Ihnen zu, aber sie werden etwas regulieren, also geben wir ihnen ein bisschen. Wir werden einen Verlust hinnehmen, also diktieren wir den Verlust›», sagt Casado. «Die Debatte ist hilfreich, weil sie die Leute zwingt, ihre Positionen niederzuschreiben», so Jack Clark, Mitbegründer von Anthropic. «Das Silicon Valley engagiert sich klassischerweise zu wenig in der Politik, bis es viel zu spät ist.»

«Zeigen Sie mir die Anreize, und ich zeige Ihnen das Ergebnis» – diese Idee, die dem verstorbenen legendären Investor Charlie Munger zugeschrieben wird, fasst Sequoias Position in dieser Auseinandersetzung zusammen, sagt Partner Pat Grady (Midas Nr. 81), der sowohl in Hugging Face und Open AI als auch in das Juristische-KI-Software-Start-up Harvey investiert hat.

Natürlich steckt in den Positionen von Hoffman, Khosla, Andreessen und anderen an der ideologischen KI-Front eine gehörige Portion ­Eigeninteresse – Khoslas früherer 50-Mio.-US-$-Scheck an Open AI könnte schliesslich das Hundertfache wert werden. Er hat auch Unternehmen in Japan und Indien unterstützt, wie etwa Sarvam AI aus Bengaluru, die ihre eigenen, souveränen Modelle entwickeln. Ein zusätzlicher Vorteil: Diese Unternehmen fungieren als Bollwerk gegen Chinas Einfluss. «Das ist einer der Gründe, warum wir Sarvam AI gegründet haben: um ein KI-Öko­system in unserem Land zu schaffen, damit wir nicht von China oder den USA abhängig sind», sagt CEO Vivek Raghavan.

Hoffman investierte über seine Stiftung in die gemeinnützige Organisation von Open AI, nicht über sein Unternehmen Greylock. Aber er hat enge Verbindungen zu Microsoft, das Linkedin für 26 Mrd. US-$ übernommen hat und wo er im Vorstand sitzt. Darüber hinaus war Hoffman ein wichtiger Vermittler für Microsofts enge Beziehung zu Open AI: Monate vor der milliardenschweren Investition des Tech-­Giganten im Januar 2023 hatte Hoffman ein Treffen der Führungskräfte beider Unternehmen, darunter Altman und Microsoft-CEO Satya Nadella, im Haus des Mitbegründers Bill Gates anberaumt. Er hat auch mit dem Unicorn Adept AI zusammengearbeitet, einem von Greylock unterstützten Start-up, das insgesamt 415 Mio. US-$ für den Aufbau von KI-Arbeitsassistenten aufgebracht hat; und im Jahr 2022 gründete Hoffman zusammen mit seinem engen Freund und Google-Deepmind-Mitbegründer Mustafa Suleyman – der das Unternehmen kürzlich verliess, um die Verbraucher-KI-Bemühungen bei Microsoft zu leiten – Inflection AI.

Andreessen sagte, er gehe davon aus, dass ­chinesische Agenten bereits jede Nacht Updates von Amerikas führenden KI-Unternehmen herunterladen. Den Modellzugriff einzuschränken wäre daher so, als würde man die Haustür ver­riegeln, wenn die Diebe im Haus sind. Statt­dessen, argumentiert er, sollten die USA ihre «volle Macht» nutzen, um die amerikanische KI-Dominanz ­voranzutreiben – einschliesslich des Exports nach China selbst.

Für Hoffman und die Leute im Lager der Regulierungsbefürworter ist die Möglichkeit, dass andere ein Modell als Waffe einsetzen, kein Grund, selbst «den Schlüssel im Zündschloss ­eines Panzers» zu lassen, wie es Clark von Anthropic ausdrückt. Die USA können, selbst wenn sie ihre Gegner beim Zugang zu hochmodernen Modellen einschränken, nicht verhindern, dass diese selbst technologische Durchbrüche schaffen; ganz zu schweigen davon, was sie damit anstellen könnten, argumentiert Khosla. Und was den globalen Einfluss angehe, werden weiterhin viele Open-Source-KI-Tools verfügbar sein, fügt er hinzu, und die anderen seien kommerziell ­lizenzierbar.

Kommt also eine Zukunft voller wilder Innovationen mit unvorstellbaren Folgen oder eine erstickte Technologielandschaft, in der Innova­tionen von einigen wenigen Übervorsichtigen gehemmt werden? Keine der beiden Seiten glaubt, dass die Zukunft des jeweils anderen realistisch ist. Aber alle spüren die Dringlichkeit in der ­Sache – sei es, um die Diskussion mit den Gesetz­gebern zu gestalten oder um sicherzustellen, dass weniger einflussreiche Interessenvertreter nicht zurückgelassen werden. Fei-Fei Li, eine Pionierin auf diesem Gebiet und Co-Direktorin des Stanford Institute for Human Centered AI, sagt, sie sei «echt besorgt» darüber, was regulatorische Einschränkungen für die Wissenschaft und den öffentlichen Sektor bedeuten: «Selbst in einem Regenwald müssen die grossen Bäume hin und wieder Wege finden, das Sonnenlicht in die un­teren Schichten zu lassen, damit die Blumen stärker blühen können», warnt Li.

Hoffman ist optimistischer: «Das Spiel ist im Gange, und wir alle wollen sicherstellen, dass das Richtige für die Menschheit dabei herauskommt», betont er. «Ich denke, es ist noch sehr früh, und jeder, der glaubt, er wüsste, wie die Politik jetzt aussehen sollte, macht sich etwas vor.» Und er fügt hinzu: «Wir müssen einfach gemeinsam lernen.»

Auch Andreessen ist ideologisch und finanziell involviert. Er sitzt im Vorstand von Meta, das seinen GPT-3-Konkurrenten Llama als Open Source freigegeben hat, dessen neueste Versionen im April unter grossem Beifall veröffentlicht wurden. Im vergangenen Dezember leitete A16Z eine über 400 Mio. US-$ schwere Investitionsrunde in seinen angesagtesten Open-Source-Herausforderer, das in Paris ansässige Unternehmen Mistral. Gleichzeitig arbeitete das 27-köpfige Team von A16Z-internen Rechts- und Politikexperten an ­einem öffentlichen Kommentar an die FTC und an einem offenen Brief an die Biden-Regierung, in denen vor den Auswirkungen ihrer Executive Order auf Open-Source-Start-ups wie Mistral gewarnt wird.

«Die Schwarzseher gewinnen. Sie sind viel besser organisiert», sagt der ehemalige Midas-Listmaker und Benchmark-Investor Bill Gurley, der glaubt, dass Google, Microsoft, Open AI und Anthropic darüber erschrocken sind, wie schnell Open-Source-Alternativen aufholen, was die Gefahr birgt, dass ihre teuren Modelle zur Massenware werden. «In Washington hat es mit Ausnahme von Sam Bankman-Fried (der verurteilte ehemalige CEO der bankrotten Kryptobörse FTX; Anm.) keine konzertierten Anstrengungen rund um neue Technologien gegeben», sagt Gurley.

Bei Open AI lacht COO Brad Lightcap über solche Anschuldigungen und sagt: «Ich weiss nicht, ob ich dem zustimmen würde, aber wir sind daran gewöhnt.» Microsofts Suleyman entgegnet, dass sie zwar «ein paar Grad nach links oder rechts» streiten mögen, aber Technologieführer, die das Potenzial von KI unterstützen, letztlich auf demselben Schiff sitzen. (Google antwortete nicht auf eine Bitte um einen Kommentar; Anm.) Doch die Augen des normalerweise sorgfältig diplomatischen Hoffman blitzen bei Gurleys Grossspurigkeit auf. «Ich hätte Bill gern elf Jahre lang im Mozilla-Vorstand bei mir gehabt, wenn er seine Worte in Taten umgesetzt hätte», sagt er Forbes.

Eigeninteressen zu folgen sei natürlich ein grosser Teil der treuhändischen Verantwortung eines börsennotierten Unternehmens, bemerkt Mike Volpi (Midas Nr. 33), Partner bei Index Ventures und Vorstandsmitglied des geschäftsorientierten KI-Modell-Einhorns Cohere. Volpi sagt, er sehe die Sorge, dass die grössten Modellbauer ihren Einfluss nutzen; aber als die beliebtesten Anbieter solcher Tools bei den Verbrauchern, bemerkt er, werden sie natürlich auch versuchen, die Ängste breiter Bevölkerungsschichten auszuräumen, die nicht davon überzeugt sind, dass KI insgesamt eine so gute Sache ist. «Sie haben viel mehr Feuerkraft, aber sie dienen auch mehr Menschen», sagt er.

Und dann ist da noch Musk. Als ­lautstarker Befürworter der Open-Source-Seite forderte der zeitweise reichste Mann der Welt im März 2023 aus Sicherheitsgründen eine sechsmonatige Pause bei der Entwicklung von KI. Es geschah nichts, und vier Monate später kündigte Musk seinen eigenen Open-AI-Konkurrenten «X.ai» an und verklagte dann seine ehemaligen Mit­arbeiter, weil sie «von ihrer Mission abgewichen» ­waren. Berichten zufolge näherte sich «X.ai» im Mai ­einer Bewertung von 18 Mrd. US-$, etwa auf ­Augenhöhe mit Anthropic.

Wie ein Gründer im Publikum von Khoslas Vortrag in Washington gegenüber Forbes bemerkte, zeigt sich Ironie in diesem Spiel: Die­jenigen, die hinsichtlich der Fähigkeiten von KI am optimistischsten sind, sind oft diejenigen, die sich am meisten Sorgen über ihren Missbrauch machen. Für sie könnte die Sperrung ihrer führenden Modelle und die Schaffung eines Regulierungsrahmens jetzt buchstäblich Leben oder Tod für Millionen bedeuten. Ihre Rivalen, die diese Ängste für übertrieben halten, sind sich wohl eher darüber im Klaren, wie dramatisch die Auswirkungen von KI sein werden.

«Entweder ist KI eine grosse, beängstigende existenzielle Bedrohung und die grossen KI-Labore müssen sofort verstaatlicht und militarisiert werden», schrieb Andreessen im März, «oder KI ist nur Software und Mathematik und die Panik­mache und Lobbyarbeit für eine Regulierung muss aufhören. Entweder das eine oder das ­andere!»

Text: Alex Konrad
Illustration: Zohar Lazar für Forbes
Foto: Guerlin Blask für Forbes
Foto: Ethan Pines für Forbes