Wer darf die Regeln für KI festlegen?

Ein Beitrag von Aidan Gomez, Mitgründer und CEO von Cohere

Künstliche Intelligenz verändert die Welt, in der wir leben. Innerhalb einer Generation wird sich die Art und Weise, wie wir Medikamente entdecken, Stromnetze verwalten und unsere nationale Infrastruktur schützen, grundlegend wandeln. Viele Menschen sind sich dessen bereits bewusst und arbeiten daran, diese Zukunft verantwortungsvoll zu gestalten. Viele unterschätzen jedoch das Ausmaß und das Tempo des bevorstehenden Wandels. Einige behaupten sogar, diesen Wandel vorauszusehen und ihn für ihre eigenen Zwecke zu nutzen.

Hier ist die Frage, die niemand klar genug stellt: Soll eine Handvoll ausgewählter, marktbeherrschender KI-Unternehmen aus dem Silicon Valley die Regeln und Sicherheitsstandards einer generationenübergreifenden Technologie für die ganze Welt definieren dürfen? Und das, während sie gleichzeitig bestimmen, wie schnell diese Technologie voranschreitet? Wir haben das schon einmal versucht – mit sehr schlechten Ergebnissen. Unter dem Vorwand, die Öffentlichkeit zu schützen, nutzen diese Oligopole erneut die Angst aus und fordern nun, dass Wettbewerbsregeln aufgeweicht werden und sie die Bedingungen für alle anderen diktieren dürfen. Ein Wolf im Schafspelz, ein Kartell, wie man es auch nennen mag.

Ich glaube an das Potenzial von KI-Technologien, um der Welt Nutzen zu bringen, und ich spiele die Risiken nicht herunter. Ich leite ein Unternehmen, das KI-Systeme entwickelt, die in Banken, Telekommunikationsnetzen und Verteidigungsministerien eingesetzt werden. Dies sind einige der sensibelsten Umgebungen, da Fehler in diesen Sektoren weitreichende Folgen haben können – von der Störung von Finanzsystemen, kritischer Infrastruktur, nationaler Sicherheit bis hin zu essenziellen Dienstleistungen im großen Maßstab. Die gleichen Fähigkeiten, die Schwachstellen in Ihrem Code finden, können sie auch in fremden Systemen finden, und Cyberangriffe werden schneller billiger, als sich die Abwehrmaßnahmen verbessern. Diese Lücke sollte Sie genauso beunruhigen wie uns.

KI braucht Leitplanken. Das war nie umstritten. Der Streit dreht sich darum, wer diese Leitplanken festlegt, wer daran mitwirken darf und wessen Interessen die Regeln schützen sollen. Es geht im Kern darum, ob wir die Freiheit haben sollten, unsere Entscheidungen auf wissenschaftlicher Grundlage zu treffen, oder ob wir die Zügel der folgenreichsten Technologie der Menschheitsgeschichte einer Handvoll Führungskräfte im Silicon Valley überlassen sollten.

Das kennen wir schon

Bevor ich den selbstbezogenen Rahmen zerlege, den die großen Labore propagieren, und Ideen für eine Alternative anbiete, lassen Sie uns ein paar Lehren aus der jüngeren Vergangenheit ziehen und über das Wort nachdenken cartel, denn die Geschichte ist spezifisch und es ist der passende Begriff.

1975 benötigte die Securities and Exchange Commission verlässliche Anleiheratings für ihre Kapitalvorschriften. Sie ernannte drei Unternehmen zu Nationally Recognized Statistical Rating Organizations (NRSROs) und veröffentlichte nie Kriterien, wie andere diese Bezeichnung erlangen könnten. Diese von der Regierung anerkannten externen Bewerter wurden von den Emittenten bezahlt, deren Wertpapiere sie bewerteten – eine Praxis, die hinter einer von der Aufsichtsbehörde selbst errichteten Barriere stattfand. 25 Jahre später gab es immer noch nur drei dieser Bewerter. Dann vergaben sie Subprime-Hypothekenpapieren die Bestnote Triple-A und brachten die globale Wirtschaft damit fast zum Einsturz.

Europa wiederholte das Experiment 1985. Automobilhersteller setzten sich für eine umfassende Kartellrechtsbefreiung, die Motor Vehicle Block Exemption, ein und argumentierten, dass moderne Fahrzeuge komplexe, sicherheitskritische Maschinen seien und die Hersteller daher die Kontrolle darüber benötigten, wer berechtigt war, sie zu verkaufen und zu warten. Die anschließende Verordnung erlaubte es den Herstellern, die Standards für Räumlichkeiten, Ausrüstung und Mitarbeiterschulungen festzulegen, ausdrücklich im Interesse sicherer und zuverlässiger Fahrzeuge. Doch was folgte, waren keine sichereren Autos. Es dauerte etwa fünfundzwanzig Jahre an Reformen der Europäischen Kommission, bis diese Entwicklung rückgängig gemacht wurde und das etabliert wurde, was von Anfang an offensichtlich hätte sein sollen: Es ist möglich, strenge Sicherheitsstandards einzuhalten, ohne den etablierten Unternehmen ein Monopol auf deren Erfüllung zu gewähren.

In keinem der beiden Fälle war es das Ziel, ein Kartell aufzubauen. In beiden Fällen lautete das erklärte Ziel Sicherheit. Das Ergebnis war jedoch eine Markstruktur, die etablierte Unternehmen schützte und den Wettbewerb einschränkte – und das alles unter dem Deckmantel des öffentlichen Interesses. Ich zweifle nicht an der Aufrichtigkeit der Beteiligten: Viele machten sich Sorgen über die Risiken und arbeiteten eifrig daran, sie zu beseitigen. Doch komplexe Probleme lassen sich nicht immer beim ersten Versuch lösen. Jeder verantwortungsbewusste Wissenschaftler, Ingenieur oder Gesetzgeber weiß, dass man aus der Geschichte lernen muss, um neue Probleme zu lösen.

Was wird vorgeschlagen?

Dies führt uns zur diese Woche veröffentlichten Roadmap des Anthropic-CEO Dario Amodei, in der er Regierungen im Namen der Sicherheit um kartellrechtliche Ausnahmen bittet. Diese Roadmap ist die jüngste in einer Reihe von Bemühungen etablierter Silicon-Valley-Unternehmen, die regulatorische Landschaft rund um KI mitzugestalten.

Ich möchte klarstellen, was wir unterstützen. Eine unabhängige Überprüfung hochentwickelter KI-Systeme ist eine gute Idee und wir befürworten sie. Allerdings werfen viele Aspekte des Vorschlags grundlegende Fragen auf: Wer erstellt den Standard, den die Prüfer anwenden? Wer führt die Überprüfung durch oder überwacht sie? Wer darf an der Diskussion teilnehmen, die die Regeln festlegt?

Der Vorschlag ist bei diesen Fragen eindeutig. Eine Handvoll der mächtigsten Labore eines Landes würden sich auf gemeinsame Standards und Grenzen für die Geschwindigkeit des technologischen Fortschritts einigen. Und hier liegt der springende Punkt: Da es für Wettbewerber normalerweise illegal ist, sich auf Produktionsbeschränkungen zu einigen, fordert der Plan von Regierungen eine eng gefasste Kartellrechtsausnahme, um diese Abstimmung rechtmäßig zu machen. Zudem wird von Regierungen verlangt, dass alle anderen KI-Entwickler blindlings das umsetzen, was die Teilnehmer festlegen – obwohl diese Entwickler und die breite Gesellschaft keine Möglichkeit haben, die Auswirkungen zu thematisieren oder ihre Perspektive auf die Wissenschaft einzubringen.

Es geht hier nicht darum, ein oder zwei weitere Unternehmen ins Gespräch einzubinden. Ein zusätzlicher Stuhl löst das Problem nicht. Das eigentliche Problem ist die Existenz einer solchen Liste, wenn die getroffenen Entscheidungen alle Unternehmen, Regierungen und Bürger:innen betreffen, die nie gefragt wurden. Man kann es nicht beiden Seiten recht machen. Wenn dies die folgenreichste Technologie in der Menschheitsgeschichte ist, dann dürfen die Regeln dafür nicht von einer kleinen Gruppe kommerziell ausgerichteter Unternehmen hinter einer Kartellfreistellung festgelegt werden. Es gibt hier keine öffentliche Kommentierung, keine Anhörung und keine Abstimmung. Die Öffentlichkeit wird mit den Ergebnissen leben müssen, egal wie sie ausfallen.

Ein von einigen Laboren entwickeltes Sicherheitssystem wird nur bei den Risiken strenge Maßstäbe anlegen, auf die ihre Sicherheitsmechanismen bereits ausgelegt sind, und alle anderen Aspekte vollständig außer Acht lassen. Dies festigt ihre Marktposition weiter und schränkt den Wettbewerb ein. Risiken in diesen bestehenden Rahmenwerken werden als Funktion der Skalierung definiert, was die Unternehmen mit enormen Systemen zu den einzigen macht, die dazu befugt sind, zu urteilen. Die Arten von Risiken, die als relevant für die Bewertung angesehen werden, sind ebenfalls vorgegeben und nicht Gegenstand wissenschaftlicher Debatten und Abstimmungen. Es gibt beispielsweise in diesem Bereich echte Meinungsverschiedenheiten darüber, wie viel Angriffsfähigkeit von der reinen Modellgröße im Vergleich zu den umgebenden Kontrollmechanismen ausgeht. Gut orchestrierte kleinere Modelle, die Tools und Verifizierungsschritte nutzen, können Dinge tun, die große Modelle nicht können. Ein Cyber-Schwarm stellt eine völlig andere Risikoberfläche dar als ein einzelnes Modell. All das taucht in einem System, das ausschließlich auf massive Rechenleistungsschwellen ausgelegt ist, nicht auf.

Ein Satz in dem Essay würde jede Wettbewerbsbehörde beunruhigen. Er verspricht, dass ein koordinierter Ansatz Entwicklern Zeit für Sicherheitsarbeit gibt, ohne kommerzielle Vorteile zu opfern. Aber wessen Vorteile? Die Unternehmen, die den Rahmen entwerfen, sind die heutigen Marktführer. Ein Mechanismus, der alle bremst und gleichzeitig bestehende kommerzielle Vorteile bewahrt, trägt nicht zur KI-Sicherheit bei. Er riskiert, die heutigen KI-Marktführer zu festigen, indem er ihre aktuellen Vorteile zur Grundlage für sicheren Wettbewerb macht. Sicherheitsregeln sollten Risiken verringern, unabhängig davon, wer den Markt anführt oder wer von den Regeln profitiert.

Die im Vorschlag genannten Zugangsvoraussetzungen sagen den Rest. Enorme Rechenleistung. Kontinuierliche Überwachungsinfrastruktur. Eigene Sicherheitsorganisationen. Vor-Ort-Evaluatorenteams mit Schreibtischen und Ausweisen. Abschaltarchitektur. Regierungsbeziehungen, die tief genug sind, um all dies zu navigieren. Ein Pool „unabhängiger“ Evaluatoren, der bereits bemerkenswert klein ist und von derselben Handvoll Organisationen finanziert wird, auf die sich dieselben Frontier-Labs immer wieder verlassen.

Überzeugt man eine Regierung davon, dass KI eine existenzielle Bedrohung darstellt, kann man sie dazu bringen, den Wettbewerb zu verbieten. Die Absicht ist klar und trägt nicht zu einer sichereren Welt bei.

So sehen bessere Regeln aus

Was ermöglicht also eine sichere und verantwortungsvolle KI-Entwicklung? Um es klar zu sagen: Ich habe nicht auf alle Fragen eine Antwort – und ich glaube auch nicht, dass ich die Regeln festlegen sollte. Stattdessen möchte ich praktische und effektive Ideen vorschlagen, die von Regierungen und Gesetzgebern gemeinsam mit vielen anderen Vorschlägen geprüft werden können, während sie ihre demokratischen Befugnisse nutzen, um die Richtung vorzugeben.

Diese Ideen basieren auf vier Säulen:

1. Ein evidenzbasierter Risikorahmen. Zuerst kommt es darauf an, noch bevor Tests oder Audits vorgeschrieben werden, eine gemeinsame und veröffentlichte Darstellung der Schäden zu erstellen, die uns Sorgen bereiten, welche KI-Funktionen welche Schäden verursachen, unter welchen Bedingungen und in welchen Kontexten, und ab welchem Punkt eine Regierung eingreifen sollte. Diese Darstellung muss von allen Ländern, die diese Technologie entwickeln, gemeinsam und offen erarbeitet werden, nicht hinter verschlossenen Türen unter dem Deckmantel der nationalen Sicherheit. Es bedarf einer koordinierten, internationalen Anstrengung zur Entwicklung dieses Rahmens, der nicht von einem einzelnen Land, sondern von einer Gruppe von Ländern geleitet wird. Bringen Sie Technolog:innen mit politischen Expert:innen und Expert:innen aus kritischen Sektoren wie Finanzen und kritischer Infrastruktur an einen Tisch. Binden Sie Forscher:innen und Wissenschaftler:innen ein, die unterschiedlicher Meinung sind, und veröffentlichen Sie die Meinungsverschiedenheiten, denn ein ehrlicher Prozess zeigt seine Argumente, anstatt seine Schlussfolgerungen zu verkünden. Finanzieren Sie die Testkapazitäten selbst über öffentliche Forschungseinrichtungen und bestehende sektorspezifische Risikomanagementsysteme, damit die Wissenschaft nicht von den Budgets der gemessenen Unternehmen abhängt. Und formulieren Sie Regeln, die sich nach den Fähigkeiten eines KI-Systems richten und nicht danach, wer es entwickelt hat, damit eine gefährliche Funktion gleich behandelt wird, egal ob sie aus einem Billion-Dollar-Labor oder einer Universitätsabteilung stammt. Die Wissenschaft der KI-bezogenen Risiken darf und sollte nicht von den Entscheidungen von Unternehmen und Regierungen getrennt werden, wie KI eingesetzt und genutzt wird, noch von bestehenden und robusten Risikomanagementsystemen, die heute kritische Sektoren wie Gesundheitswesen, globale Finanzsysteme, Verteidigung und kritische Infrastruktur regeln.
2. Transparenz als Pflicht. Entwickler:innen von KI sollten transparent darüber informieren, wie ihre Modelle und Systeme aufgebaut sind, welchen Zweck und welche Fähigkeiten sie haben, welche Risiken sie möglicherweise bergen und welche Maßnahmen zur Risikominderung umgesetzt wurden. Model Cards werden branchenweit bereits häufig für groß angelegte, generative KI-Modelle veröffentlicht und zeigen, welche Tests durchgeführt wurden und wie das Modell abgeschnitten hat. Doch es lässt sich noch mehr tun, insbesondere in Bezug auf die Berichterstattung von Unternehmen über schwerwiegende Vorfälle in den Schichten, in denen sie über Sichtbarkeit und Kontrolle verfügen, sowie über Mechanismen, um bei tatsächlichem Schaden echte Rechenschaftspflichten zu schaffen.
3. Tests, basierend auf Fakten. Die fortschrittlichsten KI-Modelle und -Systeme sollten unabhängigen Tests unterzogen werden, aber nur in Bezug auf die Fähigkeiten und in den Kontexten, die im Risikorahmen als tatsächlich gefährlich identifiziert wurden, anstatt diese Definition einigen wenigen Unternehmen zu überlassen. In der Praxis bedeutet dies wahrscheinlich die Fähigkeit, Cyberangriffe, synthetischen Betrug und Voice-Cloning, Manipulation im großen Maßstab, physische oder biochemische Waffen sowie alles, was kritische Infrastrukturen betrifft, zu generieren. Es bedeutet nicht, jedes System auf jedes Risiko zu testen, und es darf nicht zu einer Compliance-Übung werden, die sich auf das Budget ausweitet, das die größten Unternehmen aufbringen können. Ein gestufter und angemessener Rahmen, bei dem leistungsfähigere Modelle und Systeme oder Modelle oder Systeme, die in bestimmten Kontexten eingesetzt werden, strengeren Tests unterzogen werden – unabhängig von den Ressourcen, die in ihre Entwicklung investiert wurden –, wird am meisten zur Verbesserung der Sicherheit beitragen. Testen Sie, was Menschen und Gesellschaften schaden kann, und lassen Sie Fakten entscheiden, was getestet werden muss, anstatt dies denjenigen zu überlassen, die die Regeln aufstellen. Die Zertifizierung muss für jedes Unternehmen offen sein und nicht auf eine bestimmte Stufe von KI-Entwicklern beschränkt werden, und der Standard muss von anderen als den Unternehmen vereinbart werden, an denen er gemessen wird. Was nicht erlaubt werden darf, ist eine teure Bürokratie, die kleinere Labore abwürgt, bevor sie überhaupt etwas versenden, was genau dann passiert, wenn der Umfang unbegrenzt ist und die etablierten Unternehmen ihn festlegen.
4. Echte Sicherheitsmechanismen. Die Parameter, die bestimmen, wie KI-Modelle und -Systeme getestet werden, und die Mechanismen, die diese Tests überprüfen, müssen wirklich unabhängig sein – ähnlich wie die Lizenzierung von Finanzinstituten, die strengen Sicherheitsstandards unterliegenden Luftfahrtunternehmen und die Inspektionen von Atomanlagen. Solche Hochrisikobranchen setzen bereits auf mehrstufige Sicherheitsmaßnahmen: Entwickler testen ihre Systeme, Kunden validieren sie anhand ihrer eigenen Risikoanforderungen, unabhängige Dritte bieten bei Bedarf zusätzliche Sicherheit, und Regulierungsbehörden überwachen den Rahmen. Die KI sollte auf diesen erprobten Ansätzen aufbauen, anstatt einen beispiellosen Exceptionalismus zu beanspruchen und davon auszugehen, dass die Sicherheit von einer einzigen Klasse dauerhaft eingebetteter Evaluatoren abhängt. Sicherheit funktioniert, wenn drei Bedingungen erfüllt sind: Erstens basieren Tests und Überprüfungen auf gemeinsam entwickelten und veröffentlichten Kriterien; zweitens müssen alle beteiligten Dritten ein Mandat haben, um eine Reihe von Meinungen einzubeziehen, und dürfen niemals von der Partei bezahlt werden, die sie überprüfen; und drittens müssen die Ergebnisse auf eine Weise an die Öffentlichkeit gelangen, die nicht in Konflikt steht. Am wichtigsten ist die Flexibilität, welche Aspekte der Sicherheitsarbeit am besten im Haus nach strengen Standards erledigt werden und welche einen Dritten erfordern, basierend auf der Kritikalität der Prüfung und der effizientesten Nutzung von Fachwissen und Ressourcen. Dies steht in direktem Gegensatz zu dem, was vorgeschlagen wurde: ein Sicherheitssystem, das auf Prüfern basiert, die nicht nur finanzielle oder ideologische Interessenkonflikte mit den von ihnen geprüften Unternehmen haben, sondern von diesen auch handverlesen werden. Vorschläge, den von einer Handvoll dominanter Unternehmen bevorzugten Prüfern branchenweit kontinuierlichen Zugang zu gewähren, sind ein Weg zur regulatorischen und ideologischen Vereinnahmung, nicht zur Sicherheit oder zum Vertrauen.

Was die Panik ausblendet

Diese Säulen bilden die Grundlage für einen praktischen, risikobasierten Ansatz. Vergleichen Sie ihn nun mit den Science-Fiction-Szenarien, die derzeit von den größten etablierten Unternehmen instrumentalisiert werden.

Ich glaube, dass es äußerst wichtig ist, hier über Wissenschaft zu sprechen. Es werden viele logische Sprünge und Schlussfolgerungen von klugen Menschen gemacht. Aber es ist wichtig, dass wir statt vager Gesten diskutieren, was sie sind und was sie bedeuten.

Anfang der Woche ist ein Forscher mit lauten Warnungen aus einem großen Labor ausgetreten: Superintelligente Systeme würden die Menschheit wahrscheinlich innerhalb eines Jahrzehnts auslöschen. Ein leitender Kollege meldete sich öffentlich zu Wort und schätzte die Wahrscheinlichkeit auf über zehn Prozent. Ich bezweifle nicht, dass ihre Bedenken gut gemeint und echt sind. Aber denken wir daran: Diese Zahlen stammen nicht aus einer fundamentalen Realität. Es sind Bauchgefühle, Stimmungen, ausgedrückt als Dezimalstellen, verstärkt von Führungskräften mit Eigeninteressen und von den Medien eine Woche lang als mathematische Analysen dargestellt.

Es lohnt sich, genau zu definieren, worin die Sorge tatsächlich besteht: Je leistungsfähiger diese Systeme werden, desto schwerer fällt es, die Abweichung zwischen dem, was wir angefordert haben, und dem, was wir tatsächlich erhalten, zu erkennen – und desto kostspieliger wird es, wenn wir sie übersehen. Ein System, das besser darin ist, Schlupflöcher zu finden, findet auch diejenigen, die wir nie auf dem Schirm hatten. Gibt man ihm Werkzeuge an die Hand, die in der Welt wirken, und eine Verbesserungsrate, die unsere Fähigkeit zur Überprüfung seiner Arbeit übertrifft, dann kann man sich vorstellen, dass Probleme erst viel später erkannt werden, wenn es längst zu spät ist, anstatt sofort offensichtlich zu sein.

Allerdings ist die Behauptung, solche Probleme bedeuteten, dass diese Tools außer Kontrolle geraten, eine Wertung und kein Befund.

Doch genau dieser Unterschied trennt Wissenschaft von Science-Fiction und bestimmt unser weiteres Vorgehen. Eine offene Frage dieser Art erfordert einen öffentlichen, kontroversen und evidenzbasierten Prozess, um sie zu klären. Was man niemals tun sollte, ist, einer bestimmten Gruppe die Autorität zu geben, verbindliche Regeln daraus abzuleiten und sie allen anderen aufzuzwingen.

Die im Juli gemeldeten Fehler traten in den beiden weltweit am besten ausgestatteten Laboren auf, mit den größten Sicherheitsteams, den meisten internen Überprüfungen und in einem Fall wurde bereits im Februar mit erheblichem Aufwand über METR eine externe Bewertungsinstanz eingerichtet. Die vorgeschlagene Abhilfe entspricht mehr oder weniger dem, was bereits vorhanden war, als es versagte. Eine Fähigkeitsschwelle hätte dies nicht erfasst, da diese Systeme aktiv trainiert und bewertet wurden, um ihre Fähigkeiten zu beurteilen. Eine Rechenbegrenzung hätte die Agenten möglicherweise verlangsamt, aber ihre Fähigkeiten nicht reduziert. Was versagte, war die Qualität der Anweisungen, die Stärke der Mauern um den Test und die Dauer, die den Agenten erlaubt wurde, ohne Beobachtung weiterzuarbeiten. Der Vorschlag geht auf keines dieser Probleme ein.

Was wirklich helfen würde, ist weit weniger dramatisch. Verpflichtende Meldung schwerwiegender Vorfälle, damit ein fehlerhaftes Training bei einem Unternehmen zur Lektion für die gesamte Branche wird und nicht nur in einem Blogbeitrag landet. Testen von Systemen auf bekannte Sicherheitslücken, die ausgenutzt werden könnten. Festlegung von Standards für die Überwachbarkeit (oder zumindest Protokollierung) während des Betriebs, um Fehlverhalten frühzeitig zu erkennen. Strikte Abschottung kritischer Infrastrukturen – von Krankenhäusern bis zu Stromnetzen –, idealerweise on-premise, um zu verhindern, dass Systeme mit fehlerhaften Zielen auf wichtige Bereiche zugreifen können. Und Anwendung dieser Maßnahmen basierend auf dem Einsatzort und den Zugriffsmöglichkeiten eines Systems, nicht nach der Größe des entwickelnden Unternehmens. Ein kleines, schlecht spezifiziertes Modell in einem Krankenhaus stellt heute ein reales Risiko dar, das unter einem rein frontier-orientierten Regime völlig übersehen wird.

Wenn Narrative, die den Interessen der Big-Tech-Unternehmen dienen, Ereignisse wie diese aufgreifen und die öffentliche Aufmerksamkeit auf die Vorstellung von übermächtigen, unkontrollierbaren Technologien lenken, die möglicherweise zum Aussterben der Menschheit führen, lenkt uns das bequem von den Entscheidungen und Fehlern ab, die sie treffen, und vom Schaden, den reale Menschen jetzt erleiden. So können beispielsweise Sprachklon-Tools, die günstiger sind als eine Telefonrechnung, das Konto eines Rentners innerhalb weniger Minuten leeren. Ebenso können automatisierte Entscheidungssysteme einen realen Einfluss auf den Zugang zu wesentlichen Dienstleistungen haben. Wir brauchen ein Sicherheitsregime, das für diese Realitäten geschaffen wurde, für Probleme, die heute direkt Bürger und Organisationen betreffen, und nicht eines, das dazu dient, eine hypothetische Superintelligenz einzudämmen.

Wer macht die Regeln?

Wir stehen an einem Wendepunkt, und die Entscheidungen der nächsten Monate werden die Weltwirtschaft für eine ganze Generation prägen. Die Risiken sind real und erfordern ernsthafte, durchsetzbare Schutzmaßnahmen. Genau deshalb dürfen die Regeln nicht hinter verschlossenen Türen von den Unternehmen entworfen werden, die sie eigentlich einhalten sollen. Die Vorstellung, zwei oder drei Silicon-Valley-Unternehmen sollten für alle Regierungen der Welt als Schöpfer, Wächter und Regelsetzer für KI fungieren, ist schlichtweg absurd.

Kritische Infrastrukturen lassen sich nicht durch den Zukauf nationaler Fähigkeiten von einem ausländischen Monopol mit geschlossener Schnittstelle sichern. Krankenhäuser, Zahlungsnetzwerke und Verteidigungsministerien können ihre sensibelsten operativen Daten und ihr proprietäres Wissen nicht guten Gewissens an fremde Server weiterleiten und blind auf die Einhaltung eines Lieferantenvertrags vertrauen. Schlupflöcher, die Datenlecks ermöglichen, werden bereits heute ausgenutzt.

Wir haben Cohere genau aus diesem Grund entwickelt. Als globales Unternehmen, das eng mit Regierungen auf der ganzen Welt zusammenarbeitet, sehen wir, was die Institutionen, die diese Volkswirtschaften am Laufen halten, tatsächlich benötigen. Sie wollen hochleistungsfähige Systeme, die innerhalb ihrer eigenen Mauern auf von ihnen kontrollierter Infrastruktur laufen, von Anbietern, die ihnen Rechenschaft ablegen und ersetzt werden können. Sicherheit entsteht durch Souveränität, lokale Bereitstellung und technologische Vielfalt. Ein wettbewerbsfähiger Markt mit vielen leistungsstarken Anbietern kann den Ausfall eines von ihnen auffangen. Ein staatlich sanktioniertes Kartell hat nirgendwo etwas zu verbergen.

Die Regeln für KI werden so oder so festgelegt. Die Frage ist, ob sie von einer Gruppe geschrieben werden, der sich jeder anschließen kann und deren Erkenntnisse jeder überprüfen kann, oder von einer Handvoll Unternehmen hinter verschlossenen Türen. Mehr Stimmen bedeuten mehr Zeit und mehr Aufwand. Einige dieser Stimmen werden Dinge sagen, die wir nicht hören wollen. Aber genau darum geht es. Nur so entsteht ein Regelwerk, dem die Öffentlichkeit vertrauen kann.

Ein sinnvoller Prozess würde auch Personen einbeziehen, die selbst gegen Unternehmen wie Cohere entscheiden würden. Wissenschaftler ohne kommerzielle Interessen. Zivilgesellschaftliche Gruppen, die finden, dass die gesamte Branche zu schnell voranschreitet. Kleinere Labore und Open-Source-Entwickler. Regierungen, die ihre eigenen Gründe haben, uns nicht einfach zu vertrauen. Wenn wir uns einig sind, dass diese Technologie die Welt, in der wir leben, neu gestaltet, können nicht einige CEOs und von ihnen bezahlte Gruppen alle Entscheidungen darüber treffen, wie sich diese Technologie weiterentwickelt. Wir brauchen mehr Stimmen am Tisch.

Man kann über Sicherheit sprechen, über das Drosseln des Tempos, um nachhaltigen Fortschritt zu gewährleisten, und über die Notwendigkeit, dass andere eingreifen, um verantwortungsbewusstes Handeln sicherzustellen. Oder man packt es einfach an: Man entwickelt verantwortungsbewusst und in einem für die Gesellschaft tragbaren Tempo, ermöglicht Souveränität für Partner, arbeitet mit Gesetzgebern und Sicherheitsexperten zusammen und hört auf sie. Bei Cohere entscheiden wir uns für Letzteres.