»KI-Modelle sind trojanische Pferde«

Ich »treffe« Cecilia Rikap natürlich im Netz. Während ich meinen Laptop in Berlin auf einem Stapel Bücher balanciere, sitzt sie in ihrem Büro am University College London. Zoom macht die Übertragung unserer Stimmen und Gesichter in so hoher Geschwindigkeit möglich, dass wir uns wie in Echtzeit unterhalten können. Die unzähligen Rechenvorgänge, die dafür notwendig sind, finden außerhalb unseres Sichtfelds statt, in weltweit verteilen Datenzentren. Dort werden Kommunikationsströme gelenkt, Daten bereinigt, die automatische Aufzeichnung unseres Gesprächs gespeichert. Wie fast alle Software-Unternehmen kooperiert Zoom dafür mit Amazon Web Services, dem größten Anbieter von digitaler Rechenleistung. Gemeinsam mit Google (inzwischen Alphabet), Facebook (inzwischen Meta), Microsoft und weiteren ist Amazon Teil einer Gruppe, die wir häufig als »Big Tech« bezeichnen. Ob ich nun Spotify, Slack oder eben Zoom starte: Fast immer basieren diese Softwaredienste auf den Recheninfrastrukturen der Tech-Giganten.

Cecilia Rikap versucht zu verstehen, wie es zu einer solchen Vormachtstellung einiger weniger Unternehmen im Tech-Bereich kommen konnte. In ihrem nächsten Buch, The Rulers, will sie untersuchen, wie diese Akteure nicht nur Märkte beherrschen, sondern auch die politischen Regeln setzen, nach denen sich Regierungen und Staaten richten. Sie greift dafür auf einen Begriff zurück, der zunächst an die Vergangenheit denken lässt: »Intellectual Monopoly Capitalism«. Ob bei Lenin zu Beginn des 20. Jahrhunderts oder bei den marxistischen US-Ökonomen Paul Baran und Paul M. Sweezy in den 1960er-Jahren, das linke Denken über Monopole hängt immer eng mit der Frage zusammen, wie sich staatliche und wirtschaftliche Macht zu einer gegebenen Zeit zueinander – und zu ihrer militaristischen und imperialistischen Ausdehnung – verhalten. Rikap gehört zu einer neuen Generation kritischer Ökonom:innen, die sich diesen Fragen im Schatten der digitalen Giganten erneut widmen. Was bedeutet es nun, Big Tech als »intellektuelle« Monopole zu verstehen?

Cecilia Rikap | Denken wir an Amazon. Das Unternehmen ist nicht einfach ein Produzent, der einen bestimmten Markt dominiert, sondern es ist selbst ein Markt. Auf dem Amazon Marketplace werden nicht nur Amazon-Produkte verkauft, sondern es gibt eine riesige Zahl von Drittunternehmen, die ihre Produkte auf einem Markt anbieten, dessen Regeln komplett und einseitig von Amazon festgelegt werden. Zugleich ist Amazon das einzige Unternehmen, das versteht, wie dieser Markt funktioniert. Denn nur Amazon hat Zugriff auf alle Informationen, von der Detailebene einzelner Transaktionen bis zu hoch­aggregierten Datensätzen. Unternehmen wie diese erfassen und konzentrieren systematisch immaterielle Güter, also Daten und Wissen aller Art, und verwandeln sie in Vermögenswerte. Das ist ihre Geschäftsgrundlage, und das ist charakteristisch für das, was ich intellektuelle Monopole nenne.

Alexander Harder | Könnte man nicht sagen, dass das auch auf führende Unternehmen anderer Branchen ­zutrifft?

CR | Ja, Technologiekonzerne wie IBM oder Telekommunikationsunternehmen wie AT&T haben auch Wissen konzentriert und Monopole gebildet. Aber es gibt zwei entscheidende Unterschiede. Erstens kontrollieren die Tech-Monopole unserer Zeit nicht nur die Produktion innerhalb ihrer riesigen Unternehmen, sondern ein ganzes globales Innovationssystem. Neue Produkte, neues Wissen und neue Technologien werden mehr denn je in Netzwerken produziert, von tausenden und abertausenden Unternehmen und Forschungseinrichtungen, von kleinen Start-ups bis zu großen Unternehmen. Alle, die an diesem Innovationssystem teilhaben, produzieren ihre Innovationen an einem einzigen Ort, nämlich in der Cloud. Innerhalb der Cloud findet alles zusammen: Produktion, Distribution und Konsumption. Darin unterscheidet sie sich von einem Prozess, wo wir eine Fabrik haben, in der produziert wird, einen Markt, auf dem die Produkte Käufer finden, und Haushalte, die die Produkte konsumieren. Die Cloud vereint diese Prozesse. Und sie wird von den Monopolen kontrolliert, die entscheiden, wie dieser Prozess abläuft und wer daran unter welchen Bedingungen teilhaben kann. Die Cloud-Computing-Angebote der drei großen Monopole – Amazon Web Services, Google Cloud Platform und Microsoft Azure – konzentrieren über 65 Prozent dieses ökonomischen Raums.

Der heute weit verbreitete Begriff der »Cloud« will uns glauben machen, dass die enorme Rechenleistung, welche Fitness-Apps, KI-Slop oder automatisierte Gesichtserkennung möglich macht, ein atmosphärisches Phänomen ist. Natürlich, immateriell, fast unsichtbar. Tatsächlich beruht die »Cloud« auf sehr materieller Infrastruktur. Zum Beispiel auf mehr als 1,48 Millionen Kilometern an Unterseekabeln – fast viermal so viel wie die Distanz zwischen Erde und Mond –, durch welche Bits von Kontinent zu Kontinent gesendet werden. Und auf mehr als 11.000 Rechenzentren, die Hälfte davon in den USA, in denen unzählige Reihen an Computern Daten speichern, verarbeiten und weiterversenden, zum Beispiel beim Training von Large Language Models (LLMs). Ein großes Rechenzentrum in den USA verbraucht jährlich so viel Wasser wie eine Kleinstadt, alle zusammen werden 2030 wohl mehr als zehn Prozent des gesamten Energiebedarfs des Landes ausmachen. Alles andere als immateriell also.

CR | Der zweite Unterschied ist, dass diese Unternehmen die sogenannten Kontrolltechnologien monopolisieren. Wir nutzen heute Informations- und Kommunikationstechnologien, um jeden Bereich unseres Lebens zu organisieren. Jede Fabrik, jedes Krankenhaus, jede Forschungseinrichtung, jede Schule, jede Stadtverwaltung, selbst der Alltag der allermeisten Menschen, alles basiert auf digitalen Technologien, die von den intellektuellen Monopolen kontrolliert werden. Das macht sie sehr viel mächtiger als frühere Monopolunternehmen.

AH | Schränken diese Monopole damit also auch die Handlungsfähigkeit von Bürgerinnen und Bürgern, von Regierungen oder ganzen Staaten ein?

CR | Praktisch alle Staaten sind von Technologien abhängig, die von den großen Monopolen kontrolliert werden und deren Funktionsweisen sie gar nicht verstehen können. Und das Problem ist nicht nur, dass dadurch viel Geld von öffentlichen Institutionen an diese riesigen Privatunternehmen fließt, sondern dass die Technologien auch die Indikatoren festlegen, nach denen die Verwaltung Entscheidungen trifft. Weite Teile des Staatswesens bis hin zu den Ebenen der lokalen Verwaltung basieren bereits auf Cloud-Technologien. Durch die jüngsten Entwicklungen im Bereich der künstlichen Intelligenz hat sich diese Tendenz noch verstärkt. Seit der Veröffentlichung von ChatGPT meint jede Organisation, sie müsse noch mehr Arbeitsprozesse KI-unterstützen, was nichts anderes heißt, als sie in die Cloud zu verlagern. Und wenn sie einmal dort sind, kommen sie nicht mehr raus.

AH | Wie wirkt sich das aus?

CR | Die Folgen sind gravierend. Anwältinnen, Lehrer, Verwaltungsbeamte, Regierungsmitarbeiterinnen, alle lagern Arbeitsschritte an die KI aus. Mit der Folge, dass Verwaltungen, Staaten, ja ganze Gesellschaften wichtige Fähigkeiten verlieren. Wir beobachten gerade einen Prozess, der jenem Anfang des 20. Jahrhunderts ähnelt, als der Taylorismus eingeführt wurde. Damals wurden Produktionsprozesse, die sich bis dahin am Modell des Handwerks orientiert hatten, in einzelne Arbeitsschritte gespalten. Die Ausführung der Arbeit sollte nichts mehr mit der Konzeption zu tun haben. Die Arbeiter:innen in den Fabriken führten nun ihre Tätigkeiten am Fließband aus und wurden vom Wissen über das Produkt und den Produktionsprozess getrennt. Dieses Wissen lag anderswo, damals entstanden erstmals Forschungs- und Entwicklungsbereiche mit eigenen Berufsbildern. Heute betrifft dieser Prozess alle, auch die kreativen Berufe. Wir müssen verstehen, dass KI nicht einfach nur eine neue Technologie ist. Sie ist eine Methode der Erfindung, der Innovation, der Schöpfung von Neuem. Wenn wir Innovation an die KI auslagern, bedeutet das, dass letztendlich alles mit einer einzigen Methode produziert wird. Das ist ein großes Problem für die Gesellschaft insgesamt.

AH | Inwiefern?

CR | Den intellektuellen Monopolen ist es gelungen, auch die Narrative darüber zu kontrollieren, ob und wie KI reguliert werden soll. Als ChatGPT veröffentlicht wurde, ging es nur darum, welche Daten für das Trainieren der KI verwendet werden dürfen, welche Konsequenzen es haben soll, wenn Daten illegal genutzt werden und wer dafür kompensiert wird. Es ging nie darum, dass ein paar Unternehmen die Produktionsnetzwerke der aktuellen Spitzentechnologie kontrollieren. Es ging nie darum, zu verhindern, dass das Wissen, das in öffentlichen Universitäten und Forschungseinrichtungen produziert wird, von privaten Konzernen monopolisiert wird. Es ging nie darum, welche Parameter in die KI-Modelle einbezogen werden oder welchen Nutzen sie haben sollen. Am Ende gingen die führenden Unternehmen zu den Regierungen und sagten: Wir brauchen die KI, die KI ist unsere Rettung, und wir brauchen die größtmöglichen Mengen an Daten, um die KI-Modelle zu trainieren. Und dann haben die Regierungen nachgegeben. Je mehr die Staaten selbst von diesen Technologien abhängig sind, desto geringer werden die Chancen, gegen die Unternehmen vorzugehen, die diese Technologien kontrollieren. Die kommerziellen KI-Modelle sind wie trojanische Pferde, mit denen alle Staaten und die ganze Welt dazu gebracht werden, in die Cloud umzusteigen.

Die Sorge, zu abhängig von US-amerikanischen Softwareunternehmen zu sein, kursierte in Deutschland und anderen europäischen Ländern bereits nach den NSA-Leaks von Edward Snowden. Doch seit der Corona-Pandemie kam eine zweite Angst hinzu: die Abhängigkeit von chinesischer Hardware – von Mikrochips über Smartphones bis zu Autos. Die 2019 ernannte EU-Kommissionspräsidentin Ursula von der Leyen hat der europäischen Digitalisierungsstrategie erstmals einen explizit geopolitischen Zug gegeben. Unter dem Stichwort der »digitalen« oder »technologischen Souveränität« stärkte sie Investitionen in die Entwicklung digitaler Netzwerke und KI, aber auch in die industrielle Produktion von Hardware wie Mikrochips oder Lithium-Ionen-Batterien. Es hapert allerdings oft nicht nur bei der Ansiedlung von Unternehmen wie Intel oder Northvolt, sondern auch grundlegend bei der Vorstellung, dass sich digitale Technologien »in einem Land« herstellen ließen.

AH | Die EU will »digitale Souveränität« erlangen. Kann das unter den Bedingungen der intellektuellen Monopole überhaupt gelingen?

CR | Europa ist zum ersten Mal in seiner Geschichte auf der Seite der Verlierer im globalen Kapitalismus. Europa wird zur Peripherie. Das ist für seine politischen Vertreter, wie die Europäische Kommission, eine neue und schmerzhafte Erfahrung. Die US-Regierung ist entschlossen, mit ihren Spitzenunternehmen die Welt zu beherrschen. Tatsächlich gibt es ohne digitale Souveränität keine politische Souveränität mehr, weil es sich um die Kontrolltechnologien unserer Zeit handelt. Keine Armee, kein Gesundheitswesen, kein Bildungswesen, kein Staatswesen kann ohne diese Technologien funktionieren. Ohne echten Zugang zu diesen Technologien gibt es keine Möglichkeit, zu bestimmen, welche Technologien für welche Zwecke produziert und weiterentwickelt werden sollen. Im Grunde genommen können Regierungen ohne digitale Souveränität nicht mehr regieren. Was die EU nun macht, ist von Verzweiflung getrieben. Man will eigene Rechenzentren errichten, ­KI-Giga-Fabriken, wo man seine eigenen KI-Modelle trainieren kann. Aber sie verstehen nicht, dass die Unternehmen, denen man diese Modelle anbietet, ihre Services dann erst wieder in der Cloud verkaufen, das heißt über Amazon, Microsoft und Google. Die europäischen Unternehmen haben festgestellt, dass es für sie am profitabelsten ist, sich den großen Tech-Unternehmen unterzuordnen. SAP, das zweitgrößte Unternehmen Europas, hat beschlossen, keine eigene Cloud zu betreiben, und bietet seine Software und Plattformen als Dienstleistung auf Amazon, Microsoft und Google Cloud an.

AH | Was können Staaten dann überhaupt noch machen?

CR | Konventionelle industriepolitische Maßnahmen funktionieren hier nicht. Das Problem ist, dass die Europäer das Digitale nicht als Kontrolltechnologie begreifen und die Art und Weise, wie digitale Technologien produziert werden, nicht als Ökosystem, als Netzwerk. Es sind die Staaten, die ein alternatives Netzwerk aufbauen müssen, das auf demokratischen Institutionen beruht, nicht auf den Profitinteressen von Unternehmen. Es sind die Staaten, die das Geld bereitstellen und auch sicherstellen müssen, dass diese neuen Alternativen nicht von Big Tech vereinnahmt und monopolisiert werden können. Jene Teile des Netzwerks, die besser mit nur einem Anbieter funktionieren, können nicht als Märkte entwickelt werden, sondern als zentralisierte, öffentlich geführte Lösung, die als Gemeingut betrieben wird. Dafür müssen viele Gesetze geändert und neue Institutionen geschaffen werden. Technisch ist das alles problemlos möglich. Was es dafür braucht, sind politische Entscheidungen. Eine solche Entscheidung müsste auch beinhalten, bei der Entwicklung von KI soziale Prioritäten zu setzen und die planetarischen Grenzen zu berücksichtigen. Wir müssen über die Entwicklung digitaler Technologien ganz anders nachdenken. Das Problem ist nicht nur, dass große Konzerne diese Technologien besitzen. Das Problem ist, dass diese Konzerne nicht jene Technologien produzieren, die wir als Gesellschaft brauchen, sondern solche, die unseren Planeten verbrennen. Die Frage ist: Wie können wir kollektiv entscheiden, welche Technologien wir wollen? Es geht also im Kern um eine Demokratisierung.

Dass es bei der Frage nach Souveränität um Demokratie gehen muss, ist nicht selbstverständlich. Denn der Begriff ist auch mit der Kontrolle des Staates über dessen Bewohner, über dessen Territorium und über dessen Grenzen verbunden. Man könnte die Allianz, welche der US-amerikanische Präsident mit den Tech-CEOs einzugehen versucht, auch als Ausbau technologischer Souveränität verstehen – nur eben als nationalistisches und autoritäres Projekt, welches Handels- und womöglich militärische Kriege zur eigenen Absicherung sucht. Ein Gegenentwurf müsste den Notwendigkeiten von öffentlicher Beteiligung, aber auch von internationaler Zusammenarbeit Rechnung tragen. Rikap, die aus Argentinien kommt, denkt bei ihrem Bezug auf Souveränität vor allem an »Volkssouveränität«, bei der die populare und demokratische Teilhabe im Vordergrund steht.

CR | Wenn ich von digitaler Souveränität spreche, meine ich eigentlich digitale Volkssouveränität. Es geht nicht darum, alle Macht im Staat zu konzentrieren, sondern um digitale Souveränität für alle Menschen auf diesem Planeten. Dass sie international sein muss, liegt auf der Hand. Allein schon, weil diese Alternativen möglichst kostengünstig und ressourcenschonend geschaffen werden müssen. Dafür müssen alle Länder, die eine Alternative aufbauen wollen, zusammenarbeiten. Das verringert auch das Risiko, dass eine einzelne Regierung dieses alternative Ökosystem ausnützt oder es für Repression gegen die eigene Bevölkerung einsetzt. Denn dann können die Regierungen anderer an diesem System beteiligter Staaten sagen: Hey, vielleicht solltet ihr das nicht tun! Und es ist komplizierter, alle Regierungen dazu zu bringen, ihre Bevölkerung gemeinsam zu überwachen und zu kontrollieren. Die Lösung kann also nur internationalistisch sein. Das bedeutet aber nicht, dass alle mitmachen müssen, sondern dass wir die Alternative mit jenen aufbauen, die eine Gesellschaft für alle wollen, eine Gesellschaft, die innerhalb der planetarischen Grenzen lebt, eine Gesellschaft, die Profit nicht an erste Stelle setzt und die nicht will, dass Unternehmen diejenigen sind, die die Zukunft planen und kontrollieren.

AH | Wie kann das gelingen?

CR | Die angesichts der Klimaerhitzung notwendige ökologische Transformation unserer Produktionsweise wird nicht über den Markt funktionieren. Sie muss geplant umgesetzt werden. Ich weiß, dass das in einigen Teilen der Welt ein sensibles Thema ist und Planwirtschaft keinen guten Ruf hat. Dabei planen Unternehmen ständig ihre wirtschaftlichen Aktivitäten. Und die führenden Unternehmen planen weit über ihr eigenes Eigentum hinaus. Sie planen globale Wertschöpfungsketten. Sie planen die Funktionsweisen der großen Plattformen. Sie planen ihre Kontrollbereiche in der ganzen Gesellschaft. All diese Planungen passieren auf sehr undemokratische Weise. Die Frage ist, ob wir digitale Technologien dafür nutzen können, um eine wirklich demokratische, von der Bevölkerung getragene Form der Planung unserer Wirtschaft zu organisieren. Im Moment werden sie dafür genutzt, uns einzureden, dass wir unendlich viele Dinge online kaufen müssen. Können wir sie umfunktionieren, um die Produktion an den Bedürfnissen und Prioritäten der Gemeinschaft auszurichten?

Wie konkret sich Technologieentwicklung demokratisch mitgestalten lässt, ist nicht leicht zu beantworten. Die In­stitutionen, die dafür infrage kämen, müssen in Teilen erst entwickelt oder neu entdeckt werden. So verweist Rikap auf die International Telecommunications Union als Modell. Diese wurde 1865 als erste internationale Organisation überhaupt gegründet und mit der Koordination von Regeln zur telegrafischen Kommunikation beauftragt. Als Teil der UN bietet sie ein Forum für internationalen Austausch bei der Entwicklung und Standardisierung von Kommunikationstechnologien. Leider läuft uns die Zeit für diese Fragen davon: Im Anschluss an unser Gespräch hat Rikap ein Meeting mit einem Vertreter des chilenischen Wissenschaftsministeriums, um über die landeseigene KI-Strategie zu sprechen. Auch vor dem Hintergrund ihrer Forschung für den argentinischen Wissenschaftsrat CONICET sieht Rikap in Lateinamerika eine Reihe an interessanten Versuchen, die Machtmonopole der Tech-Unternehmen herauszufordern.

CR | Die chilenische Regierung hat ein Tool entwickelt, um alle sozioökologischen Auswirkungen der Installation von Rechenzentren zu kartieren. Bislang hat sie das für eine Provinz gemacht und plant, es auf das gesamte Territorium auszuweiten. Das zeigt zunächst einmal, dass der öffentliche Sektor über entsprechende Fähigkeiten verfügt. Man muss eine Menge Daten zentralisieren, Algorithmen entwickeln und alles kartografisch erfassen. Das hat man geschafft, ohne den Auftrag an ein Privatunternehmen auszulagern. Dieses Tool ist sehr leistungsfähig und könnte von Regierungen auf der ganzen Welt genutzt werden. Sie müssen es nur an ihre eigenen Daten anpassen. Dann wissen wir, wo es weniger schädlich ist, ein Rechenzentrum zu bauen, wie viele Rechenzentren maximal in jedem Teil des Gebiets gebaut werden dürfen und so weiter. Das hängt von der Bevölkerungszahl, der Verfügbarkeit von Strom und Wasser und anderen Faktoren ab. Ich sage nicht, dass Chile alles richtig macht. Man überlässt die Entscheidungen immer noch der Industrie und versucht lediglich, die Branche davon zu überzeugen, die Dinge besser zu machen. Das ist also eine sehr milde Art der Regulierung. In Brasilien hat die Regierung einen KI-Plan aufgesetzt, der vorsah, eigene Rechenzentren und digitale Kapazitäten für den Staat aufzubauen. Letztendlich wurde der Plan nicht umgesetzt, weil die staatlichen Unternehmen alle von Big Tech kooptiert wurden und die Regierung davon überzeugten, sie wieder ins Boot zu holen. In Uruguay gibt es einen staatlichen Anbieter, der 95 Prozent der Haushalte mit Internet versorgt. Dieser Anbieter will sich jetzt in ein digitales Unternehmen verwandeln und eine eigene Cloud anbieten. Wird Google, das ein Rechenzentrum in Uruguay betreibt, das zulassen? Oder am Ende selbst der Internet-Provider für den urugu­ayischen Staat werden? Es gibt kein Land, das alles richtig macht. Aber es gibt viele Versuche, sich nicht den intellektuellen Monopolen zu unterwerfen.