Wir durften dieses Jahr wieder die re:publica besuchen, die Messe für die digitale Gesellschaft in Berlin. Es ging natürlich um KI, den Rechtsruck der Gesellschaft und Techgiganten, die unseren Alltag bestimmen. Hier sind einige unserer Take Aways.

AI Hyperscaling ist vor allem eine Prestigesache

Karen Hao hat in ihrem Eröffnungsvortrag eindrückliche Verhältnisse vorgestellt, die das extreme Ausmaß von KI-Hyperscaling – also der massive Ausbau von KI-Systemen durch immer mehr Rechenleistung – inzwischen annimmt. (sowie den zugrundeliegenden neuen Imperialismus von Techgiganten). Metas Rechenzentrum Hyperion z. B. wird täglich etwa doppelt so viel Strom verbrauchen wie ganz Berlin. Verrückt ist, dass dieses KI-Rennen gar nicht nötig ist, aber billiger – besser wäre es, KI-Prozesse zu verbessern und Trainings und Ergebnisse aufzuwerten, anstatt General AI einfach mit immer mehr Rechenleistung zu unterfüttern und so den Ressourcenverbrauch und die Klimabelastungen in neue Höhen zu treiben.

Ist der DSA ein zahnloser Papiertiger?

Markus Beckedahl vom Zentrum für Digitalrechte und Demokratie hat sich mit dem Digital Services Act (DSA) beschäftigt und inwiefern das EU-Gesetz schädlichen Mechanismen auf den sozialen Plattformen nur bedingt entgegenwirkt. So müssten z. B. sogenannte Companion AIs, die sich als echte Sozialkontakte inszenieren, als Hochrisiko-KI eingestuft werden, weil sie insbesondere bei jungen Menschen durch eine dauerhafte Bestätigung zu Selbstverletzungen und sogar Suizid führen (mehr dazu auch im Talk von Ramak Molavi Vasse´i). Aber auch suchtauslösenden Algorithmen und die darauf basierenden Geschäftsmodelle, die absolut gängig sind, müssten stärker reguliert werden. Dazu ist der DSA ein Hilfsmittel, das aber häufig nicht in konkreten Konsequenzen gipfelt und oft nur Unternehmen angeklagt werden, die nicht in den USA sitzen.

Um KI zu demokratisieren müssen vor allem Narrative der Tech Bros aufgebrochen werden

Anette Zimmermann forscht zur Demokratisierung von KI und beschäftigt sich mit den vielfältigen Faktoren, die dafür und dagegen arbeiten. In ihrer Session ist sie darauf eingegangen, wie allgegenwärtig der Gebrauch von KI inzwischen ist und wie wenig Kontrolle wir eigentlich darüber haben. Im Gegenteil, der Einfluss von Tech-Giganten ist so groß, dass sie sich in Politik, Gesetzgebung und auch die US-Regierung beeinflussen oder sogar übernehmen (vgl. DOGE). Ein häufig bedientes Narrativ ist dabei, dass KI eine so außergewöhnliche und wichtige Technologie ist, dass sie sich demokratischer Kontrolle entziehen sollte. Denn nur weil KI jedem zur Verfügung steht ist sie noch lange nicht demokratisch – im Gegenteil, viele der großen KI-Betreiber verfolgen antidemokratische Agenden. Zimmermann argumentiert dafür, dass KI durch Communities (mit)gestaltet werden sollte und dass dazu umfassende Regulierungs- und Reformprozesse nötig sind.

Was tun wir, wenn alles nur noch Deepfake ist?

Josephine Schmitt vom Center for Advanced Internet Studies plädiert dafür, dass Deepfakes nicht nur eine immer weiter wachsende Technologie sind, sondern auch eine soziale Praxis, die zunehmend unser Verständnis von Wirklichkeit untergräbt. Als eine Form von Missinformation schüren sie Misstrauen, untergraben Demokratien und fördern Konflikte. Dabei sind sie vor allem und oft ein Mittel individueller Schädigung, eine Form von Identitätsraub. Damit werden Deepfakes bzw. KIs zu einem Machtinstrument.

Darauf geht auch Eckhart von Hirschhausen ein – aus eigener Erfahrung. Er bezeichnet Deepfakes als Rufmord, Identitätsklau und Psychoterror. Als Betroffener von Deepfakes ist er bereits rechtlich gegen Meta vorgegangen und hat sogar gewonnen – allerdings ohne Konsequenzen, denn für Unternehmen wie Meta ist es günstiger, Rechtsstreits auszufechten, als ihre Plattformlogik europäischer Gesetzgebung anzupassen. Die Kosten für den Prozess gegen Hirschhausen haben sie in ca. 10 Sekunden wieder eingefahren…

Digitalkompetenzen als Mittel gegen Rechts

Heike Klüver von der Humboldt Uni Berlin beschäftigt sich in ihrer Forschung u. a. mit der Frage, inwiefern Medienkompetenz dabei hilft, populistischen Inhalten in Sozialen Medien kritisch zu begegnen. Sie hat ihre Studie vorgestellt, in der sie zeigen konnte, dass Digital Literacy Training deutlich dabei hilft, die emotionale Manipulation, die ein Erfolgsfaktor populistischer Inhalte ist, zu erkennen und sich ihr so zu entziehen. Ein Nebeneffekt: Die Probanden haben nach dem Training deutlich öfter populistische Inhalte gemeldet und gleichzeitig eine deutlich geringere Bereitschaft gezeigt, die AfD zu wählen.