Da gibt es den Fall von Bundesrätin Karin Keller-Sutter. Ein Schweizer Nutzer der Plattform X fordert den KI-Chatbot Grok im März 2026 dazu auf, sie zu «roasten», also zu beleidigen. Der Nutzer verwendet vulgär-sexistisches Vokabular und Grok kontert mit einer sexistisch herabwürdigenden Beschimpfung Keller-Sutters. Die Bundesrätin reicht Strafanzeige gegen Unbekannt ein.

Oder es gibt den Fall der spanischen Kleinstadt Almendralejo. Jugendliche verbreiten 2023 Nacktbilder von 20 Mädchen aus ihrem Umfeld in sozialen Medien. Geschaffen haben sie die Fake-Bilder mit einer «Nudify»-App.

Oder es gibt das Problem der Deepfakes von Schweizerinnen, das der «Tages-Anzeiger» aufgedeckt hat. Schweizer Männer haben seit Juli 2024 mindestens 72 sexualisierte Deepfakes von 14 meist bekannten Schweizer Influencerinnen auf Telegram veröffentlicht. Die mit KI erstellten Fotos und Videos zeigen die Frauen nackt oder in pornographischen Videos. Die Influencerinnen zeigen die Männer an.

Herabwürdigende Beleidigungen, Nacktbilder, sexualisierte Deepfakes: Fälle wie diese bringen nun prominente Schweizer Kulturschaffende dazu, sich öffentlich für die Internet-Initiative des Zuger Unternehmers Guido Fluri zu engagieren. Sie wurde am 3. März lanciert und will die grossen Tech-Giganten und KI-Anbieter über den Artikel 93a «Schutz im digitalen Raum» gesetzlich in die Pflicht nehmen.

«Dem Wilden Westen Einhalt gebieten»

Slam-Poetin und Filmemacherin Lara Stoll gehört zu den über einem Dutzend Kulturschaffenden, die sich engagieren und die Hunderttausende von Followern im Rücken haben. «Digitale Gewalt, Missbrauch und Desinformation sind reale Gefahren für die Demokratie», sagt sie. Autor und Kabarettist Bänz Friedli findet: «Wir müssen dem Wilden Westen im Web Einhalt gebieten und Betrug, Beschimpfung und Schikanen beenden.» Musiker Florian Ast betont: «Kinder und Jugendliche müssen auch im digitalen Raum wirksam geschützt werden.» Und der politische Influencer Flavien Gousset sagt: «Meine Mutter hat mich vor viereckigen Augen gewarnt. Dabei geht die viel grössere Gefahr von den Tech-Konzernen aus.»

In nur fünf Monaten haben die Initianten bereits 65'000 Unterschriften gesammelt. Im Komitee sitzen Mitglieder aller grossen Schweizer Parteien, von den Grünen bis hin zur SVP. Auch wichtige Organisationen wie der Dachverband  Lehrerinnen und Lehrer Schweiz oder die Stiftung für Konsumentenschutz haben Unterschriftenbögen verteilt.

Das Anliegen, die Tech-Konzerne gesetzlich in die Pflicht zu nehmen, sei seit der Lancierung der Initiative noch deutlich dringender geworden, sagt Guido Fluri. Der Unternehmer ist auch Gründer einer Stiftung gegen Gewalt an Kindern und hat 2014 die Wiedergutmachungsinitiative lanciert. «Insbesondere KI und Deepfakes sind zu einer reellen Gefahr für alle geworden», hält Fluri fest. «Immer mehr illegale, kriminelle und gefährliche Inhalte fluten das Internet, ohne dass die Tech-Plattformen endlich ihre Sorgfaltspflicht wahrnehmen würden.»

Guido Fluri spricht von Kipppunkt

Für Fluri ist klar: «Die Tech-Giganten maximieren den Profit, während bei der Allgemeinheit der Schaden entsteht.» Dass sich nun Kulturschaffende in grösserem Stil einschalten, überrascht ihn nicht. «Sie sind sehr sensibel, wenn es um gesellschaftlich relevante Themen geht», sagt er – und betont: «Wir stehen an einem Kipppunkt. Diese Persönlichkeiten wollen das Gewicht ihrer Stimme nutzen, um die Menschen und unsere Institutionen zu schützen.»

Sieht er die Schweiz in einem eigentlichen Kulturkampf? «Ja», sagt Unternehmer Fluri. «Unsere Demokratie und Grundrechte stehen auf dem Spiel. Die Menschen haben verstanden, dass wir jetzt handeln müssen.» Zwar hätten die Tech-Giganten eine enorme Macht auf sich konzentriert. «Aber wir sind in der Schweiz nicht machtlos», sagt Fluri. «Wir müssen die schädlichen Auswüchse der digitalen Transformation nicht einfach erdulden, sondern wir können sie aktiv mitgestalten.»

Das will Fluris Initiative ermöglichen. Sie geht deutlich weiter als der Bundesrat mit seiner Plattform-Regulierung, die er – vermutlich aus Rücksicht auf die Zollgespräche mit den USA – lange in der Schublade behielt. Die Regulierung will bei grossen Plattformen und Suchmaschinen vor allem Verfahren und Transparenz regeln. Plattformen müssten begründen, weshalb sie Inhalte gelöscht haben, interne Beschwerdeverfahren anbieten, und sie müssten an einer aussergerichtlichen Streitbeilegung teilnehmen. Auch sollten sie Werbung transparenter machen.

Plattformen sollen Pflichten erhalten

Die Initiative hingegen will vier zentrale Pflichten für grosse Plattformen, Suchmaschinen und KI-Anbieter festschreiben: Erstens sollen sie die Menschen vor Grundrechtsverletzungen schützen, zweitens Gewaltinhalte aktiv verhindern, drittens die Verbreitung von gezielten Desinformationskampagnen begrenzen und viertens die Bevölkerung vor Cyberkriminalität schützen.

Anders als die Plattformregulierung umfasst die Initiative auch den Kindes- und Jugendschutz und generative KI (Chatbots). Zudem will sie die Plattformen mit Risikominderungsmassnahmen dazu verpflichten, ihre Algorithmen zum Schutz der Menschen anzupassen.

Dass seine Initiative von Parlamentariern aus allen Lagern unterstützt wird, erklärt sich Fluri damit, dass es keine Frage «von links oder rechts ist», wenn Grundrechte und Demokratie in Gefahr seien.

«Als Vater schockiert mich zutiefst, dass auf Plattformen immer mehr Missbrauchsmaterial von Kindern auftaucht. Dass Frauen und Mädchen über KI-Programme mit einem Klick ausgezogen und sexualisiert werden können, ist der Wahnsinn und beschämt mich als Mann», sagt Fluri. «Und als Bürger empört mich, dass ausländische Akteure mit gezielten Desinformationskampagnen Demokratien über soziale Medien angreifen können.»

Er frage sich, sagt Fluri: «Wie ist es möglich, dass Plattformen Dienstleistungen anbieten können, bei denen so viel Schaden entsteht und keine wirksamen Gegenmassnahmen erfolgen müssen? Bei keiner anderen Industrie würde dies akzeptiert.»

Wie beschwerlich der Weg heute bei einem Vergehen über eine Plattform sein kann, erlebt gerade Bundesrätin Karin Keller-Sutter. Fünf Monate nach den sexualisierten Beschimpfungen und ihrer Strafanzeige ist noch immer nichts entschieden. Die Untersuchung sei, schreibt die Berner Staatsanwaltschaft, noch im Gang.