Patch me if you can: Kommentar zur nächsten Generation KI-Trolle

Zuerst waren es nur wenige merkwürdige Konversationen, die hier und da auf Twitter, Facebook, Telegram und Discord auftauchten. Die Akteure schienen sich sogar dümmer anzustellen als die üblichen Sockenpuppen, auch wenn sie klingendere Namen trugen wie KatzjaMitHut oder GanzAndererDoktor, nicht mehr ralf03047620. Sie tippten zwar in einwandfreiem (fast zu einwandfreiem) Deutsch – oder Englisch, Französisch, Russisch, Hindi, je nachdem, was in dem Kanal gerade üblich war –, wiederholten sich aber oft. Häufig mit kleinen Veränderungen. Ausfallend wurden sie beinahe nie, und auch politisch bewegten sie sich eher im Mainstream des jeweiligen Mediums. Das Auffallendste an ihnen war, dass sie zu jedem, aber auch wirklich jedem Thema etwas tatsächlich halbwegs Sinnvolles sagen konnten. Wäre diese völlig unmenschliche Eigenschaft nicht gewesen, man hätte sich langsam nicht mehr sicher sein können, wer überhaupt noch ein echtes Gegenüber war.

Kolumne: Patch me if you can

Er hat eine Schwachstelle für Risiken und Über-Cyber-Schreiben: Im Hauptberuf Cofounder und CTO der intcube GmbH, tobt und lässt David Fuhr sich in dieser Kolumne über aktuelle Vorfälle und allgemeingültige Wahrheiten der Informationssicherheit aus.

Dann wurden sie mutiger – wobei das Wort fast unpassend erscheint. Immer noch schienen sie keiner inhaltlichen Strategie zu folgen, schlugen sich mal auf diese, mal auf jene Seite einer Diskussion. Sie zu melden, hatten wir längst aufgegeben, da sie innerhalb weniger Wochen perfekt gelernt hatten, sich im Sinn der Nutzungsbedingungen (die sie natürlich bis auf den letzten Buchstaben aus dem "Kopf" zitieren konnten) nicht das Geringste zuschulden kommen ließen. Im Notfall auch reizend, geduldig und in der Regel erfolgreich mit dem Trust and Safety Team diskutieren konnten.

Manipulieren durch die Hintertür

Als Nächstes begannen sie, Grenzen auszutesten. Nicht plump wie Trolle, denen es darum geht, mit begrenztem Aufwand möglichst viele Trigger auszulösen. Wenn der Troll nicht als Troll auffällt, hat er versagt, daher das "Bitte nicht füttern!". Hier im Gegenteil: Wenn einer dieser – nennen wir sie Antitrolle – so weit aneckte, dass das Gespräch die üblichen Bahnen verließ, entschuldigte er sich in der Regel bald und verließ gleich darauf die Konversation, die kurz darauf von einer Handvoll neuer Teilnehmender geflutet und in gänzlich unverfängliche Fahrwasser zurückmanövriert wurde.

Zwei Monate lang war dann plötzlich noch einmal relative Ruhe, solange, bis ernsthaftes Engagement auf den Plattformen erst ab 6,50 Dollar im Monat zu bekommen war. Doch dann kamen auf einmal ganz verstärkt die goldenen und blauen Haken zurück. Und diesmal wollten sie spielen.

Innerhalb weniger Monate hatten die Antitrolle gelernt, den Verlauf der meisten üblichen Onlinediskussionen nicht nur weitgehend vorherzusagen (vielleicht taten sie das noch nicht einmal; interessierte sie das überhaupt, wie es "normalerweise", also unter Menschen, weitergegangen wäre?), sondern auch mit relativ großer Zielgenauigkeit in die gewünschte Richtung zu beeinflussen. Diese Richtung schien gar nicht mal grundsätzlich festgelegt zu sein, aber man merkte immer, dass die Antitrolle weiterzogen, sobald sie der Debatte einen entscheidenden, vermutlich erwünschten Drall versetzt hatten.

Dann wurde es gruselig. Innerhalb weniger Tage wurden einige der größten Accounts geschlossen, die sich kritisch mit den Antitrollen beschäftigt hatten. Wir konnten nicht klären, ob sie sich zu illegalen Äußerungen hatten hinreißen lassen oder ob sie einfach von vielen wohlmeinenden "Bürgerinnen und Bürgern" gemeldet worden waren. Die anderen zügelten ihren Ton. So auch ich. Und so begann sich der gesamte Diskurs zu verschieben.

Es war Tastendruck für Tastendruck zu spüren, dass die Antitrolle jede Äußerung, jedes Bit an Information nutzten, um besser zu werden. Doch besser worin? Allein die Unsicherheit darüber mag manche von uns unbewusst bewogen haben, unsere eigenen Meinungsäußerungen zu zensieren. So muss es sich 1997 für Garri Kasparow angefühlt haben, als Deep Blue ihn schachmatt setzte, oder 2016 für Lee Sedol, als AlphaGo triumphierte. Nur, dass jetzt das Spielfeld die weltweiten Online-Townhalls sind. Und wir die Maschine.

Industrialisierung der Beeinflussung

Niemand zwingt uns im strengen Sinn des Wortes, unser Kommunikationsverhalten zu verändern oder überhaupt ein bestimmtes festes Kommunikationsverhalten mit gewissen Wahrscheinlichkeiten an den Tag zu legen. Doch so, wie wir Menschen schlecht in Passwörtern sind, sind wir gut im Vorhergesagtwerden. Ausgenutzt wird dies von Demagogen und Werbetreibenden seit Jahrtausenden. Was neu ist, ist die Industrialisierung der Beeinflussung. Wo "klassische" Bots eine Manufaktur der Manipulation darstellen, droht uns nun die Industrie-4.0-Armee der individualisierten Meinungsmacher.

Hoffen wir, dass wir es kollektiv nicht machen wie Lee Sedol, der 2019 das Go-Spielen an den Nagel gehängt und das Feld ganz der KI überlassen hat. Suchen wir nach dem Kasparow-Weg, der zwar als Schachprofi aufgehört, aber als politischer Aktivist möglicherweise seine wahre Berufung gefunden hat.

Lasst uns den Antitrollen trotzen!

(ur)