12.5 C
Munich
27. Mai 2019
Rauschgut – Zeitgeist & Infotainment
Digitalisierung Featured

Der Irrsinn der Digitalisierung: wie KI die Demokratie verändern wird.

die KI Demokratie

Ein Roboter kommt nach Berlin! Zum Regieren!

In diesem adaptierten Auszug aus seinem neuen Buch “Future Politics” gibt uns Jamie Susskind einen Einblick in die Zukunft der Demokratie. Was wäre, wenn die KI nicht nur gefälschte Nachrichten bekämpft, sondern bald auch für uns abstimmt und uns bei der Ausarbeitung von Rechtsvorschriften und Gesetzen hilft?

Die Demokratie steht an einem Scheideweg. Angesichts der bevorstehenden Kongresswahlen in den USA und der sich abzeichnenden Präsidentschaftswahlen im Jahr 2020 werden Millionen von Amerikanern ihren Glauben an Kandidaten setzen, deren Rhetorik demokratisch ist, die aber offen sind für Absichten, genau die Institutionen zu kompromittieren, die die Macht der gewählten Führer einschränken. Nicht nur in den Vereinigten Staaten, sondern auf der ganzen Welt – von Brasilien bis Ungarn – wenden sich die Wähler an autoritäre Führer, die versprechen die Macht des Volkes zu entfesseln, aber deren Definition von “das Volk” viele ausschließt, die nicht so sind wie diese denken. Bemerkenswert ist jedoch, dass die “illiberale” Wendung in der Entwicklung der Demokratie nicht die größte Herausforderung für die Idee der Regierung durch das Volk ist.

Die digitale Technologie untergräbt zunehmend die Annahmen und verwässert die Bedingungen, die der Demokratie seit Jahrhunderten zugrunde liegen. Inzwischen sind gefälschte Nachrichten und Polarisierungen vertraute Themen für diejenigen, die sich für die Gesundheit der Demokratie interessieren. Erst letzte Woche gab Facebook bekannt, dass es sein Personal für Sicherheit und für die Community auf 20.000 verdoppelt. Aber in Zukunft werden wir uns mit der viel bedeutenderen Idee der KI-Demokratie auseinandersetzen müssen und fragen, welche Entscheidungen von leistungsfähigen digitalen Systemen getroffen werden könnten und sollten und ob solche Systeme das Volk besser repräsentieren könnten als die Politiker, die wir in die Parlamente schicken.

Es ist eine Perspektive die mögliche ruhmreiche Erfolge herstellen könnte, aber auch schreckliche Risiken birgt. “Ist denn die Demokratie, wie wir sie kennen …”, fragte Henry David Thoreau 1849, “die letzte mögliche Verbesserung eine Gesellschaft zu regieren? Wäre es nicht möglich einen Schritt weiter zu gehen, um die Rechte des Menschen anzuerkennen und zu organisieren?” Heute stell sich da genau die gleiche Frage.

Dieser Buchauszug wurde aus Gründen der Länge und Übersichtlichkeit überarbeitet.

Wir neigen allzu sehr dazu gerne nur mit denen zu sprechen, die wir mögen und Nachrichten zu lesen, die unsere Überzeugungen bestätigen, während wir Informationen und Menschen herausfiltern, die wir für unangenehm und unangebracht halten. Die Technologien erlauben es uns zunehmend sehr persönlich gewünschte Informationen zu beziehen. Wenn Sie in den USA ein Liberaler sind oder in Deutschland ein Grüner, wo regelmäßig Twitter benutzt um das Rennen für das US-Repräsentantenhaus oder die Wahlprognosen zu verfolgen, kommen im Durchschnitt 90 Prozent der Tweets die Sie sehen von eben diesen Demokraten, Liberalen, Grünen; wenn Sie ein Konservativer sind, kommen fast 90 Prozent der Tweets die Sie sehen, normalerweise von Republikanern, der CSU, der AFD.

Der Begriff Fake News wurde ursprünglich verwendet, um Unwahrheiten zu beschreiben, die im Internet verbreitet und in Umlauf gebracht worden sind. Jetzt ist sogar der Begriff der gefälschten Nachrichten selbst bedeutungslos geworden, weil er die Möglichkeiten bietet, alles zu beschreiben, womit der Autor nicht einverstanden ist. Obwohl einige Social-Media-Plattformen Schritte unternommen haben um dem entgegenzuwirken, ist die Art der Online-Kommunikation (wie sie zu Zeit entwickelt wird und sich in Verwendung befindet) der schnellen Verbreitung von Fehlinformationen förderlich. Das Ergebnis ist eine so genannte „Post-Wahrheitspolitik“. Denken Sie einmal darüber nach: In den letzten drei Monaten der US-Präsidentschaftskampagne 2016 generierten mehr als 20 gefälschte Nachrichten auf Facebook mehr Aktien, Reaktionen und Kommentare als die 20 wichtigsten realen Geschichten aus den großen Nachrichtenagenturen zusammen (darunter die New York Times, Washington Post und Huffington Post). 75 Prozent der Menschen, die gefälschte Nachrichtenschlagzeilen gesehen haben, sind von ihrem Wahrheitsgehalt zweifellos überzeugt.

Leider bedeutet unsere angeborene Tendenz zur Gruppenpolarisation, dass die Mitglieder einer Gruppe mit der Zeit dazu neigen die gleichen falschen Ansichten zu teilen und in einer Form in diesen Ansichten extremer zu werden. Wie Cass Sunstein es ausdrückt: “Es sind genau die Menschen, die am ehesten gegensätzliche Ansichten herausfiltern, die sie am meisten hören wollen”. Wenn die Dinge so weitergehen wie sie sind, werden wir immer weniger gemeinsame Bezugspunkte und gemeinsame Erfahrungen haben. Wenn das passiert, wird die rationale Beratung immer schwieriger. Wie können wir uns auf etwas einigen, wenn das Informationsumfeld uns ermutigt, in allem anderer Meinung zu sein? “Ich glaube sehr an das Volk”, soll Abraham Lincoln gesagt haben. “Wenn man die Wahrheit sagt, kann man sich darauf verlassen, dass sie jeder nationalen Krise gewachsen sind. Der entscheidende Punkt dabei: ihnen die wahren Fakten zu vermitteln.”

Wer wird uns die wahren Fakten liefern?

Wichtig ist, dass diese Probleme nicht unvermeidlich sind. Wir können Lösungen finden. Social Network-Betreiber unternehmen langsam Schritte um ihre Diskussionsräume zu regulieren. Software-Ingenieure wie die unter loomio.org versuchen, mit Hilfe von Code ideale Beratungsplattformen zu schaffen. Die taiwanesische vTaiwan-Plattform hat es ermöglicht, einen Konsens in verschiedenen Fragen der öffentlichen Ordnung zu erzielen, darunter die Richtlinien für den Alkoholverkauf im Internet, die Vorschriften für die Mitfahrgelegenheit, so wie die Gesetze über Mitfahrökonomie und Airbnb. Die digitale Faktenkontrolle und das Trollspotting gewinnen an Bedeutung und der Prozess der Automatisierung dieser Arbeiten hat begonnen, wenn auch noch unvollkommen. Diese Bemühungen sind wichtig. Das Überleben essentieller Lehre und Beratung wird in der Zukunft zu einem großen Teil davon abhängen, ob sie erfolgreich ist.

Klar ist, dass ein Marktplatz für Ideen, so attraktiv die Idee auch klingt, vielleicht nicht das Beste ist. Wenn Inhalte gerahmt und priorisiert werden, je nachdem wie viele Klicks sie erhalten (und wie viel Werbeeinnahmen dadurch fließen), dann ist die Wahrheit oft das Opfer. Wenn die Debattierlobby von dem dominiert wird, der die Macht hat die wildeste Armee von Bots zu filtern oder freizusetzen, dann wird das Gespräch zugunsten derjenigen mit den besseren Technologien – nicht unbedingt der besseren Ideen – in bedenklicher Weise verzerrt. Die zu überdenkende Demokratie braucht ein Forum für die zivile Diskussion, nicht einen Marktplatz für schreiende Kaufleute.

Wie wir gesehen haben, werden diejenigen die digitale Plattformen kontrollieren, in Zukunft zunehmend die Sprache anderer überwachen. Gegenwärtig werden Technologieunternehmen immer mutiger um offensichtlich hasserfüllte Inhalte einzuschränken. Nur wenige unter uns werden zum Beispiel eine Träne vergossen haben, als Apple mehrere Apps von seiner Plattform entfernte die behaupteten, Schwule von ihrer Sexualität zu “heilen”. Auch nicht, als mehrere Content-Vermittler nach weißen rassistischen Demonstrationen in Charlottesville Mitte 2017 aufhörten, Inhalte von rechten Hassgruppen zu verkaufen. (Das Delivery Network Cloudfare hat das Konto des neonazistischen Daily Stormer gekündigt. Der Musik-Streaming-Dienst Spotify stellte die Bereitstellung von Musik von “Hass-Bands” ein Die Gaming-Chat-App Discord hat die Konten im Zusammenhang mit dem Charlottesville-Fracas geschlossen. Facebook verbot eine Reihe von rechtsextremen Gruppen mit Namen wie “Red Winged Knight”, “White Nationalists United”, “Right Wing Death Squad” und “Vanguard America”).

Aber was ist wenn Facebook die Seite des Bürgermeisters einer großen kurdischen Stadt entfernt, obwohl sie von mehr als vierhunderttausend Menschen “geliked” worden ist? Laut Zeynep Tufekci hat Facebook diese Maßnahme ergriffen, weil es nicht in der Lage war, “gewöhnliche Inhalte, die nur über Kurden und ihre Kultur handeln” von der Propaganda der PKK zu unterscheiden, einer Gruppe, die vom US-Außenministerium als terroristische Organisation bezeichnet wird. In Tufekci’s Worten: “Es war so, als würde man jede irische Seite mit einem Kleeblatt oder einem Kobold als Seite der Irischen Republikanischen Armee verbieten.”

Mein Ziel ist es nicht diese individuellen Entscheidungen zu kritisieren von denen buchstäblich Millionen jedes Jahr getroffen werden, wo heute viele davon durch automatisierte Systeme entstehen. Der größere Punkt ist dass die Befugnis zu entscheiden, was als so ärgerlich, ekelhaft, beängstigend, verletzend oder beleidigend angesehen wird, oder Dinge die überhaupt nicht ausgesprochen werden sollten, einen wesentlichen Einfluss auf die Gesamtqualität unserer Beratung hat. Es ist nicht klar warum so genannte “Community-Richtlinien” der beste Weg wären, dies auf systemischer Ebene zu bewältigen: Die ultimative “Community” die betroffen ist, ist die politische Gemeinschaft als Ganzes. Es ist daher sehr naiv zu behaupten dass diese Plattformen wie private Debattierclubs sind: Sie sind der neue Agressor und seine Folgen betreffen uns alle.

Die Idee der uneingeschränkten Meinungsfreiheit auf digitalen Plattformen ist sicherlich kein „StartUp“. Einige Formen extremer Sprache sollten aus historischem Erfahrungswert nicht toleriert werden. Schon im neunzehnten Jahrhundert akzeptierte der Philosoph John Stuart Mill, dass bestimmte Einschränkungen notwendig waren. In seinem Beispiel ist es akzeptabel einer Zeitung zu sagen, dass “Maishändler Hungernde der Armen sind”, aber nicht akzeptabel, die gleichen Worte “an einen aufgeregten Mob zu richten, der vor dem Haus eines Maishändlers versammelt ist”. Mill hat es verstanden und dass wir sicherlich nicht zimperlich sein sollten, wenn es um Regeln geht die sich auf die Form der Rede und nicht auf ihren Inhalt konzentrieren. So wie es auch möglich ist um Mitternacht in der Innenstadt einer Metropole Partylärm zu ertragen, können wir sicherlich auch akzeptieren, dass der Online-Diskurs nach Regeln geführt werden sollte, die klar und fair definieren, wer wann, für wie lange und so weiter sprechen darf. In Zukunft wird dies wichtiger sein denn je: Der “excited mob” von Mill ist viel einfacher einzuberufen, sei es physisch oder digital, mit den uns zur Verfügung stehenden Technologien.

Es wäre leicht, die „Post-Wahrheitspolitik“ allein auf die digitale Technologie zu schieben. Aber die Wahrheit (!) ist doch, dass die Menschen eine lange und reiche Geschichte haben, Betrug für politische Zwecke zu nutzen. Richard Hofstadter’s Beschreibung des “paranoiden Stils” im öffentlichen Leben von 1963 – “erhitzte Übertreibung, Misstrauen und verschwörerische Fantasie” – hätte heute beschrieben werden sollen. Das Gleiche gilt für George Orwells Beschwerde in seinem Tagebuch von 1942:

Wir alle ertrinken im Dreck. Wenn ich mit jemandem spreche oder die Schriften von jemandem lese, der eine feindliche Axt zu schleifen hat, habe ich das Gefühl dass die intellektuelle Ehrlichkeit und ein ausgewogenes Urteilsvermögen einfach vom Erdboden verschwunden sind…. jeder legt einfach einen “Fall” vor, mit der bewussten Unterdrückung der Sichtweise seines Gegners und was noch wichtiger ist, mit völliger Unempfindlichkeit gegenüber allen Leiden außer denen von ihm selbst und seinen Freunden.

KI-Demokratie

jamie susskind future politicsWenn wir weiter in die Zukunft blicken, können wir erkennen dass eines der Hauptziele der Demokratie darin bestehen muss, die in den Köpfen der Menschen enthaltenen Informationen und Kenntnisse freizusetzen und politisch zu nutzen. Aber wenn man darüber nachdenkt, liefern Wahlen und Referenden keinen besonders reichen Fundus an Informationen. Eine Abstimmung über eine kleine Anzahl von Fragen – in der Regel welche Partei oder welcher Kandidat zu unterstützen ist – führt nur zu einer kleinen Anzahl von Datenpunkten. Im Kontext einer zunehmend quantifizierten Gesellschaft ist die Informationsmenge die durch den demokratischen Prozess erzeugt wird – auch wenn private Umfragen berücksichtigt werden – lächerlich gering. Erinnern Sie sich daran, dass bis 2020 erwartet wird dass wir alle paar Stunden die gleiche Menge an Informationen generieren werden wie von den Anfängen der Zivilisation bis 2003. Diese Daten werden ein Protokoll des menschlichen Lebens liefern, das für unsere Vorgänger unvorstellbar gewesen wäre. Dies wirft die Frage auf: Warum sollten wir alle paar Jahre auf der Grundlage eines Häkchens in einer Box regieren?

Indem wir große Mengen der verfügbaren Daten sammeln und zusammenfassen und dabei die Interessen, Vorlieben und Werte aller Beteiligten gleichermaßen berücksichtigen, könnten wir ein möglichst scharfes und vollständiges Bild des Gemeinwohls zeichnen. Nach diesem Modell könnte die Politik auf einem unvergleichlich reichen und genauen Bild unseres Lebens basieren: was wir tun, was wir brauchen, was wir denken, was wir sagen, wie wir uns fühlen. Die Daten wären frisch und werden in Echtzeit und nicht im Vier- oder Fünfjahresrhythmus aktualisiert. Theoretisch würde sie ein größeres Maß an politischer Gleichheit gewährleisten – da sie von allen gleichermaßen wahrgenommen würde, nicht nur von denen, die dazu neigen, sich in den politischen Prozess einzubringen. Und Daten, die das Argument ausführen lügen nicht: Sie zeigen uns wie wir wirklich gegenwärtig sind und nicht,wie wir denken, dass wir es gerne wären.

Maschinenlernende Systeme sind zunehmend in der Lage unsere Ansichten aus dem was wir tun und sagen abzuleiten. Die Technologien dafür existieren bereits um die öffentliche Meinung zu analysieren, indem sie das Massengefühl in sozialen Medien verarbeiten. Digitale Systeme können auch unsere individuellen Ansichten mit zunehmender Genauigkeit vorhersagen. Der Algorithmus von Facebook benötigt zum Beispiel nur 10 “Gefallen” bevor er Ihre Meinungen besser vorhersagen kann als Ihre Kollegen, 150 bevor er Ihre Familienmitglieder besiegen kann und 300, bevor er Ihre Meinung besser vorhersagen kann als Ihr Ehepartner. Und das auf der Grundlage einer winzigen Datenmenge im Vergleich zu der Menge, die in Zukunft verfügbar sein wird.

Die nächste logische Frage ist: Welche Rolle wird die künstliche Intelligenz bei der Steuerung menschlicher Angelegenheiten spielen?

Wir wissen, dass es bereits Hunderte, wenn nicht gar Tausende von Aufgaben und Aktivitäten gibt, die früher nur von Menschen durchgeführt wurden und die jetzt von KI-Systemen durchgeführt werden können. Oft besser und in viel größerem Umfang als das Menschen jemals im Stande wären umzusetzen. Diese Systeme können nun in fast jedem Spiel die erfahrensten unter uns behaupten. Wir haben guten Grund zu der Annahme, dass diese Systeme nicht nur leistungsfähiger werden, sondern sich auch ihr Entwicklungstempo mit der Zeit beschleunigen wird.

Zunehmend vertrauen wir KI-Systemen Aufgaben von höchster Bedeutung und Sensibilität an. In unserem Namen handeln sie mit Aktien und Anteilen im Wert von Milliarden von Euro oder Dollar, berichten über die Neuigkeiten und diagnostizieren unsere tödlichen Krankheiten. In naher Zukunft werden sie unsere Autos für uns fahren und wir werden darauf vertrauen, dass sie uns sicher dorthin bringen. Wir sind bereits damit vertraut, dass KI-Systeme unser Leben und unseren Lebensunterhalt in ihre (metaphorischen) Hände nehmen. Wenn sie explosionsartig leistungsfähiger werden, wird unser Komfort zunehmend gerechtfertigt sein.

Unter diesen Umständen ist es nicht unvernünftig, geschweige denn verrückt zu fragen, unter welchen Umständen wir KI-Systemen erlauben könnten, an einigen Aufgaben der Regierungen mitzuarbeiten. Wenn Deep Knowledge Ventures, ein in Hongkong ansässiger Investor, einen Algorithmus in seinen Vorstand berufen kann, ist es dann so phantasievoll zu bedenken, dass wir in Zukunft KI-Systeme für die lokalen Wasserwerke oder Energiebehörden einsetzen könnten? Jetzt ist es an der Zeit, dass politische Theoretiker die Idee ernst nehmen, dass Politik – genau wie Wirtschaft und Beruf – einen Platz für künstliche Intelligenz haben könnte.

Erstens könnten wir einfache KI-Systeme verwenden um uns zu helfen, die Entscheidungen zu treffen, die die Demokratie von uns verlangt. Es gibt bereits Apps die uns mitteilen, für wen wir stimmen sollen, basierend auf unseren Antworten auf die dort gestellten Fragen. Eine solche App bezeichnet sich selbst als “Matchmaking for politics”, was ein wenig nach einem Blind Date klingt um irgendeinen gruseligen Politiker an der Bar zu treffen. In Zukunft werden solche Apps wesentlich ausgefeilter sein und sich nicht mehr auf Fragebögen stützen, sondern auf die Daten, die unsere tatsächlichen Lebenssituationen und Prioritäten aufzeigen.

 

robot ai
Viele mühselige Arbeiten der Menschen werden in Zukunft Roboter übernehmen.

Im Laufe der Zeit könnten wir sogar solche Systeme im demokratischen Prozess in unserem Namen abstimmen lassen. Dazu gehört auch die Übertragung von Befugnissen (in großen oder kleinen Angelegenheiten, wie wir es wünschen) an spezialisierte Systeme, von denen wir glauben dass sie einfach besser in der Lage sind unsere Interessen zu bestimmen, als wir das jemals könnten. Steuern, Verbraucherschutz, Umweltpolitik, Finanzaufsicht – all dies sind Bereiche, in denen Komplexität oder Unwissenheit uns ermutigen können, ein KI-System eine Entscheidung für uns treffen zu lassen, basierend auf dem, was es über unsere gelebte Erfahrung und unsere moralischen Präferenzen weiß. In einer stressigen direkten Demokratie, wie sie bereits in diesem Kapitel beschrieben wurde, könnte die Übertragung Ihrer Stimme an ein vertrauenswürdiges KI-System viele Stunden am Tag sparen.

Ein noch fortschrittlicheres Modell könnte darin bestehen, dass die Zentralregierung jeden Tag Tausende von Untersuchungen der Bevölkerung durchführt, anstatt nur einmal alle paar Jahre – ohne uns überhaupt stören zu müssen.66 KI-Systeme könnten in unserem Namen und mit zunehmender Geschwindigkeit auf Regierungs-Nanostimmen reagieren und ihre Antworten müssten nicht auf ein binäres Ja oder Nein beschränkt sein. Sie könnten Vorbehalte (mein Bürger unterstützt diesen Aspekt dieses Vorschlags, aber nicht diesen Aspekt) oder Ausdruck der Intensität enthalten (mein Bürger lehnt dies leicht ab, unterstützt dies aber nachdrücklich). Ein solches Modell hätte einen weitaus höheren Anspruch auf Berücksichtigung der Interessen der Bevölkerung als das Modell, mit dem wir heute leben.

In absehbarer Zeit könnten auch die KIs am Gesetzgebungsprozess teilnehmen und so zur Ausarbeitung und Änderung von Rechtsvorschriften beitragen. Und auf lange Sicht könnten wir sogar zulassen, dass KIs als eine Art juristische Personen eingetragen sind und sogar für die Wahl in administrativen und technischen Positionen in der Regierung “kandidieren”.

KI-Systeme könnten eine Rolle in der Demokratie spielen und gleichzeitig den traditionellen demokratischen Prozessen, wie menschlichem Denken und menschliches Handeln, untergeordnet bleiben. Und sie könnten der Ethik ihrer menschlichen Meister unterworfen werden. Es sollte nicht notwendig sein, dass die Bürger ihr moralisches Urteilsvermögen aufgeben, wenn sie es nicht wollen.

Dennoch gibt es ernsthafte Einwände gegen die Idee der KI-Demokratie. An erster Stelle steht der Einwand der Transparenz: Können wir ein System wirklich als demokratisch bezeichnen, wenn wir die Grundlage der in unserem Namen getroffenen Entscheidungen nicht wirklich verstehen? Obwohl die KI-Demokratie uns in unserem täglichen Leben freier oder wohlhabender machen könnte, würde sie uns auch lieber an die Systeme versklaven, die in unserem Namen entscheiden. Man kann sehen, wie Perikles vor Ekel den Kopf schütteln würde.

jamie-susskind
Vorerst leider nur bei Amazon in “english” erhältlich eine deutsche Übersetzung erscheint noch in diesem Jahr.

In der Vergangenheit waren die Menschen unter den richtigen Umständen bereit, ihre politischen Angelegenheiten an mächtige, unsichtbare Intelligenzen zu übergeben. Bevor sie Könige hatten, lebten die Hebräer des Alten Testaments ohne irdische Politik. Sie unterlagen nur der Herrschaft Gottes selbst, gebunden an den Bund den ihre Vorfahren mit ihm geschlossen hatten. Die alten Griechen konsultierten Omen und Orakel. Die Römer blickten zu den Sternen. Diese Praktiken erscheinen heute sehr romantisch und weit von den Bedingungen unserer Realität entfernt. Es ist einfach unvereinbar mit dem, was wir über Rationalität und die wissenschaftliche Methode wissen. Aber sie lösen Selbstbeobachtung aus. Wie weit sind wir bereit zu gehen – was sind wir bereit zu opfern – um ein Regierungssystem zu finden, das das Volk tatsächlich repräsentiert? Und zwar so, wie es gegenwärtig wirklich ist und nicht so, wie wir „meinen“ das es sein könnte.

Aus der Zukunftspolitik: Zusammenleben in einer von Tech verwandelten Welt von Jamie Susskind. Copyright © 2018 by Jamie Susskind und veröffentlicht von Oxford University Press. Alle Rechte vorbehalten.

Related posts

Für Enthusiasten: Bisher eines der geilsten Reggae Konzerte die im Internet zu finden sind.

Mathahasy

Algorithmen als ein Werkzeug für Recht und Gerechtigkeit?

Mathahasy

Pass auf , dass Dich Dein Wasser nicht bei der Selbstbefriedigung beobachtet, es wird sich daran erinnern!

Mathahasy

Meinung hinterlassen

Zur Verbesserung unseres Onlineangebotes als auch zu Ihrer und unserer Sicherheit verwendet Rauschgut Cookies. Das sind kleine Textdateien im Speicher Ihres Browsers, wo wir Sie unter anderem als wiederkehrender Besucherix wiedererkennen. Aktzeptieren Datenschutzerklärung