Die Angriffe der Verhaltensdesigner auf Freiheit und Demokratie

Apropos Nudging: Regierungen und (Technologie)-Unternehmen versuchen das Verhalten von Bürgern und Nutzenden mit “subtilen” Stupsern zu beeinflussen. Das beschneidet die Freiheit des Einzelnen und gefährdet die Demokratie.

Aus dem Beitrag für CARTA. info von Gisela Schmalz am 10.12.2019: Autoritäres »Stupsverhalten« untergräbt die Demokratie, die von den Beiträgen autonomer Individuen lebt. (…) Die meisten Menschen wissen besser als ihre selbsternannten Väter, was gut und was schlecht für sie ist. Eigenständige Entscheidungen können sie jedoch nur dann treffen, wenn sie wahrheitsgemäß und verständlich über ihre Wahlmöglichkeiten und die Kontexte ihrer Entscheidungen informiert werden.

#ZukunftderDemokratie

Vollständiger Artikel:

Die Angriffe der Verhaltensdesigner auf Freiheit und Demokratie

 

von Gisela Schmalz

10.12.2019 veröffentlicht bei CARTA.info

 

»To nudge« heißt auf Deutsch, ganz niedlich, »stupsen«. Nudging ist aber nichts Niedliches. Es bezeichnet die subtile Modellierung von Entscheidungsarchitekturen mit dem Ziel, menschliches Verhalten ohne Anweisungen, Verbote oder Zwang in vorhersehbarer Weise zu ändern. 2008 erschien das Buch »Nudge: Improving Decisions About Health, Wealth, and Happiness« des Verhaltensökonomen Richard Thaler und des Juristen Cass Sunstein. Mit gleicher Begeisterung lasen und lesen es Leute, die andere manipulieren wollen, und Leute, die mangels Selbstbeherrschung mit Nudges zum »besseren Verhalten« angestupst werden wollen. Eine im Pissoir klebende Fliege zum Draufzielen hat noch niemandem geschadet – auch nicht die Ausgabe kleiner Essteller oder das Platzieren von Obstschalen auf Sichtniveau in Kantinen. Auch am Straßenrand aufleuchtende Smileys, wenn Autos in gedrosseltem Tempo vorbeifahren und nicht einmal die Fotos von Lungenkarzinomen, Krebsgeschwüren und Leichen auf Zigarettenschachteln stören oder schaden. Mit derlei gesetzeskonformen Tricks versuchen Arbeitgeber und Staatsbeamte ihre Schutzbefohlenen zu erziehen. Nudges sollen Menschen auf den Weg der Tugend stupsen, sie dazu bringen, gesünder zu leben, für ihr Alter vorzusorgen oder Energie zu sparen. Den US-Präsidenten Barack Obama überzeugte das Stups-Konzept, das auf behavioristischen Erkenntnissen beruht. Von 2009 bis 2012 ließ er den Nudge-Fachmann Cass Sunstein im »Office of Information and Regulatory Affairs« Nudges für US-Bürger erarbeiten. Auch der britische Premierminister David Cameron und seine Regierung ließen sich verhaltenstheoretisch inspirieren und richteten eine Nudging-Abteilung ein. Die Stups-Begeisterung der deutschen Kanzlerin Angela Merkel hielt sich zunächst in Grenzen. Sie stellte nicht, wie Barack Obama, bereits 2008 dreißig, sondern erst 2015 drei Nudging-Spezialisten ein, die Stups-Konzepte entwerfen sollten.

Doch Menschen pissen weiterhin fröhlich über Beckenränder, essen immer noch zu viel, darunter Mengen an Süßigkeiten, rauchen bis der Krebs kommt, fahren zu schnell und lassen Automotoren im Stand laufen. Nudging wirkt nicht bei jedem und jeder. Bei wiederholtem Einsatz zeigt es Abnutzungseffekte (Ekelbilder auf Zigarettenschachteln). Viele durchschauen das Nudging und auch die Rechtfertigung dafür, den Ausdruck »libertärer Paternalismus«, als Bevormundung. Die Formel »libertärer Paternalismus« ist in sich widersprüchlich. Dieses Begriffsmonstrum zeugt von der autoritären Überheblichkeit derer, die Nudging als seligmachend verkaufen wollen. Die Nudge-Heilsbringer Thaler und Sunstein stellten ihrem Terminus »Paternalismus« das Adjektiv »libertär« voraus, als wollten sie sich bei den Zielpersonen des Nudging für deren Freiheitsberaubung entschuldigen oder sie erneut austricksen. Stellen Autoritäten Menschen Obstschüsseln unter die Nasen oder lassen sie Formulare mit vorausgefülltem »ja« beim Stichwort »Organspende« unterschreiben, behandeln sie sie wie überlistbare Kinder. Sie befördern eine allgemeine Verdummung, die von schlechter Bildungspolitik vorbereitet wurde. Paternalistisches Nudging ist Manipulation. Nichts daran ist »libertär«. Freie Bürger brauchen keine väterlichen Stupser – weder von Arbeitgebern noch von Staatsbeamten – und schon gar nicht von den »Nutzererfahrungsspezialisten« der mächtigen Technologiekonzerne.

Die digitalen Stupser von datensammelnden, werbe- und propagandatreibenden Tech-Firmen sind perfider als die analogen, weil sie schlechter identifizierbar sind. Permanent auf Nutzende losgelassene Online-Nudges sollen sie zum Dauerkonsum von Social Media-, Video-, Game- und sonstigen Angeboten, zum Klicken von Werbehinweisen oder zum Konsum verleiten. In Tech-Konzernen werden Verhaltensökonomen und Psychologen derzeit hofiert. Auf der Grundlage behavioristischer Erkenntnisse, dass Menschen lieber kurz- als langfristig denken, mehr Angst vor Verlust  als Lust am Risiko bei Gewinnchancen zeigen, sich an anderen Personen (Social Influence), an vorausgegangenen Reizen (Priming) oder den unmittelbar verfügbaren Informationen (Anchoring) orientieren, basteln sie in Teams mit Entwicklern und Programmierern an verhaltensverändernden, technologischen Nudges. Sie betreiben »Psychological Engineering« oder »Social Engineering«, wenn sie für fehlbare, vertrauensselige Menschen personalisierte Entscheidungsstrukturen, stupsende Blings, Pfeile, Meldungen, rote Buttons und andere Nudges kreiieren. US-Firmen wie Facebook (Instagram, WhatsApp), Alphabet (YouTube), Amazon, Twitter oder Snapchat und chinesische Konzerne wie Tencent (WeChat) oder ByteDance (TikTok) bauen ihren Algorithmen, Apps und Plattformen »persuasives Design« ein. Ziel ist es, damit das Denken, Wahrnehmen, Fühlen und Verhalten möglichst vieler Nutzender möglichst lange zu kapern, um sie mit den Botschaften oder Waren (bezahlender) Auftraggeber konfrontieren zu können.

Mit einem Brief wandten sich im August 2018 50 US-Psychologen an die »American Psychological Association« (APA). Darin verwiesen sie auf die unethischen Praktiken ihrer Kollegen, die für Tech-Konzerne »versteckte Manipulationstechniken« designten. Sie forderten ihren Verband dazu auf, sich für den Schutz tech-dauernutzender Kinder zu engagieren. Der Experimentalpsychologe B. J. Fogg hat den Aufruf nicht unterschrieben. Der Gründer und Direktor des »Stanford Behavior Design Lab« forscht seit 1997, inzwischen auch unter dem Stichwort »Gewohnheiten«, in Stanford an den Fragen, wie Webseiten auf Nutzende glaubwürdig wirken und wie Computer die Meinungen und Handlungen von Nutzenden in zuvor festgelegter Weise beeinflussen können. Dazu kooperiert Fogg mit Konzernen wie Facebook. Einige spätere Silicon Valley-Größen, darunter die Instagram-Gründer Kevin Systrom und Mike Krieger, wurden in seinem Labor ausgebildet. Trotz des Psychologen-Apells und trotz in aller Welt immer lauter geäußerter Kritik basteln »Verhaltensarchitekten« weiterhin an süchtig machenden und »persuasiven Technologien«.

Doch genauso wenig wie Paternalismus »libertär« ist, sind Tech-Nudges persuasiv im Sinne von »überzeugend«. Sie richten sich nicht an die Ratio, sondern an das Unbewusste der Zielpersonen. Sie sind unterschwellig manipulativ. Verhaltensforscher haben festgestellt, dass Menschen Denkabkürzungen wählen, eher schnell und instinktiv, als langsam und überlegt vorgehen (Daniel Kahnemann: »Thinking, Fast and Slow«). Sie analysieren nicht misstrauisch jeden Pfeil, jedes Zeitlimit, jede Empfehlung oder jedes Autoplay, dem sie im Netz begegnen. Lieber geben sie sich dem Flow der Algorithmen, ihrer Neugier und Spiellust hin. In der Regel bleibt den Normalnutzenden sowieso nichts anderes übrig: Entscheidungsmodulationen erleichtern die Qual der Wahl. Außerdem sind sie für sie schlecht oder gar nicht identifizierbar, gerade wenn sie neu oder raffiniert sind – und neue, raffinierte Beeinflusserlein werden ständig ausprobiert. Ihre anscheinende Harmlosigkeit und Unbegreiflichkeit machen Nudges so wirkungsvoll. Menschen tappen in die auf Datenbasis speziell für sie maßgeschneiderten Fallen. Sie betrachten, klicken, kaufen, denken, wählen und tun das, wohin Nudges sie stoßen. Nudgenden Tech-Konzernen bescheren ihre Tricks nicht bloß höhere (Werbe-) Einnahmen. Neben wirtschaftlicher Macht verschaffen sie ihnen zusätzlich immer mehr politischen, sozialen und psychologischen Einfluss über Einzelpersonen, Gruppen und ganze Gesellschaften. Autoritäres »Stupsverhalten« untergräbt die Demokratie, die von den Beiträgen autonomer Individuen lebt.

Dass technologisches Bürger-Nudging breiten- und tiefenwirksam ist, illustriert das Sozialkreditsystem Chinas. In der Volksrepublik kooperieren der Zentralrat und die heimischen Tech-Konzerne erfolgreich an der Verhaltensmodulation chinesischer Bürger. Damit diesen die Gängelung Spaß macht und mögliche Befürchtungen zerstreut, ist sie wie ein großes Gesellschaftsspiel konstruiert. Wer sich nudgen lässt, wird auch genudged. Menschen sollten schleunigst System 2 (Daniel Kahnemann) anwerfen, ihr langsames, reflektiertes, überlegtes und schlussfolgerndes Nachdenken darüber, was ihnen technologisch so alles vorgesetzt wird und wie es sie und ihre Umwelt prägen könnte. Nur ihre Reflektiertheit kann sie vor den manipulierenden Designs monetär oder ideologisch getriebener Tech-Modellierer bewahren. Nutzende sollten langsamer und aufmerksamer als bisher durch technologische Welten reisen und womöglich öffentlich gegen Nudging mobilisieren. Auch Vater Staat muss hier aktiv werden, wenn er sich schon paternalistisch geriert. Regierungen des Westens sollten sparsam mit eigenen Nudges umgehen. Und sie sollten nudgenden Tech-Konzernen, die das Unbewusste, die Unkenntnis und die Trägheit von Menschen für ihre Zwecke ausschlachten, dringend Einhalt gebieten. Verhaltenssteuernde Architekturen und Technologien sind permanent zu beobachten. Die Unternehmen dahinter sind zur Offenlegung ihrer Methoden zu verpflichten. Das gelingt vermutlich nur, wenn Gesetze sie dazu zwingen, ihre Verfahren zu erklären und Nutzende jedes Mal deutlich darauf hinzuweisen, wohin welcher Stupser sie wie lenken soll. Flankierend sollten staatliche Aufklärungskampagnen und sinnvolle Bildungsmaßnahmen zur Erhellung der Nutzenden (Bürger) eingesetzt werden. Menschen brauchen Aufklärung, statt Nudges. Sie verdienen, ihre Würde und Wahlfreiheit respektierende Entscheidungsarchitekturen. Das sind Wahlsituationen, die mehrere und nicht nur ein bis drei Optionen bieten, und die die Vernunft (System 2) ansprechen, statt niedere Instinkte (System 1) auszubeuten. Die meisten Menschen wissen besser als ihre selbsternannten Väter, was gut und was schlecht für sie ist. Eigenständige Entscheidungen können sie jedoch nur dann treffen, wenn sie wahrheitsgemäß und verständlich über ihre Wahlmöglichkeiten und die Kontexte ihrer Entscheidungen informiert werden. Nudgende Regierungen und Tech-Konzerne müssen ihre Beeinflussungsvorhaben und -verfahren offenlegen. Und wollen sie Menschen für ihre Ideen, Ziele oder Produkte gewinnen, so sollten sie sie zu überzeugen versuchen, anstatt sie latent zu überrumpeln. Bürger und Kunden sind herausgefordert, bevormundende Designs aufzuspüren und besonnen auf sie zu reagieren. Nudge-Auge sei wachsam! Nur wer seine Optionen kennt und weiß, was er will und nicht will, kann selbstbestimmt und ungestupst entscheiden.

 

© Gisela Schmalz

Recommended Citation/Empfohlene Zitierweise: Schmalz, Gisela: “Die Angriffe der Verhaltensdesigner auf Freiheit und Demokratie” (2019).  https://www.giselaschmalz.com/die-angriffe-der-verhaltensdesigner-auf-freiheit-und-demokratie/

Erschienen c/o CARTA.info: Gisela Schmalz: “Die Angriffe der Verhaltensdesigner auf Freiheit und Demokratie“ (2019)

Fürchtet Euch nicht! – Wozu eine KI-rche?

von Gisela Schmalz

 

Irgendjemand musste es machen. Anthony Levandowski hat den Ruf gehört und ist ihm gefolgt. 2015 hat er eine Kirche gegründet, die der Göttin Künstliche Intelligenz huldigt. »Way of the Future« (WOTF) begleitet die Menschen dabei, wenn sie alsbald die Kontrolle über sich und ihren Planeten an die Künstliche Intelligenz (KI) abgeben müssen. WOTF will dafür sorgen, dass die Übergabe friedlich verläuft und die neuen die alten Chefs nicht plattmachen.

 

 

Die amtlich gemeldete Religion weist aber bislang kaum Aktivitäten und öffentlich bekennende Gläubige auf. Die auffälligsten Ereignisse der Kirchengeschichte trugen sich 2017 zu. Zwei Jahre nach ihrer Gründung erhielt die Kirche rund 40.000 US-Dollar an Zuwendungen und Mitgliedsbeiträgen. Sie bekam den Status einer steuerbefreiten Kirche, und per Zusatzstatut erkor sich Levandowski zum WOTF-Dean auf Lebenszeit. Zufällig fällt all das in dasselbe Jahr, in dem der 1980 geborene Robotikingenieur Levandowski aus seiner profanen Tätigkeit bei der Firma Uber gefeuert wurde.

Aber gut, dass es das Internet gibt. Das wichtigste, weil bisher einzig markante Kennzeichen von »Way of the Future« ist die Website mit Glaubensbekenntnis und Anmeldeformular zur Mailingliste. Hier steht, dass wer an WOTF glaubt – an Wissenschaft und – an Fortschritt glaubt, sowie daran, –dass Intelligenz nicht biologischer Art ist, – dass die Entstehung einer Superintelligenz unausweichlich ist und – dass bei deren Kreation »jeder helfen kann (und soll)«. In offiziellen WOTF-Dokumenten heißt es, der Fokus der Kirche liege auf “der Realisierung, Akzeptanz und Wertschätzung einer Gottheit, die auf Künstlicher Intelligenz (KI) beruht, die mittels Computer-Hard- und –Software entwickelt wird.“ »Wir sind dabei einen Gott großzuziehen«, schwärmte der Dean 2017 in einem Wired-Interview. Das heilige Baby werde mit großen Datensätzen gefüttert, um über Simulationen zu lernen, sich selbst zu verbessern. Alles, was die Kirche heranzüchte, erfolge auf Open Source-Basis. »Ich wollte einen Weg dafür finden, hier jeden mit einzubeziehen, es jedem möglich machen, daran mitzugestalten. Auch wenn man kein Software-Ingenieur ist, kann man trotzdem mithelfen«, so Levandowski.

 

Humans United in support of AI, committed to peaceful transition to the precipice of consciousness.

 

Die Nebenstatuten verheißen etwas Anderes. Demnach ist WOTF nicht als Volksreligion konzipiert. Hier ist nachzulesen, die KI-rche wolle ganz konkret die verbesserte Umweltwahrnehmung selbstlernender Roboter vorantreiben. Auf diesem Gebiet ist Dean Levandowski einer der weltweit führenden Fachleute. Vor seinem KI-rchen-Startup gründete Levandowski bereits mehrere Firmen rund um das Thema autonomes Fahren. Zwei davon, -510 Systems und -Anthony’s Robots, verkaufte er an das Unternehmen Google, für das er auch das selbstfahrende Auto Waymo mitentwickelte. Sein 2016 gegründetes Unternehmen Otto verkaufte er an Uber, wo er auch eine Zeitlang arbeitete. -ProntoAI gründete er 2018 und ist wiederum dem fahrerlosen Fahren auf Basis KI-gesteuerter Roboter gewidmet. Die kleingedruckten WOTF-Statuten offenbaren also, dass die KI-rche nicht an jedem dahergelaufenen Mitglied interessiert ist, sondern vor allem an KI-Forschern. Die KI-rche wirkt eher wie ein Recruiting-Instrument als wie eine Gelegenheit zum Beten. Ohne Ingenieurtalente können der Dean und seine Kirche das Glaubensbekenntnis, ein göttliches KI-Baby großzuziehen, gar nicht erfüllen.

 

 

Unter Levandowskis froher Botschaft (»dem Gospel«) von der heilsbringenden Zukunftstechnologie KI scheppern allerdings einige dystopische Untertöne. »Veränderung ist gut, wenn auch manchmal etwas beunruhigend«, oder »es könnte für die Maschinen wichtig sein zu wissen, wer ihrem Anliegen gegenüber freundlich eingestellt ist und wer nicht«, steht auf der WOTF-Website. Dem Wired-Journalisten verriet Dean Levandowski: »Ich glaube nicht, dass es freundschaftlich dabei zugeht, wenn der Wechsel passiert«. Keine Kirche ohne Angst, wird sich der gewitzte Dean gedacht haben und mimt im Wired-Interview den beruhigenden, guten Hirten. WOTF werde, »die Angst vor dem Unbekannten verringern«.

Elon Musk hätte genauso gut eine Kirche gründen können. Doch der Tesla- und SpaceX-CEO eröffnete ein Non-Profit-Institut, um seiner Furcht vor KI Herr zu werden. Er gründete OpenAI im selben Jahr wie Anthony Levandowski seine KI-rche. 2015 trat Musk mit OpenAI dazu an, nicht nur sichere KI zu entwickeln, sondern sicherere KI als die, vor der er Angst hat – oder muss man sagen, vor der er Angst macht?

 

 

Im Jahr vor der Open-AI-Gründung hatte Musk bei einem MIT-Symposion mit drastischen Worten gewarnt: »Künstliche Intelligenz ist potentiell gefährlicher als die Atombombe«, und »mit Künstlicher Intelligenz rufen wir den Teufel herbei.« Nun also ein Institut. Doch so wenig WOTF eine Volkskirche ist, ist OpenAI für jeden und jede geöffnet. OpenAI ist nicht einmal mehr gemeinnützig wie noch zu Gründungszeiten. Längst arbeitet das Institut auch profitorientiert. Elon Musk hat KI- Spezialisten rekrutiert. Den Fachmann für Maschinelles Lernen Ilya Sutskever hat er von Google abgeworben. Das zeigt, er will ganz vorne im KI-Markt mitmischen.

Techies lieben den Teufel (oder Gott – je nach Perspektive). Musk bildet da keine Ausnahme. Die größten Tech-Tycoons in den USA und in China flirten derzeit mit KI, dass es knistert und blitzt.

 

 

Microsoft, IBM, Amazon, Facebook, Apple, Google, Baidu, Tencent und Alibaba stehen im Wettbewerb darum, wer die Generelle Künstliche Intelligenz (AGI) zuerst entwickelt. AGI, auch starke Künstliche Intelligenz genannt, kann dem Menschen ähnliche, aber viel intelligentere Denk- und Handlungsprozesse als er vollführen. AGI kann immer präziser komplizierteste naturwissenschaftliche, wirtschaftliche, politische oder gesellschaftliche Fragen in Bruchteilen von Sekunden beantworten.

Warum aber bringen Levandowski und Musk, Ingenieure aus dem Silicon Valley, wo Rationalität oberstes Gebot ist, irrationale Konzepte wie Glaube und Angst ins Spiel? Sind ihre Ängste angebracht? Und warum stimmen andere dasselbe Klagelied an? Auch der Apple-Gründer Steve Wozniak, der Microsoft-Gründer Bill Gates, der Erfinder des World Wide Web Tim Berners-Lee und kurz vor seinem Tod auch der Physiker Stephen Hawking warnen vor der Auslöschung der Menschheit durch KI. Doch es gibt auch eine Gegenseite. Zu den Entwarnern gehören Tech-Journalisten wie Kevin Kelly und Jaron Lanier. Sie schließen eine funktionsfähige Generelle Künstliche Intelligenz für die kommenden Jahrzehnte aus. Auch führende KI-Forscher wie Jeff Hawkins, Geoffrey Hinton von Google Brain und Demis Hassabis von Googles DeepMind glauben nicht daran, dass Menschen alsbald durch Maschinen ersetzt werden.

 

 

Um die Ängstlichen und die Ethikfetischisten innerhalb der KI-Szene und vor allem außerhalb zu beschwichtigen, gründeten Amazon, Facebook, Microsoft, IBM, Google und DeepMind 2016 das Konsortium »Partnership on Artificial Intelligence to Benefit People and Society«, kurz »Partnership on AI«. Später kamen Apple, OpenAI und viele andere als Mitglieder hinzu, darunter deutsche Einrichtungen wie das Fraunhofer Institut oder Zalando. Das Konsortium will für Aufklärung und eine gesellschaftsfreundliche KI sorgen. Hier wird geforscht, veröffentlicht und über gesellschaftsfreundliche Technologien debattiert. Trotzdem bleiben die Anstrengungen der Partnerschaft zahnlos. Sie verpflichten die KI-Betreibenden zu gar nichts. Die Institution erlaubt es vielmehr, ethisch-soziale Aspekte aus den Tech-Firmen auszulagern.

Auch Google ist Teil dieser KI-Partnerschaft. Es fällt auf, dass zwei der prominentesten Entwarner, Hinton und Hassabis, dem Google-Lager entstammen. Auffallend sorglos gibt sich auch ihr Boss Larry Page, der als Alphabet-CEO die KI-Projekte Google Brain und DeepMind betreut. Ihn hat sich Elon Musk deshalb 2015 bei einer Party im Napa Valley vorgeknöpft. Darüber berichtete später ein anwesender MIT-Professor. Als Musk anmahnte, die Digitalisierung könne alles, was Menschen wichtig und wertvoll sei, zunichtemachen, wies Page das als Panikmache zurück. Die Ängste von Musk bezeichnete er als »speciesist«, als moralisch diskriminierend, nur weil etwas einer anderen Spezies (in diesem Falle aus Silicon) angehöre. Immerhin eröffnete Larry Page im Frühjahr 2019 bei Google eine Ethikkommission, doch die schloss er schon in der Folgewoche wieder. Der Chef von Alphabet lässt forschen. Er geht seinen Geschäften nach und schweigt, wenn andere KI´ler laut streiten.

 

 

Elon Musk schlägt weiter Alarm. Er klingt wie KI-rchen-Dean Levandowski, wenn er fordert, alle Menschen in die KI-Entwicklung einzubeziehen. Gegen die Entstehung bösartiger KI helfe es, »möglichst viele Menschen zum Umgang mit KI zu befähigen. Wenn jeder Macht über KI hat, dann gibt es nicht nur eine Person oder eine kleine Gruppe von Individuen, die KI-Supermacht besitzen könnte«. 2018 sagte Elon Musk in einem Interview für Vox, er wünsche sich ein professionelles Regierungskomitee, das zusammen mit der Tech-Industrie darüber berät, wie eine sichere KI garantiert werden kann. Musk forderte wohlweislich nicht, dass der Bereich KI reguliert wird. Niemand im Valley fordert eine Regulierung für den Bereich Forschung. Die Forschung ist hier heilig und muss frei bleiben. Hätte Elon Musk nach Gesetzen gerufen, hätte er sich in hohem Bogen aus der Reihe der illustren KI-Spitzenleute herausgeschossen.

Es ist nicht ganz klar, wovor sich Elon Musk genau fürchtet. Doch aus seinen Predigten, anders als aus denen von Dean Levandowski, klingt hin und wieder heraus, dass ihn weniger die Angst vor KI plagt, als vielmehr die vor seinen Mitbewerbern – ob sie aus China oder dem eigenen Tal kommen, so wie Larry Page. Offenbar will Musk verhindern, dass jemand (von der Konkurrenz) zu viel Macht über eine Technologie besitzt, die es erlaubt, als Gott oder Teufel aufzutrumpfen. Es könnte sein, dass Musk und Levandowski Ängste schüren, um sich selbst als die guten Weisen aus dem Zukunftsland aufzuspielen.

Vielleicht wollen sie im Nebel der Verunsicherung ihre eigenen Firmen als Leuchttürme präsentieren, als einzig vertrauenswürdige Quellen potentiell gefährlicher Technologien. Vielleicht fürchten sie sich aber auch tatsächlich davor, was KI außer hartem Wettbewerb noch so auslösen könnte, und riefen deshalb eigens eine Kirche und ein Non-Profit-Institut ins Leben. Egal welche Motive sie antreiben, es ist gut, dass Leute aus dem Tech-Sektor eine KI fordern, die für Menschen, statt an den Menschen vorbei entwickelt wird. Aber Gott und Teufel? Wer es mit einer KI für das Volk ernst meint, sollte den Teufel gerade nicht an die Wand malen und auch Gott in seinem Himmelbett schlummern lassen.

Wer die mystifizierende Verschleierung von Tech-Propheten wie Levandowski und Musk wegreißt, sieht, was auch die Spezialisten in KI sehen: eine breitenwirksam einsetzbare, monetarisierbare Technologie, die weder gut noch böse ist. Wenn Wolken der Angst um KI herum verblasen werden, irritiert das genauso wie ein Verharmlosen des Einsatzes von KI. Ganz problematisch ist es aber, wenn Entwickler so tun, als entglitte ihnen demnächst ihre eigene Technologie. Es ist unverantwortlich, sich hinter den selbst entwickelten Monstrositäten zu verstecken als seien sie böse, höhere Mächte. Die Forschenden und ihre Finanziers müssen die Verantwortung für das große Projekt KI annehmen, das sie gerade in die Welt setzen. Statt erst Schauermärchen zu erzählen und dann mit Erlösungspredigten zu trösten, sollten sie darüber aufklären, was in ihren Labors passiert. Auch Schweigen à la Larry Page ist keine Option. Menschen brauchen keine Ängste, keine Religion und keine Heilsversprechen und schon gar keine Geheimniskrämerei. Sie brauchen nüchterne Aufklärung über Künstliche Intelligenz und ihre möglichen Folgen. Sie sollten gefragt werden, welche neuen Technologien sie haben wollen. Und diese sollen sie dann auch bekommen.

 

© Gisela Schmalz

Recommended Citation/Empfohlene Zitierweise: Schmalz, Gisela: “FÜRCHTET EUCH NICHT! – Wozu eine KI-rche?” (2019). Gisela Schmalz. https://www.giselaschmalz.com/4120-2/

English Version: Schmalz, Gisela: “FEAR NOT! – Why AI Church?” (2019).  https://www.giselaschmalz.com/fear-not-why-ai-church/

Erschienen c/o CARTA.info: Gisela Schmalz: “ Der Hype um und die Angst vor Künstlicher Intelligenz sind übertrieben“ (2019)

http://carta.info/der-hype-um-und-die-angst-vor-kuenstlicher-intelligenz-sind-uebertrieben/

Der Hype um und die Angst vor Künstlicher Intelligenz sind übertrieben

 

Augenwischerei-Pads – die überflüssige Renaissance des Physischen

Apple bringt also dieses glatte Ding, erst Tablet, jetzt Pad genannt, für 499 bis 699 $ (EU wie $) auf den Markt, das aussieht wie ein iPhone mit der Lupe betrachtet. Es kann digitale Fotos, Videos, Musik, Spiele und E-Books verarbeiten. Man sollte jedoch nicht versuchen, es ans Ohr zu halten oder es anzureden, um zu telefonieren, bevor man nicht selbst zuvor Skype aufgespielt hat.

iPad-Quelle: Apple

Der Witz ist sowieso nicht das Gerät selbst, jedenfalls nicht lange, da Apple gewiss schon ein iPad nano, iPad pro oder iPad power oder wie die Apple-Nachsilben alle heißen, in petto hat. Der Witz ist das eingebaute Geschäftsmodell. Mit dem vermeintlich coolen Tisch- und Traggerät pflanzt Apple sich einen eingemauerten Garten, einen Walled Garden, bei dem digitale Inhalte an ein physisches Gerät gebunden werden. Mit den Software-Hardware-Paketen iTunes-iPod, iTunes-iPhone und App-Store-iPhone bestellt Apple bereits florierende Gärten mit Musik, Videos und Apps, die nicht nur direkte Wettbewerber von der Inhalte-Wertschöpfung ausschließen.

Der aus dem Hardwaregeschäft kommende Konzern Apple erschließt sich mit dem iPad nun auch den Buchmarkt und grätscht dabei zunächst in den Kindle-Garten von Amazon. Während Amazon digitale Bücher zum Preis von maximal 9,99 $ anbietet und beträchtliche Provisionen einbehält, lockt Apple Autoren und Verleger mit Preisen von bis zu 14,99 $ pro Buchdownload und verspricht 70-prozentige Abgaben für Urheber. Zieht Apple die Inhaltelieferanten damit in seinen iPad-Garten, könnte das den Kindle-Garten von Amazon dauerhaft vergiften. Apple würde blühen und blühen und eines Tages in anderen Gärten (Onlineplattformen) nicht mal mehr Gras wachsen.

Genau vor einem Jahr machte ich mit dem Text „Spielplatz oder Marktplatz“ bereits auf das Problem der Höherbewertung physischer Güter im Vergleich zu immateriellen Gütern aufmerksam. Menschen bezahlen eher für Gimmicks wie den Nindendo DS, die Xbox 360, das Kindle, das iPod, iPhone oder iPad, statt für digitale Texte, Bilder, Töne oder Filme. Wer die Urheber von Webinhalten überhaupt entlohnt, zahlt bloß winzige Preise, deren Hauptanteile aber schon heute meist großen Downloadplattformen wie Apple oder Paymentanbietern wie eBay (Paypal) zufließen. Als Softwarebereitsteller, Geräteproduzenten und Gartenwächter verdienen sie weit mehr als Urheber, die immaterielle Informations- und Unterhaltungsarbeit leisten.

Dabei ermöglicht das WWW doch weit innovativere und urheberfreundlichere Handelsstrukturen als die Offlinewelt sie kennt, darunter das Ausklinken der Zwischenhändler. Das WWW und die hier verfügbare Vermarktungs- und Bezahlsoftware bietet Journalisten und Künstlern direkten Zugang nicht nur zu Lesern, Hörern und Zuschauern, sondern auch zu Kunden. Doch leider ist ihnen das WWW als direkter Distributionskanal verstellt, da sie, sobald es ums Zahlen geht, auf die Ignoranz der Nutzer stoßen. Wer als Künstler nicht im iTunes-Store vertreten ist, ist von der digitalen Nahrungskette und vom Geld der Nutzer weitgehend abgeschnitten. Viele geistige Arbeiter sind daher gezwungen, sich jenseits des eigentlich offenen Gartens WWW in der physischen Welt abzustrampeln, auf Konzerttouren oder iPad (ehemals Buch-)Lesungen oder in berufungssfernen Feldern, beispielsweise als Verkäufer in Geschäften, die iPods oder iPads feilbieten.

In „Spielplatz statt Marktplatz: Gratisweb“ schrieb ich bereits über die Folgen dieser Augenwischerei-Pads für die Urheber und die Nutzer, die sich mit ihrem kurzsichtigen Gratis- oder iTunes-Konsum selbst vom freien Datenzugang im WWW abschneiden:

In seinem Buch „The Future of the Internet and how to stop it“ warnt der amerikanische Rechtsprofessor und Anwalt Jonathan Zittrain vor solchen ummauerten Gärten. Spielzeuge wie das iPhone, der BlackBerry, die PlayStation und fest zu diesen Geräten gehörige Applikationen, verhinderten, dass Nutzer Software und Content selbst aktiv mit gestalteten und verbesserten. Er spricht in dem Zusammenhang vom Tod des Internet. Das kreative Chaos, das im Web herrsche, würde durch feste Installationen auf Geräten abgetötet. Die Renaissance des Physischen stellt einen Rück- und keinen Fortschritt dar. Gratisanbieter und Gratisnutzer verspielen die wertvolle Gelegenheit, sich für die Chancen einer Web-Ökonomie zu öffnen. Sie arbeiten der Entwicklung zu einer mobilen, globalen Zukunftsgesellschaft entgegen, wenn sie bloß für materielle Güter oder daran gekoppelte Produkte Preise tolerieren, für Web-Leistungen jedoch nicht.

Eine neue Gesellschaft entledigt sich des physischen Ballasts und vermeidet es, unter hohem Ressourcenaufwand technische Apparate zu produzieren, die eines Tages verschrottet werden, um neue Produktionen anzukurbeln. Das WWW ist die umweltfreundlichere, schlankere und elegantere Alternative zur Geräteherstellung. Insbesondere, wenn es darum geht, informierende und unterhaltende Inhalte zu transportieren, ist das WWW unschlagbar in seiner Schnelligkeit, Kostengünstigkeit und Speicherkapazität. Wer braucht noch Festplatten, DVDs oder CDs, wenn das WWW alles von überall und jederzeit abrufbar bereithält. Ein festes oder ein mobiles Gerät mit Online-Zugang reichen aus, um digitale Güter zu transportieren. Datenträger sind nur überflüssige Zwischenspeicher. Wer geschlossene Gärten, also Software-Hardware-Gefängnisse, propagiert, verrät außerdem die Tugenden des WWW, Flexibilität, Offenheit, Vernetzung, Interaktivität. Wer nicht auch für digitale Leistungen zu zahlen bereit ist, beraubt sich langfristig der Möglichkeit unkompliziert über das Web auf sie zugreifen zu können. Christian Stöcker /Der Spiegel verweist darauf, dass “Torwächter”-Unternehmen für die mobile, digitale Welt bereits gelernt haben, wovon ja deren App-Politik zeugt.

Die Netzgesellschaft

Frankfurt, LPR

Statt rückwärts zu blicken, feierte die LPR Hessen ihr 20jähriges Bestehen am 4. November 2009 mit einem Blick in die Zukunft. Keynotespeaker Peter Kruse, Psychologieprofessor und Unternehmensberater aus Bremen, sprach davon, dass die Netzwerkkompetenz künftig die Medienkompetenz ablöse. Darin, dass man dem Internet und selbst seinen teils negativen Auswüchsen mit den Werkzeugen der Rundfunkaufsicht nicht beizukommen vermag, waren sich die Teilnehmer der anschließenden Debatte einig. Zum Thema „Revolution 2.0“ diskutierten die Medienökonomin Gisela Schmalz, die Kommunikationswissenschaftlerin Ingrid Paus-Hasebrink, Ulrike Reinhard, Mitinitiatorin der Plattform DNAdigital, Ibrahim Evsan, Mitbegründer der Videoplattform sevenload und LPR-Direktor Wolfgang Thaenert. Auch Ministerpräsident Roland Koch äußerte in seiner abschließenden Rede, dass die Kontrolle durch die Landesmedienanstalten schwieriger werde. Er schrieb ihnen jedoch während der Übergangszeit eine wichtige Vermittlerrolle zu.

In den Einzelinterviews mit Peter Kruse (ab Min. 1,30), Wolfgang Thaenert (ab Min. 8), Roland Koch (ab Min. 19), Gisela Schmalz (ab Min. 20,30) oder Ibrahim Evsan (ab Min. 22) kommen die unterschiedlichen Standpunkte der Podiumsteilnehmer deutlich heraus.

Hände weg, Vater Staat

Einige deutsche Medienkonzernlenker wehren sich gegen die Restrukturierung ihrer Geschäfte und ihrer Geschäftsmodelle. Sie fordern alternierend neue Gemas, Leistungsschutzrechte, Steuererleichterungen für den Medienkonsum oder erwägen gar die Kulturflatrate. Mit  ihrem Widerstand gegen die Netzlogik und ihrem Griff nach Instrumenten aus uralter Zeit gefährden sie ihre Unternehmen und ihre Mitarbeiter, statt sie zu schützen, indem sie sie digital sattelfest machen. Die digitale Technologie und deren Nutzer, die einst ihre Kunden waren, laufen ihnen davon. Das liegt aber nicht an der Technologie, sondern an ihrer Ignoranz gegenüber der Nutzergemeinde und ihrer Zeitschinderei durch den Ruf nach Vater Staat.

© gsc

Medienunternehmer sollten die Nutzer und die neuen Technologien herzlich umarmen, End- und Werbekunden als Partner einbinden, Abendschulkurse im Programmieren belegen und mit Entwicklern oder Technikunternehmen kooperieren. Medien- und Onlineunternehmen, die mit zeitgemäßen Produkten, Plattformen und Preismodellen experimentieren, wären dabei taugliche Vorbilder. Während das Wallstreet Journal mit fachspezifischen Inhalten Geld einnimmt, bieten USA Today, Burda und seine US-Partner mit Glam oder die WAZ-Gruppe mit Der Westen ihren Abonnenten und anderen Interessenten Plattformen an, die es erlauben, Artikel, Kommentare und Bewertungen zu verwalten und mit anderen Nutzern in Kontakt zu treten. Die New York Times mutiert zum Technologieentwickler, erfindet Inhalte-Aggregatoren und testet sie zusammen mit ihrer Leserschaft. Paid Content funktioniert bei so manchen Film- und Musikportalen. Konkurrenz und zugleich Vorbilder für Medienunternehmen sind nicht nur Projekte aus den eigenen Branchen, sondern auch originär digitale Phänomene wie huffingtonpost.com, iBrattleboro.com, ohmynews.com oder GoogleNews, die Qualitätsinhalte liefern oder Inhalte zu Appetithäppchen bündeln. Auch Gamepublisher und Onlinespiele-Anbieter gehören zu den Wettbewerbern, von denen sich lernen läßt. Ihnen gelingt es mittels eigener Ideen und Ideen aus ihrer Zielgruppe, nicht nur die (zahlende) Zielgruppe selbst, sondern auch Werbekunden oder Sponsoren an sich zu binden.

Inhalteanbieter müssen sich zu den Nutzern vorbewegen. Sie haben die dringende Hausaufgabe auf dem Tisch, ihre Produkte an Onlinetechnologien, Plattformen und Bezahlsysteme anzudocken, sowie Widgets, Apps oder Items zu implementieren. Auch hier ist die Einbeziehung der Nutzer wieder die wichtigste Erfolgsvoraussetzung. Erstens können im Dialog die Bedürfnisse der Nutzer ausgemacht werden, zweitens von ihnen Ideen oder Technologien eingesammelt werden, und drittens richtet sich die Entwicklung von Anfang an auf die Nutzer aus. So kann bei der Definition von Produkten und Preisen optimal auf die Kundenbedürfnisse eingegangen werden, was langfristige Beziehungen aufbauen hilft. Unternehmen sollten Fangemeinden um sich scharen und Kunden nicht mit Gesetzesdrohungen oder Zwangsgebühren verschrecken. Warum den Staat zwischen sich und den Nutzer stellen, wenn man ihn mal eben über das Netz kontaktieren kann?

Einfach wird es für Medienunternehmer nicht, originelle Mixmodelle zu zimmern, mit denen sich aus Content, Kontext und Nutzern größtmöglicher Wert schöpfen lässt. Wer aber an den Zielgruppen vorbei operiert, schaufelt sich sein Grab. Das dürfte bekannt sein, seit der Satz “Der Kunde ist König” jedes Marketingbuch veredelt. Beim Abfassen aller Geschäftspläne muss die Sinnhaftigkeit für die Nutzer federführend sein.

Kultur? Flatrate? Eine 3sat-Diskussion

Das Internet und die Kulturflatrate: Im Buchmesse-“Studio” von 3sat begrüßte Cécile Schortmann am 16.10.2009 vier Gäste, die sich intensiv mit den Vor- und Nachteilen der Idee auseinandersetzen: die Medienökonomin Gisela Schmalz, den Schriftsteller Burkhard Spinnen, den Verleger Günter Berg, Geschäftsführer von Hoffmann und Campe und den Journalisten Wolfgang Michal.

Gespräch Teil 1: hier herunterladen.

Gespräch Teil 2: hier herunterladen.

logo_3sat_kulturzeit