Techno-perfide Machtausübung

(…). Der Kontrollbegriff, den Deleuze sich 1990 von dem amerikanischen Schriftsteller William Burroughs borgte, ist unter den Kritikern der mächtigen Konzerne aus Silicon Valley sehr populär. Gern wird er in Kombination mit dem Begriff der Überwachung verwendet. Doch »Überwachung« und »Kontrolle« sowie der Verweis auf ökonomische oder kapitalistische Ziele besagen wenig mehr, als dass Konzerne Informationen sammeln, die sie dazu befähigen, Menschen aus wirtschaftlichen Gründen zu manipulieren. Beide Begriffe erfassen nur ansatzweise die gesamte Perfidität des technologischen Machtapparates, der Menschen als seine Verlängerungen integriert.

Wer dabei lediglich von Kontrolle spricht und diese als bloß ökonomisch motiviert ansieht, unterschätzt die Raffinesse, den Umfang und die strategische Weitsicht, mit denen seine Schöpfer ihre Technologien auf die Menschheit loslassen. In der westlichen Welt geht es längst nicht mehr nur um eine wirtschaftliche Machtverschiebung zugunsten eines Oligopols in Silicon Valley. Es geht um die Bemächtigung des Denkens und freien Willens der Individuen und um die Steuerung ganzer Gesellschaften durch techno-soziologische Vordenker, die derweil toter Mann spielen.

Zur Erfassung der Techno-Perfidität kalifornischer und Washingtoner Provenienz sind die Denkinstrumente von Michel Foucault bestens geeignet. Es ist frappierend, wie klar der Philosoph das Wirken der Macht heutiger Hirne und Körper erobernder Technologien mit seinem Konzept der verinnerlichten Disziplin vorausgedacht hat. In Surveiller et punir schreibt Foucault über »die Mittel der guten Abrichtung«. Eines davon ist das Wissen der Gefangenen, im Gefängnis ständig unter Beobachtung zu stehen, auch wenn sie die Beobachter gar nicht sehen. (…).

 

Plan of -Millbank Prison- (constructed 1812) on land purchased by Jeremy Bentham (1799) for the construction of his panopticon. (Sources: disphotic.com, wikipedia.com).

 

Soziale Medien funktionieren genau wie das »Strafsystem der Norm«. Um nicht mit schlechten Bewertungen abgestraft zu werden, sondern von den Mitgliedern der Gruppe anerkannt zu werden, passt der/die Einzelne sich den Gruppennormen an. Der normierende Mechanismus perfektioniert sich im Zuge der Anwendung von selbst. Dass dabei das Agens der Machtausübung für das Individuum diffus bleibt, steigert ihren Effekt. (…).

 

In: Schmalz, Gisela (2020): Mein fremder Wille – Wie wir uns freiwillig unterwerfen und die Tech-Elite kassiert. Frankfurt am Main: Campus Verlag, S. 245f.

 

 

 

„Ich verlasse mich lieber auf Adidas, als auf Trump“

Professorin zu Tech-Giganten: Die Macht der Nutzer über Facebook & Co.

 

Prof. Dr. Gisela Schmalz im Interview mit Katja Bigalke und Martin Böttcher

c/o Deutschlandfunk Kultur „Breitband“ – Sendung vom 04.07.2020

 

Interview/Auszug:

(…)

Katja Bigalke: Viele große Firmen haben zuletzt angekündigt, keine Werbung bei Facebook zu schalten. Lässt sich Facebook dadurch überhaupt wirtschaftlich unter Druck setzen? Oder geht es hier um eine Art PR-Gesichtsverlust für Facebook?

Gisela Schmalz: Facebook ist von der Gunst der Masse abhängig. Sie sind im wahrsten Sinne populistisch: Sie laufen der öffentlichen Meinung hinterher. Sie möchten beliebt bei möglichst vielen Nutzenden sein, gerade in der jungen Generation. Ich glaube nicht, dass sich die Tech-Firmen von ein paar Unternehmen, die kurzzeitig keine Werbung schalten, unter Druck setzen lassen. Zumal diese Wirtschaftsfirmen durchaus von den plattformbetreibenden Firmen abhängig sind – die müssen sich darüber an ihre Endkunden wenden – die Tech-Firmen sind immer noch am längeren Hebel.

Bigalke: Wenn man davon ausgeht, der Druck der werbetreibenden Unternahmen habe tatsächlich Einfluss: Ist das adäquat, um die Plattformen in ihre Schranken zu weisen?

Schmalz: Durchaus. Wirtschaftlicher Druck ist eine Methode, mit diesen Technologiefirmen zu sprechen. Die sind wahnsinnig mächtig und auch reicher, als die werbetreibenden Kunden. Natürlich sind sie abhängig von den werbezahlenden Konzernen. Wenn diese drohen, sich zurückzuziehen, ist das zumindest ein Aufbäumen dagegen und ein Signal – auch in die Öffentlichkeit.

Es gibt also Hoffnung, dass auf einmal eine Vielstimmigkeit da ist und nicht nur nach dem Gesetzgeber gerufen wird. Es ist gut, dass die Konzerne das selbst regeln. Und: dass ethische und demokratische Werte über wirtschaftlichen Druck in die plattformbetreibenden Firmen gesetzt werden.

 

Water Vertigo © Gisela Schmalz  – giselaschmalzphotography.com

 

 

Martin Böttcher: Ist es nicht trotzdem problematisch, dass auf einmal Firmen eine so gesellschaftliche Rolle bekommen? Das, was eigentlich der Gesetzgeber oder die Zivilgesellschaft aufbauen müsste, wird in die Hände von privaten Firmen gegeben.

Gisela Schmalz: Die Plattformen haben wirtschaftliche Macht. Sie haben technologische Macht, Wissensmacht und psychologische Macht über die Endnutzenden, über die sie alles wissen. Auf einmal schiebt man ihnen noch politische oder ethische Macht zu. Auf einmal fordern Konzerne oder auch Bürgerinnen und Bürger über solche Kampagnen, dass die Tech-Konzerne selbst tätig werden in Sachen Werten und Ethik. Das ist höchst problematisch.

Wenn in den USA vor allem der Gesetzgeber und der Präsident als Wertbeschützende ausfallen, dann bleibt der Öffentlichkeit und den Konzernen nichts anderes übrig. Ich verlasse mich lieber auf Adidas, dass Werte bei Plattformen wie Facebook, Twitter, etc. umgesetzt werden, als auf Trump.

Man kann daraus lernen, dass man als Bürger und Bürgerin durchaus die Macht hat, tätig zu werden. Ich habe mich in meinem Buch „Mein fremder Wille“ damit auseinandergesetzt. Man muss sich am besten mit Kampagnen an die Konzerne wenden. Das ist ein Druck der Öffentlichkeit, der sie zum Einlenken bringen kann, gerade dann, wenn wir uns nicht mehr auf Politiker und Politikerinnen verlassen können.

(…)

Fortsetzung / vollständiges Interview c/o Deutschlandfunkkultur.de

“Technologische Quarantäne”: OR1/ORF-Interview mit Gisela Schmalz

 

“Während wir aus der Epidemie-bedingten Quarantäne relativ schnell herauskommen, werden wir aus der technologischen Quarantäne nicht so schnell herauskommen.”

Gisela Schmalz im Heimstudio-Gespräch mit Wolfgang Ritschl am 29. Mai 2020.

Technological Quarantine © Gisela Schmalz – giselaschmalzphotography.com

 

 

 

 

 

 

 

ÖSTERREICHISCHER RUNDFUNK, ORF

Radio Österreich 1

Diktatoren, Füchse, Chinesen und die US-Tech-Elite

Kontext – Sachbücher und Themen

 

“Mein fremder Wille”: Gisela Schmalz über unseren Umgang mit Apps und die Profite der Tech-Elite
(Buch: Campus Verlag)

Redaktion und Moderation: Wolfgang Ritschl

 

Interview (14 Minuten): ÖR1 Kontext-Interview -Mein fremder Wille- G. Schmalz 29.5.2020

Die Sexpartys des Silicon Valley

In Silicon Valley wurden regelmäßig Orgien gefeiert. Dann legte SARS-CoV-2 derlei Gepflogenheiten lahm. In ihren Labors, geheimen X- oder Visions-Abteilungen überschreiten die Vertreter der Tech-Szene immer wieder gedankliche Grenzen. Ihre körperlichen Grenzen testen sie in Gefährten auf der Straße, auf dem Meer oder im All sowie bei den jährlichen „Burning Man“-Events. Die Grenzen des Körpers, der Keuschheit und des Anstands erproben sie bei exklusiven Sexpartys. Hier loten die Männer allerdings weniger ihre eigenen Grenzen aus als vielmehr die der weiblichen Teilnehmer. Bei ihren sexuellen Grenzüberschreitungen folgen sie strikten Mustern, die so ähnlich für die ganze Industrie gelten. Männliche, weiße, junge, erfolgreiche und wohlhabende Branchenvertreter bestimmen die Einladungslisten für die Partys und welche Varianten von Sex hier zugelassen sind. Die Gastgeber sind in der Regel männlich, genau wie ihre wichtigsten Gäste, darunter Manager, Gründer und Kapitalgeber. In einer Zeit, in der Polyamorie Trend ist, zeigt sich die Tech-Elite Konzepten wie der offenen Beziehung, Gruppensex oder BDSM gegenüber aufgeschlossen. Sie gibt sich experimentierfreudig  – aber nur bis zu einem gewissen Grad.

 

Werden die exklusiven Einladungen zu Sexpartys an wechselnden Orten in und um San Francisco verschickt, folgen sie einem Motto, etwa „Edge of the earth“ oder „Bondage“. Das berichtet die Bloomberg-Journalistin Emily Chang in ihrem Buch „Brotopia: Breaking Up the Boys’ Club of Silicon Valley“ von 2018. Darin klärt sie zudem darüber auf, dass eingeladene Männer so viele Frauen, wie sie möchten, mitbringen könnten, während eingeladene Frauen nur in Begleitung anderer Frauen, nicht aber von (womöglich szenefremden) Männern, kommen dürften. So entsteht ein Verhältnis zwischen Männern und Frauen von 1 zu 2. Das hat System. Hätten drei Leute miteinander Sex, so sei immer nur ein Mann mit zwei Frauen zugange, schreibt Chang. Ein Dreier mit einer Frau und zwei Männern sei bei den Valley-Orgien genauso tabu wie Sex unter Männern. Nicht tabu sei es jedoch, wenn Ehemänner und Familienväter sich mit irgendwelchen Frauen vergnügten oder Ehepaare für einen Dreier eine Frau hinzuzögen.

 

Chang hält fest, dass Sexorgien häufig zwischen Gründer-Teams und deren Haupt-Risikokapitalgebern stattfinden. Anscheinend betreiben die Männer des Silicon Valley ihre Partys so wie ihre Businesses: unter- und füreinander. Frauen sind dabei Nebensache und haben eher dienende Funktion. Viele von Changs Gesprächspartnern, Männer und Frauen, hätten berichtet, dass bei Orgien Geschäfte eingefädelt würden. Es sei also für Männer und Frauen wichtig, daran teilzunehmen. Wer bei Sexpartys fehle, sei schnell außen vor. Doch für Frauen wird diese Körper-Kopf-Business-Vermengung offenbar zur heiklen Gratwanderung. Bei diesen nächtlichen Geschäftsterminen befinden sich die Tech-Frauen meist in der schlechteren Verhandlungsposition, so wie tagsüber auch. Zu den Motto-Orgien werden sie weniger als Geschäftspartnerinnen eingeladen als primär in der Funktion von Lustobjekten für die männlichen Szenemitglieder.

Viele männliche Partygäste hielten den Großteil der anwesenden Frauen sowieso für „founder hounder“, für „Gründer-Jägerinnen“, die nichts anderes wollten, als mit einem Gründer Sex zu haben oder sich ihn als boyfriend oder als Ehemann zu angeln. Das konstatiert Emily Chang in „Brotopia“. Frauen, die von den männlichen Gästen nicht ernst genommen werden, betäube man mit Alkohol oder mit Molly (MDMA). Dadurch könnten die Männer mit ihnen für paar Stunden oder einige Tage am Stück unter Ausschluss der Nicht-Szenewelt Orgien feiern, ohne selbst die Kontrolle abgeben zu müssen.

 

 

Frauen aus der Tech-Szene, die solchen Partys beigewohnt haben, vertrauten der Journalistin Chang an, dass Männer sich untereinander bezüglich der Frauen abgesprochen hätten – mit Folgen für ihre weitere Karrieren. Bei einigen Frauen habe die Teilnahme an einer Orgie dazu geführt, dass sie im beruflichen Umfeld von Fremden sexuell angemacht worden seien. Andere Frauen hätten im Berufsalltag Probleme bekommen. Offenbar sind die männlichen Szenevertreter nicht in der Lage, Rollenmuster oder die „Biologie“ im Kopf zu überwinden. Das Schriftstück eines ehemaligen Google-Ingenieurs belegt, dass in der Tech-Szene hanebüchene Stereotypen herumgeistern: „2017 kritisierte James Damore die offene Kultur und die Diversitäts-Bemühungen bei seiner Arbeitgeberin Google. Nachdem er bei Google ein Diversitätsprogramm durchlaufen hatte, notierte Damore: `Die Verteilung der Präferenzen und Fähigkeiten von Männern und Frauen unterscheidet sich zum Teil aufgrund biologischer Ursachen, und diese Unterschiede können erklären, warum wir Frauen in Technologie und Management nicht im gleichen Ausmaß vertreten sehen.´ (…). Man sollte seine Bemerkungen nicht zu ernst nehmen, selbst wenn die Google-Geschäftsführung sie ernst genommen und den Mann entlassen hat. Doch was verleitet einen Ingenieur zu einer unbelegten Aussage? Und warum fanden sich dafür erstaunlich viele Unterstützer in der Szene? Damores verunglückte Auskünfte und die Vielzahl von deren Fürsprechern signalisieren, dass es in der Tech-Szene offenbar vielfach für `normal´ oder `biologisch´ gehalten wird, dass die Norm männlich ist. Diese Haltung wirkt sich auf die Personalauswahl und diese sich wiederum auf die Ergebnisse der Arbeit in und von Tech-Firmen aus. Dann programmieren hier Männer Code für Männer, und es entstehen Produkte und Services von Männern für Männer.“ (Quelle: „Mein fremder Wille“ von Gisela Schmalz, Campus Verlag, 2020, S. 103). Auch die Sexorgien im Valley veranstalten Männern für Männer. Diese beleben das Business unter ihnen, aber be- oder verhindern gleichzeitig Geschäftsbeziehungen zwischen Männern und Frauen.

 

 

Spiele, darunter Rollenspiele, gestehen Männer nur einander zu. Frauen werden aus der Zuschreibung der Unterlegenen nicht nur nicht entlassen, sondern darin eingepfercht. Dabei müssen sich männliche genauso wie weibliche Gründer prostituieren, um an das Geld mächtiger und reicher Kapitalgeber zu gelangen. Versuchen Männer, möglichen Investoren die nötigen Summen für ihre Geschäfte zu entlocken, ist das auch eine Form von Prostitution. Sie wird nur nicht als solche bezeichnet.

In der Tech-Welt, in der normalerweise alles möglich ist, dürfen während des virusbedingten Shutdowns keine Orgien stattfinden. Das bedeutet nicht, dass die kalifornischen Tech-Manager anderen Menschen Sexpartys, Datings oder Speed Datings vorenthielten. Mit ihren smarten und extra für die Viruskrise (auch eine Kennenlern- und Sex-mit-Fremden-Krise) hochgerüsteten Live-Streaming-, Messaging-, Video-Chat- und Video-Conferencing-Diensten heizen sie das Partyleben an. Während der Pandemie sind Körperkontakte weltweit tabu, selbst die in San Francisco so beliebten Kuschelpartys. Dennoch gelingt es der Tech-Elite, Nähe, Liebe oder Sex suchenden Menschen Befriedigung zu verschaffen. Für Interessierte, oft sortiert nach Altersgruppen, sexuellen Vorlieben oder Hautfarben, schalten Matching-Dienstleister virtuelle Räume frei.

 

Innerhalb strikt definierter Zeitfenster können Menschen hier zu allem virtuell Machbaren zusammenfinden. Für die Veranstaltung SAN FRANCISCO VIRTUAL SPEED DATING 20s-40s (ON ZOOM) wird per Eventbrite so geworben: „Mix, meet & mingle with singles from the safety and comfort of your own home! You may be single and stuck at home but that doesn’t mean you can’t meet other singles and have fun! Grab a cocktail and your favorite snacks because we’re bringing a singles party directly to your home.” Wer Zutritt zu den einzelnen 4- bis 6-minütigen Dating-Gesprächen mit bis zu 20 lokalen Singles erhalten will, muss ein Bewerbungsformular ausfüllen und je nach Anmeldetermin einen Preis ab 20 US-Dollar zahlen.

Das vorläufige Ende der Sexorgien in der Tech-Szene markiert den Anfang der virtuellen Sexpartys für Normalos. Es entstehen neue, interaktive Geschäftsmodelle, die die Nutzenden dankend und zahlend annehmen. Auch ohne Intimität und Körpereinsatz florieren die Geschäfte der Silicon Valley-Konzerne – gerade ohne Intimität und ohne Körpereinsatz. Deren Managern sowie findigen Online-Dienstleistern gelingt es, ihre sterilen Anwendungen an die berührungshungrige Party Crowd zu verkaufen.

 

 

Für Frauen und Schwächere haben Online-Partys allerdings einen großen Vorteil gegenüber Live-Sexorgien. Der virtuelle Raum bietet ihnen Schutz, Chancen des Schaltens und Waltens sowie des Rückzugs. Hier behalten sie die Kontrolle und können gewisse Macht ausspielen. Doch das gesamte Spiel dominieren weiterhin die Manager der Tech-Konzerne. Sie stellen die Infrastrukturen für die auf Datenbasis individuell zugeschneiderten Services bereit. Sie setzen die Regeln für das geschlossene Ökosystem, das aus ihnen selbst besteht, den Dienstleitern, die Technologien einsetzen, und den Endkunden. Aus diesem System kommen Letztere weniger leicht heraus, als nach dem Shutdown aus ihren Wohnungen, zumal sie sich den Vorgaben der Tech-Elite freiwillig unterwerfen.

Nach der Viruskrise werden die Partys der Tech-Clique weitergehen – im Valley und online. Und die mächtigsten Mitglieder werden die Gästeliste, das Motto und den Zugangspreis vorgeben.

 

 

Der Text basiert auf einem Abschnitt, der nicht in das Buch von Gisela Schmalz „Mein fremder Wille – Wie wir uns freiwillig unterwerfen und die Tech-Elite kassiert“ (Campus Verlag, 2020) gefunden hat. Erstmals erschienen ist er hier: Carta.info: http://carta.info/die-sexpartys-des-silicon-valley/ (12.5.2020).

Recommended Citation/Empfohlene Zitierweise:

Schmalz, Gisela: “ Die Sexpartys des Silicon Valley” (2020). Gisela Schmalz: https://www.giselaschmalz.com/die-sexpartys-des-silicon-valley/?preview_id=4699&preview_nonce=a7ee7cd8bd&_thumbnail_id=-1&preview=true

 

© Gisela Schmalz

Podcast: So klingt Wirtschaft (Handelsblatt)

Gisela Schmalz: „Unsere Werte müssen mehr in Technologien einfließen“

Der Gesellschaft gehen die Individualisten aus, sagt Wirtschaftswissenschaftlerin und Philosophin Gisela Schmalz.  Sie fordert im Business-Talk der Solutions by Handelsblatt mehr Mut zum freien und Andersdenken.

Interview mit Thorsten Giersch  (Chefredakteur Business bei der Verlagsgruppe Handelsblatt, 08.04.2020).
Hier hören:

Oder hier (HANDELSBLATT) hören.

Forscher und Unternehmen gieren im Kampf gegen das Coronavirus nach verwertbaren Daten. Ihre Hoffnung: Informationen über Verbreitung und Vorkommen der neuartigen Viruserkrankung Covid-19 gewinnen. Wirtschaftswissenschaftlerin Gisela Schmalz sieht das kritisch. Sie plädiert für einen wertbasierten und achtsamen Umgang mit Daten – nach europäischen Werten. Start-ups und Tech-Riesen müssten umdenken. Wie und in welche Richtung, das verrät sie im Podcast.

Fear not! – Why AI Church?

by Gisela Schmalz

 

Somebody had to do it. Anthony Levandowski heard the call and followed it. In 2015 he founded a church that pays homage to the Goddess artificial intelligence. “Way of the Future” (WOTF) accompanies people when they soon have to give up control over themselves and their planet to artificial intelligence (AI). WOTF wants to make sure that the handover is peaceful and that the new bosses don’t destroy the old ones.

 

The non-profit religious corporation, however, has so far hardly shown any activities and no publicly confessing believers. The most striking events in church history took place in 2017. Two years after its foundation, the church received around 40,000 US dollars in grants and membership fees. It was granted tax-exempt status, and Levandowski enthroned himself irremovable WOTF Dean until his death according to WOTF bylaws. Coincidentally all of this happened in the same year in which Levandowski, a robotics engineer born in 1980, was fired from his profane job at Uber.

But good for the church that there is the Internet: The most important, because so far the only distinctive feature of “Way of the Future” is its website with the creed. It says that those who believe in WOTF believe -in science and -in progress, as well as -that intelligence is not biological, -that the creation of super intelligence is inevitable, and -that “everyone can help (and should)” to create it.

 

Humans United in support of AI, committed to peaceful transition to the precipice of consciousness.

 

Official WOTF documents state that the Church’s focus is on “the realization, acceptance, and worship of a Godhead based on artificial intelligence (AI) developed through computer hardware and software.” “We’re in the process of raising a god,” the Dean 2017 said in an Interview for Wired. The holy baby is fed large datasets to learn to improve itself through simulations. Everything the church breeds will be open source.” “I wanted a way for everybody to participate in this, to be able to shape it. If you’re not a software engineer, you can still help,” says Levandowski.

The bylaws disclose something different. According to them, WOTF is not drafted as a universal religion. You learn that the Church wants to promote the improvement of the environmental perception of self-learning robots. Dean Levandowski is one of the world’s leading experts in this field. Prior to his startup called WOTF, Levandowski founded several companies dealing with the autonomous driving. He sold two of them, -510 Systems and -Anthony’s Robots, to Google and -Otto, founded in 2016, to Uber, where he also worked for a while. He founded -ProntoAI in 2018 which is also dealing with driverless vehicles based on AI. So the fine print of the WOTF statutes show that the Church is not interested in any member, but rather in AI researchers. The Church seems to rather be a recruiting instrument than an invitation to pray. Without engineering talent, the church cannot fulfill its creed of raising a divine AI baby.

 

Lewandovski’s statements about the salvific future technology AI (“the gospel”) are tainted by some dystopian particles. “Change is good, even if a bit scary sometimes”, or  “it may be important for machines to see who is friendly to their cause and who is not,” it says on the WOTF website. Dean Lewandovski told Wired-journalist Mark Harris: “I don’t think it’s going to be friendly when the tables are turned.”

No church without Angst, the shrewd Dean might have thought. In the Wired-interview he mimics the reassuring, good shepherd: WOTF will “decrease fear of the unknown“, Lewandovski said.

Elon Musk might as well have started a church. But the CEO of Tesla and SpaceX opened a non-profit institute to tackle his fears of AI. He founded OpenAI in the same year as Anthony Lewandovski founded WOTF. In 2015, Musk started OpenAI to not only develop safe AI, but a safer AI than the one he is afraid of – or should we say he makes others afraid of?

 

The year before he founded OpenAI, Musk found drastic words to warn about AI: “AI is far more dangerous than nukes”, and “with artificial intelligence we’re summoning the demon”. Now an institute. But as little as WOTF is a people’s church, OpenAI is open to everyone. OpenAI is no longer even non-profit as it was in its early days. Meanwhile the institute is for-profit as well. Elon Musk has recruited AI specialists. He has poached the machine learning expert Ilya Sutskever from Google and hired other renowned AI researchers, since Elon Musk wants to be at the forefront of the AI race.

Techies love the devil (or God – depending on perspective). The biggest tech tycoons in the US and China are currently flirting like crazy with AI.

 

 

Microsoft, IBM, Amazon, Facebook, Apple, Google, Baidu, Tencent and Alibaba are competing to be the first to develop general artificial intelligence (AGI), AI that accomplishes similar but much more intelligent thought and action processes than humans. AGI can answer more and more precisely the most complicated scientific, economic, political and social questions in fractions of a second.

But why do Lewandovski and Musk, engineers from Silicon Valley, where rationality is fetishized, bring irrational concepts such as faith and fear into play? Are their fears appropriate? Why do others join the chorus of the anxious? Apple founder Steve Wozniak, Microsoft founder Bill Gates, the inventor of the World Wide Web Tim Berners-Lee and, shortly before his death, physicist Stephen Hawking also warn(ed) against the extinction of humanity by AI. But there is an opposite side. Tech journalists such as Kevin Kelly and Jaron Lanier refute the idea of a general artificial intelligence for the coming decades. Top AI researchers like Jeff Hawkins, Geoffrey Hinton (Google Brain) and Demis Hassabis (DeepMind) don’t believe that humans will soon be replaced by machines.

 

In 2016, Amazon, Facebook, Microsoft, IBM, Google and DeepMind founded “Partnership on Artificial Intelligence to Benefit People and Society”, or Partnership on AI, to appease the anxious and the ethics freaks within the AI scene and especially outside it. Apple, OpenAI and many other international institutions joined the club. The partnership wants to provide illumination and to promote a society-friendly AI. It does research and initiates discussions about AI. Nevertheless, the partnership remains toothless. Its efforts and written papers do not oblige AI companies to anything. Rather, Partnership on AI allows ethical and social aspects to be outsourced from the tech companies.

 

Google is also a member of this AI partnership. It is noticeable that two of the most prominent developers, who avoid to spread fears, Hinton and Hassabis, are from the Google camp. Their boss, Alphabet CEO Larry Page, who oversees the AI projects Google Brain and DeepMind, is also remarkably carefree about AI. That is why Elon Musk approached him at a party in Napa Valley in 2015. MIT professor Max Tegmark later reported on this. When Musk mentioned that digitalization could destroy everything important and valuable to mankind, Page dismissed this as AI paranoia. He labelled Musk’s fears as “speciesist”, morally discriminatory simply because something belongs to another species (in this case silicone). After all, Page opened an ethics commission at Google in the spring of 2019, but closed it only a week later. Alphabet´s CEO does business as usual. He remains silent when others argue lively or dead seriously about KI.

 

Elon Musk keeps on warning. He sounds like Dean Lewandovski when he calls for all people to be involved in the development of AI. “… the best defense against the misuse of AI is to empower as many people as possible to have AI. If everyone has AI powers, then there’s not any one person or a small set of individuals who can have AI superpower”, he said in 2015. In an interview for Vox in 2018, Elon Musk recommended a professional government committee to consult with the tech industry on how to guarantee “a safe advent of AI“. Musk wisely did not demand to regulate the AI sector. Nobody in the Valley would ever call for AI research regulation. Research is sacrosanct.

It is not quite clear what Elon Musk really is afraid of. Sometimes he sounds as if he was less worried about the impact of AI than about his competitors in this field – either from China or from his own valley, like Larry Page. Apparently Musk wants to prevent others (competitors) from having too much control over a technology that allows to play God or devil. It could be that Musk and Levandowski stir up fears to act as the good wise men from the land of the future. Perhaps they want to present their own companies as lighthouses in the fog of uncertainty, as the only trustworthy sources of potentially dangerous technologies. But perhaps they are actually afraid of what AI might become or do and therefore set up a church and a non-profit institute.

Whatever their motives, it is important that representatives from the tech sector are calling for an AI that is developed for people and not against them. But God and devil? Anyone who is serious about an AI for the people should not hide behind blown up metaphors. They should let the devil roam about his hell and God slumber in his heavenly four-poster bed.

 

If you tear away the mystifying veiling of tech prophets like Levandowski and Musk you will see what AI experts see: a broadly applicable, monetarizable technology that is neither good nor evil. The clouds of fear blown around the idea of AI are just as irritating as trivializing the use of AI. But it really gets disturbing when developers pretend their own technology sooner or later could slip out of their hands. It is irresponsible to hide behind the self-developed monstrosities as if they would be higher and potentially dangerous superpowers.

AI researchers and investors must accept their responsibility for the vast projects they are bringing forth. Instead of first telling horror stories and then spreading soothing sermons of salvation, they should explain what is happening in their laboratories. Silence à la Larry Page is not an option either. People need no fears, no religion, no promises of salvation and certainly no secrecy. They need sober and permanently updated information about the progress in AI research and new products based on AI. People should be asked what technologies they want. And they should get them.

 

 

© Gisela Schmalz

Recommended Citation: Schmalz, Gisela: “FEAR NOT! – Why AI Church?” (2019).  https://www.giselaschmalz.com/fear-not-why-ai-church/

German Version: Schmalz, Gisela: “FÜRCHTET EUCH NICHT! – Wozu eine KI-rche?” (2019). Gisela Schmalz. https://www.giselaschmalz.com/4211-2/

Published c/o CARTA.info: Gisela Schmalz: “Der Hype um und die Angst vor Künstlicher Intelligenz sind übertrieben“ (2019)

http://carta.info/der-hype-um-und-die-angst-vor-kuenstlicher-intelligenz-sind-uebertrieben/