6 Jan 2018

He Alter, du hast die Zukunft zerstört!

Submitted by hadie

Der britische Science-Fiction-Autor Charles Stross hielt Ende 2017 ein Impulsreferat auf dem 34. Chaos Communication Congress in Leipzig. Die Zukunft ist immer noch nicht das, was sie einmal war. Stross Spezialgebiet ist die Künstliche Intelligenz (KI) und da unterscheidet er zwischen der "alten langsamen KI" (Aktiengesellschaften, Firmen und Konzernen, die schon 1844 vom britischen Gesetzgeber mit juristischen Persönlichkeitsrechten ausgestattet wurden) und der "neuen schnellen KI", die auf unseren Computern und Smartphones haust. Der durchschnittliche Lebenszyklus einer alten KI verkürzt sich immer mehr, von 60 auf weniger als 20 Jahre. Unternehmen sind Kannibalen, und sie sind ohne sinnvolle Ziele. Stross zitiert Elon Musk, der derartige Zusammenhänge als "Büroklammern-Maximierer" bezeichnet - eine zielgerichtete KI, die eine einzige Priorität hat, die Anzahl von Büroklammern im Universum zu maximieren.


Stross hat den Vortrag auf seiner eigenen Website antipope.org veröffentlicht und nach einigem Lesen schwirrten mir die zeitgeistigen Begrifflichkeiten und Insider-Gags so sehr im Kopf herum, dass ich eine Übersetzung brauchte. Googles Übersetzer hat sich erstaunlich weiter entwickelt, beherrscht den deutschen Satzbau gut, aber manchmal gibt er genau das Gegenteil des Gesagten aus, was es zu korrigieren gilt:

 


 

He Alter, du hast die Zukunft zerstört!

Von Charlie Stross

Impulsreferat auf dem 34. Chaos Communication Congress in Leipzig, Dezember 2017.


Zusammenfassung:

Wir leben in der Zukunft von gestern, und sie ist nichts als die Spekulationen unserer Autoren und Film/TV-Produzenten. Als ein arbeitender Science-Fiction-Romanautor interessiere ich mich beruflich dafür, wie wir Vorhersagen über die Zukunft falsch machen und warum, damit ich vermeiden kann, dieselben Fehler zu wiederholen. Science-Fiction wird von Menschen geschrieben, die in einer Gesellschaft mit Erwartungen und politischen Annahmen eingebettet sind, die uns dazu neigen, die glänzende Oberfläche neuer Technologien zu betrachten, anstatt zu fragen, wie Menschen sie benutzen werden, und Fortschrittsberichte für bare Münze zu nehmen, anstatt nach der versteckte Agenda zu fragen, der sie dienen.

 

Meine Aufgabe ist es, Lügen für Geld zu erzählen. Oder besser, ich schreibe Science Fiction, viel davon über unsere nahe Zukunft, die in den letzten Jahren lächerlich schwer vorherzusagen war. Unsere Spezies, Homo Sapiens Sapiens, ist ungefähr dreihunderttausend Jahre alt. (Jüngste Entdeckungen haben das Datum unserer frühesten Überreste so weit zurückgeschoben, dass wir vielleicht noch älter sind.) Für alle außer den letzten drei Jahrhunderten dieser Zeitspanne war die Vorhersage der Zukunft einfach: Naturkatastrophen beiseite, würde das Alltagsleben in fünfzig Jahren dem Alltag vor fünfzig Jahren ähneln. Lassen Sie das für einen Moment auf sich einwirken: Für 99,9% der menschlichen Existenz war die Zukunft statisch. Dann passierte etwas, und die Zukunft begann sich zu ändern, und zwar immer schneller. Bis wir zum heutigen Tag kommen, an dem sich die Dinge so schnell bewegen, dass es kaum möglich ist, Trends von einem Monat zum anderen vorherzusehen. Ein hervorragender Computerwissenschaftler bemerkte einmal, dass es in der Informatik nicht mehr um Computer geht, als in der Astronomie um die Konstruktion von Teleskopen geht. Dasselbe gilt für mein Arbeitsgebiet, das Schreiben von Science-Fiction. Bei Scifi geht es selten um Wissenschaft - und noch seltener um die Zukunft. Aber manchmal experimentieren wir mit dem Futurismus, und in letzter Zeit ist es sehr schwierig geworden.


Wie man die nahe Zukunft vorhersagt

Wenn ich eine fiktionale Arbeit über die nahe Zukunft schreibe, sagen wir, ein Jahrzehnt später, gab es ein Rezept, das unheimlich gut funktionierte. Einfach gesagt, 90% der Sachen des nächsten Jahrzehnts sind schon heute hier. Gebäude sind entworfen, um viele Jahre zu dauern. Automobile haben ein Designleben von ungefähr einem Jahrzehnt, so wird die Hälfte der Autos auf der Straße wahrscheinlich noch um 2027 herum unterwegs sein. Unter den Menschen wird es neue Gesichter geben, im Alter von zehn und darunter, und einige ältere Menschen werden gestorben sein, aber die meisten Erwachsene werden immer noch da sein, wenn auch älter und grauer.

Dies sind die 90% der nahen Zukunft, die bereits vorhanden sind. Nach den bereits vorhandenen 90%, sind weitere 9% der Zukunft ein Jahrzehnt früher leicht vorhersagbar. Sie schauen sich Trends an, die durch physikalische Grenzen vorgegeben sind, wie zum Beispiel das Gesetz von Moore, und Sie schauen sich die Roadmap von Intel an, und Sie verwenden ein wenig kreative Extrapolation, und Sie werden kaum falsch liegen. Wenn ich voraussage, dass LTE-Handys im Jahr 2027 überall sein werden, 5G für Anwendungen mit hoher Bandbreite verfügbar sein wird, und Fallback zum Satellitendatendienst wird zum kleinem Preis verfügbar sein, werden Sie nicht über mich lachen.

Es ist nicht so, als würde ich vorhersagen, dass die Flugzeuge langsamer fliegen und Nazis die Vereinigten Staaten übernehmen werden, oder? Und darin liegt das Problem: Es ist das 1 % Unbekannte, das alle Berechnungen über den Haufen wirft. Zufällig sind Verkehrsflugzeuge heute langsamer als in den siebziger Jahren und bringen mich nicht dazu, über Nazis zu reden. Niemand hat 2007 ein Nazi-Revival für 2017 erwartet, oder? (Nur sind dieses Mal die Deutschen die Guten.)

Mein Rezept für die Fiktion, die zehn Jahre in der Zukunft liegt, war früher schon zu 90% hier, 9% noch nicht hier, aber vorhersehbar, und 1% unvorhersehbar. Aber leider haben sich die Verhältnisse geändert. Ich denke, wir sind jetzt schon bei vielleicht 80% schon vorhandenem - der Klimawandel kostet eine gewaltige Menge an Infrastruktur - dann 15% noch nicht hier, aber vorhersehbar, und satte 5% völlig unvorhersehbaren blanken Wahnsinn.


Die Singularität ausschließen

Einige von euch werden vielleicht annehmen, dass ich als Autor von Büchern wie "Singularity Sky" und "Accelerando" dies einer bevorstehenden technologischen Einzigartigkeit zuschreibe, unserer Entwicklung von sich selbst verbessernder künstlicher Intelligenz und dem Hochladen von Geistern und der ganzen Wunschliste von transhumanistische Bestrebungen, gefördert von Ray Kurzweil. Leider ist dies nicht der Fall. Ich denke, Transhumanismus ist eine wieder aufgewärmte christliche Häresie. Während ihre Anhänger zu leidenschaftlichem Atheistmus tendieren, können sie der Geschichte, die unsere heutige westliche Zivilisation hervorgebracht hat, nicht ganz entkommen. Viele von Ihnen sind mit Entwurfsmustern vertraut, einem Ansatz zum Software-Engineering, der sich auf Abstraktion und Vereinfachung konzentriert, um wiederverwendbaren Code zu fördern. Wenn Sie die KI-Singularität als Erzählung betrachten und die zahlreichen Stellen in der Geschichte identifizieren, an denen der Satz "... und dann geschieht ein Wunder" vorkommt, wird schnell deutlich, dass sie das Christentum neu erfunden haben. In der Tat stützen sich die Quellen der heutigen Transhumanisten auf eine lange, reiche Geschichte der russischen Philosophie, die der russisch-orthodoxe Theologe Nikolai Fyodorvitch Federov durch seinen Schüler Konstantin Ziolkowski veranschaulicht, dessen Ableitung der Raketengleichung ihn im Wesentlichen zum Vater des modernen Weltraumfluges macht. Und wenn du anfängst, die tieferen Regionen des transhumanistischen Denkens zu erforschen und Konzepte wie Rokos Basilisken aufzuspüren - übrigens, jeder von euch, der vorher noch nichts von dem Basilisk wusste, ist jetzt zu einer Ewigkeit in der KI-Hölle verdammt -, wird dir klar, dass du es vermasselt hast, um einigen der gemeinsten Ideen im Presybterianischen Protestantismus zu entsprechen.

Wenn es wie eine Ente geht und quakt wie eine Ente, ist es wahrscheinlich eine Ente. Und wenn es wie eine Religion aussieht, ist es wahrscheinlich eine Religion. Ich sehe nicht viele Beweise für menschenähnliche, selbstgesteuerte künstliche Intelligenzen, die jetzt kommen, und eine ganze Menge Beweise dafür, dass niemand außer einigen Freaks in den Kognitionswissenschafts-Abteilungen der Universität dies will. Was wir stattdessen bekommen, sind selbstoptimierende Werkzeuge, die sich dem menschlichen Verständnis entziehen, aber tatsächlich nicht mehr unserer Art von Intelligenz entsprechen als eine Boeing 737 einer Möwe gleicht. Also werde ich mir die Hände der Singularität als Erklärungsmodell ohne weiteres waschen - ich bin auch einer dieser vehementen Atheisten - und versuche, ein besseres Modell für das zu entwickeln, was mit uns geschieht.


Auf dem Weg zu einem besseren Modell für die Zukunft

Wie mein schottischer SF-Mitstreiter Ken MacLeod gerne sagt, ist die Geheimwaffe der Science-Fiction Geschichte. Geschichte ist, schlicht gesagt, die schriftliche Aufzeichnung dessen, was und wie Menschen Dinge in vergangenen Zeiten getan haben - Zeiten, die aus unseren persönlichen Erinnerungen verschwunden sind.

Wir Science-Fiction-Autoren neigen dazu, die Geschichte als eine riesige Spielzeugkiste zu behandeln, wenn wir eine Geschichte erzählen wollen. Mit ein bisschen Geschichte ist es wirklich einfach, ein unterhaltsames Garn über ein galaktisches Imperium zu entwickeln, das die Entwicklung und den Niedergang des Habsburger Reiches widerspiegelt oder die Oktoberrevolution als eine Geschichte über die Unabhängigkeit des Mars neu interpretiert. Aber Geschichte ist noch weit nützlicher. Es stellt sich heraus, dass unsere persönlichen Erinnerungen nicht viel Zeit in Anspruch nehmen. Ich bin 53 und erinnere mich kaum noch an die 1960er Jahre. Ich erinnere mich nur an die 70er Jahre mit den Augen eines 6-16jährigen. Mein Vater, der letztes Jahr im Alter von 93 Jahren starb, erinnerte sich an die 1930er Jahre. Nur die Generation meines Vaters kann sich direkt an die große Depression erinnern und sie direkt mit der globalen Finanzkrise von 2007/08 vergleichen. Aber die Westler neigen dazu, den durch die Neunzigjährigen geäußerten Warnungen wenig Aufmerksamkeit zu schenken. Wir modernen, veränderungsbesessenen Menschen neigen dazu, unsere größten sozialen Fehler zu wiederholen, wenn sie aus dem Gedächtnis verschwinden, was bedeutet, dass sie in einem Zeitraum von 70 bis 100 Jahren wiederkehren. Wenn unsere persönlichen Erinnerungen also leer sind, ist es Zeit für uns, nach einem besseren kognitiven Toolkit zu suchen.

Die Geschichte gibt uns die Perspektive, um zu sehen, was in der Vergangenheit schief gelaufen ist, und nach Mustern zu suchen und zu prüfen, ob diese Muster für die Gegenwart und die nahe Zukunft gelten. Vor allem die Geschichte der letzten 200 bis 400 Jahre - das Zeitalter der immer schneller werdenden Veränderungen - ist eine eklatante Abweichung von der Norm der vorangegangenen dreitausend Jahrhunderte. Sie ist die Entwicklung der künstlichen Intelligenz, die nicht früher als 1553 stattfand und spätestens 1844. Ich rede von den sehr alten, sehr langsamen KIs, die wir natürlich Firmen nennen. Welche Lehren aus der Geschichte des Unternehmens können wir ziehen, die uns über das wahrscheinliche Verhalten der Art von künstlicher Intelligenz erzählen, an der wir uns alle heute interessieren?


Alte, langsame KI

Lassen sie mich kurz aus Wikipedia zitieren: Im späten 18. Jahrhundert definierte Stewart Kyd, der Autor der ersten Abhandlung über das Gesellschaftsrecht in englischer Sprache, eine Aktiengesellschaft als: eine Ansammlung von vielen Individuen, vereint in einem Körper, unter einer besonderen Bezeichnung, mit fortwährender Nachfolge unter einer künstlichen Form, und durch die Politik des Gesetzes mit der Fähigkeit ausgestattet, in verschiedener Hinsicht als Individuum zu handeln, insbesondere Eigentum zu nehmen und zu gewähren, von vertraglichen Verpflichtungen, von Klagen und verklagt zu werden, die gemeinsame Nutzung von Vorrechten und Immunitäten und die Ausübung einer Vielzahl von politischen Rechten, die mehr oder weniger umfangreich sind, je nach dem Aufbau ihrer Institution oder den ihr übertragenen Befugnissen entweder zum Zeitpunkt seiner Gründung oder zu irgendeinem späteren Zeitpunkt seiner Existenz.

Abhandlung über das Unternehmensrecht, Stewart Kyd (1793-1794)

Im Jahr 1844 verabschiedete die britische Regierung das Aktiengesetz, das ein Unternehmensregister schuf und es allen juristischen Personen ermöglichte, gegen eine Gebühr eine Gesellschaft zu registrieren, die als separate juristische Person existierte. In der Folge wurde das Gesetz erweitert, um die Haftung einzelner Aktionäre im Falle eines Geschäftsausfalls zu begrenzen, und sowohl Deutschland als auch die Vereinigten Staaten fügten ihre eigenen einzigartigen Erweiterungen zu dem hinzu, was wir heute als Doktrin der Corporate Personhood kennen.

(Natürlich gab es zwischen dem 16. und 21. Jahrhundert noch viele andere Dinge, die unsere Welt verändert haben. Ich habe die Veränderungen in der landwirtschaftlichen Produktivität aufgrund der Energieökonomie übersprungen, die schließlich die Malthus-Falle durchbrochen hat, in der unsere Vorgänger steckten. Das wiederum hat die langfristige Begrenzung des Wirtschaftswachstums von etwa 0,1% pro Jahr gebrochen, wenn nicht Hungersnöte, Plagen und Kriege die Territorien entvölkerten und kolonialen Eindringlingen Platz machten. Ich habe die Infektionstheorie von Krankheiten übersprungen. und die Entwicklung von Handelsimperien im Zeitalter von Segel und Schießpulver, die durch Fortschritte in der genauen Zeitmessung möglich wurden. Ich habe den Aufstieg und hoffentlichen Niedergang der schädlichen Theorie des wissenschaftlichen Rassismus, der den westlichen Kolonialismus und den Sklavenhandel übersprungen. Ich habe den Aufstieg des Feminismus, die ideologische Position, dass Frauen Menschen und nicht Eigentum sind und ich habe den Niedergang des Patriarchats übersprungen. Ich habe die ganze Aufklärung übersprungen das Zeitalter der Revolutionen! Aber das ist ein technik-zentrierter Kongress, also möchte ich diesem Vortrag in Bezug auf KI einschränken, von der wir alle gerne glauben, dass wir sie verstehen.)

Hier wäre die Sache mit den Unternehmen: Sie sind eindeutig künstlich, aber rechtlich sind sie Menschen. Sie haben Ziele und verfolgen diese Ziele. Und sie haben einen natürlichen Lebenszyklus. In den fünfziger Jahren hatte ein typisches US-Unternehmen des S & P 500-Index eine Lebensdauer von 60 Jahren, heute liegt es jedoch bei weniger als 20 Jahren. Unternehmen sind Kannibalen; sie zehren sich gegenseitig auf. Sie sind auch Superorganismen wie Bienen oder Ameisen. In den ersten eineinhalb Jahrhunderten waren sie für ihren internen Betrieb ausschließlich auf menschliche Mitarbeiter angewiesen, obwohl sie ihre Geschäftsprozesse in diesem Jahrhundert immer schneller automatisieren. Jeder Mensch wird nur so lange behalten, wie er seine ihm zugewiesenen Aufgaben erfüllen kann. Danach wird er durch einen anderen Menschen ersetzt, so wie die Zellen in unserem Körper funktionell austauschbar sind (und eine Gruppe von Zellen kann im Extremfall oft durch eine ersetzt werden). Bis zu einem gewissen Grad können Unternehmen geschult werden, um die persönlichen Wünsche ihrer Geschäftsführer zu erfüllen, aber auch CEOs können ersetzt werden, wenn ihre Aktivitäten das Unternehmen schädigen, wie Harvey Weinstein vor ein paar Monaten herausgefunden hat. Schließlich ist unser rechtliches Umfeld heute eher auf das Wohlergehen von Unternehmens-Personen als auf menschliche Personen zugeschnitten, bis zu dem Punkt, an dem unsere Regierungen Unternehmen in vielen ihrer internen Strukturen nachahmen.


Was wollen AIs?

Was wollen unsere aktuellen, gerade existierenden AI-Oberherrscher? Elon Musk - von dem Sie bestimmt alle gehört haben - hat eine obsessive Angst vor einer besonders gefährlichen künstlichen Intelligenz - die er als eine Software betrachtet, die wie ein Gehirn-in-der-Kiste funktioniert - nämlich dem Büroklammern-Maximierer. Ein Büroklammer-Maximierer ist ein Kunstbegriff für eine zielgerichtete KI, die eine einzige Priorität hat, z. B. die Maximierung der Anzahl von Büroklammern im Universum. Der Büroklammer-Maximierer kann sich in der Verfolgung dieses Ziels verbessern, hat aber keine Möglichkeit, sein Ziel zu variieren, und wird letztendlich versuchen, alle metallischen Elemente im Sonnensystem in Büroklammern umzuwandeln, auch wenn dies offensichtlich schädlich für das Wohlbefinden der Menschen ist, die ihn entworfen haben.

Leider beachtet Musk dies nicht genug in seinen eigenen Unternehmen. Tesla ist ein Batterien-Maximierer - ein Elektroauto ist eine Batterie mit Rädern und Sitzen. SpaceX ist ein orbitaler Nutzlast-Maximierer, der die Kosten für Weltraumstarts senkt, um mehr Verkäufe für den angebotenen Service zu ermöglichen. Solar City ist ein Photovoltaik-Panele-Maximierer. Und so weiter. Alle drei von Musks eigenen langsamen KIs basieren auf einer Architektur, die darauf abzielt, die Rendite von Shareholder Investments zu maximieren, selbst wenn sie damit den Planeten grillen, auf dem die Aktionäre leben müssen. (Aber wenn du Elon Musk bist, ist das in Ordnung: du kannst jederzeit auf den Mars ausweichen.)

Das Problem mit Unternehmen ist, dass sie trotz ihrer offenkundigen Ziele - ob sie Elektrofahrzeuge oder Bier herstellen oder Lebensversicherungen verkaufen - einer instrumentellen Konvergenz unterliegen, da sie alle ein gemeinsames Ziel haben: Einnahmen zu generieren. Wenn sie kein Geld verdienen, werden sie von einem größeren Raubtier gefressen oder sie gehen pleite. Geld verdienen ist ein instrumentales Ziel - es ist für sie ebenso wichtig wie das Atmen für uns Säugetiere, und ohne es zu verfolgen, werden sie ihr endgültiges Ziel nicht erreichen, was auch immer es sein mag. Unternehmen verfolgen im Allgemeinen ihre instrumentellen Ziele - insbesondere die Maximierung der Einnahmen - als Nebeneffekt der Verfolgung ihres offenen Ziels. Manchmal versuchen sie jedoch, das regulatorische Umfeld zu manipulieren, in dem sie agieren, um sicherzustellen, dass das Geld ihnen trotzdem zufließt. Die Kultur des menschlichen Werkzeugbaus wird im Laufe der Zeit immer komplizierter. Neue Technologien haben immer eine implizite politische Agenda, die darauf abzielt, ihre Nutzung zu erweitern,

Regierungen reagieren darauf, erlassen Gesetze, um Technologien zu kontrollieren, und manchmal enden wir mit Industrien, die sich in legalen Duellen herumärgern. Betrachten wir zum Beispiel das Automobil. Ohne Tankstellen und Kraftstoffverteilungs-Leitungen können Sie keinen Massenverkehr mit Kraftfahrzeugen haben. Diese erfordern wiederum Zugang zu dem, der das Land besitzt, aus dem das Öl gewonnen wird - und bevor Sie es wissen, enden Sie mit einer ständigen Besatzungsmacht im Irak und einer Diktatur in Saudi-Arabien. Näher zu Hause, verursachen Automobile Gesetze zu Fußgängerampeln und Alkohlverbote am Steuer. Sie wirken sich auf städtebauliche Vorschriften aus und fördern die Zersiedelung vor Ort, den Bau menschlicher Infrastruktur in dem Ausmaß, wie es von Kraftfahrzeugen und nicht von Fußgängern verlangt wird. Dies wiederum ist schlecht für konkurrierende Verkehrstechnologien wie Busse oder Straßenbahnen (die am besten in Städten mit hoher Bevölkerungsdichte funktionieren).

Um diese Gesetze in Kraft zu setzen und ein günstiges Umfeld für Geschäfte zu schaffen, geben Konzerne Geld für politische Lobbyisten aus - und wenn sie damit durchkommen, auch für Bestechungsgelder. Bestechung muss natürlich nicht offensichtlich sein. Zum Beispiel zersplitterten die Reformen des britischen Eisenbahnnetzes in den 1960er Jahren viele Zweigstrecken und fielen mit einem Anstieg des Straßenbaus und des Automobilverkaufs zusammen. Diese Reformen wurden von Verkehrsminister Ernest Marples inszeniert, der ein reiner Politiker war. Jedoch sammelte Marples während dieser Zeit ein beträchtliches persönliches Vermögen, indem er Anteile an einer Autobahnbaugesellschaft besaß. (Also, kein Interessenkonflikt dort!)

Die Automobilindustrie ist für sich kein reiner Büroklammern-Maximierer. Aber wenn man es in Verbindung mit der fossilen Brennstoffindustrie, der Straßenbauindustrie, der Unfallversicherungen und so weiter betrachtet, beginnt man, die Umrisse einer Büroklammer zu sehen, die das Ökosystem maximiert, das in weit entlegene Länder eindringt und etwa eine Viertelmillion Menschen pro Jahr tötet - das ist die weltweite Todesrate durch Autounfälle nach Angaben der Weltgesundheitsorganisation: sie konkurriert ständig mit dem ersten Weltkrieg - als Nebeneffekt ihrer Bemühungen, Ihnen ein neues Auto zu verkaufen.

Für Autos gibt es natürlich keine totale Haftung. Heutige Autos unterliegen strengen Vorschriften, was Sicherheit angeht und sollen (theoretisch) toxische Emissionen reduzieren: sie sind schnell, effizient und komfortabel. Dafür können wir natürlich den gesetzlich vorgeschriebenen Regelungen danken. In den 1970er Jahre hatten die Autos keine Knautschzonen. Gehen Sie zurück in die 1950er Jahre, als Autos nicht standardmäßig mit Sicherheitsgurten ausgerüstet wurden. In den 1930er Jahren waren Blinker und Bremsen an allen vier Rädern optional, und Ihre beste Hoffnung, einen Unfall bei 50 km/h zu überstehen, bestand darin, dass Sie aus dem Auto geschleudert wurden und irgendwo landeten, ohne sich den Hals zu brechen. Regulatorische Institutionen sind unsere aktuelle politische Struktur, um zu verhindern, dass Büroklammer-Maximierer Amok laufen. Aber leider funktionieren sie nicht immer.

Ein Fehlermodus, auf den Sie achten sollten, ist die Erfassung von Vorschriften, bei der Regulierungsbehörden von den von ihnen kontrollierten Industrien gesteuert werden. Ajit Pai, Leiter der amerikanischen Federal Communications Commission, die gerade für die Beseitigung der Netzneutralität entschieden hat, arbeitete als Associate General Counsel bei Verizon Communications Inc, dem größten aktuellen Nachkommen des Bell-Telefonmonopols. Warum sollte jemand mit einem transparenten Interesse an einem Technologieunternehmen die Verantwortung für eine Regulierungsbehörde der Branche übernehmen, in der das Unternehmen tätig ist?

Nun, wenn Sie eine hochkomplexe Technologie regulieren wollen, müssen Sie Ihre Regulatoren unter den Leuten rekrutieren, die sie verstehen. Und leider sind die meisten dieser Leute Brancheninsider. Ajit Pai ist sich klar darüber bewusst, wie Verizon reguliert ist und möchte etwas dagegen tun - nur nicht unbedingt im öffentlichen Interesse. Wenn die Aufsichtsbehörden mit Leuten besetzt sind, die aus den Industrien kommen, die sie kontrollieren sollen, arbeiten sie oft mit ihren ehemaligen Bürokollegen zusammen, um die Profitabilität zu erhöhen, entweder indem sie Barrieren für neue aufstrebende Unternehmen aufheben oder Sicherheitsmaßnahmen abbauen, die die Öffentlichkeit schützen.

Eine zweite Fehlentwicklung ist die verzögerte Regulierung, wenn eine Technologie so schnell voranschreitet, dass die Vorschriften lächerlich veraltet sind, sobald sie herausgegeben werden. Betrachten Sie die EU-Richtlinie, die Cookie-Hinweise auf Websites erfordert, um Benutzer darauf hinzuweisen, dass ihre Aktivitäten verfolgt wurden und ihre Privatsphäre verletzt werden könnte. Das wäre eine gute Idee gewesen, hätte man dies 1993 oder 1996 gefordert. Aber leider ist die Forderung erst 2011 aufgetaucht, als das Web viel komplexer geworden war. Fingerabdruck- und Tracking-Mechanismen, die nichts mit Cookies zu tun hatten, waren inzwischen weit verbreitet.

Tim Berners-Lee stellte 1995 fest, dass sich im Internet alle zwölf Monate so schnell weiterentwickelt wie die reale Zeit in fünf Jahren verändert wird; Nach diesem Maßstab kam das Cookie-Gesetz fast ein Jahrhundert zu spät, um etwas Gutes zu tun. Schauen wir noch einmal auf Uber. In diesem Monat entschied der Europäische Gerichtshof, dass Uber ein Taxi-Service ist, nicht nur eine Web-App. Dies ist wohl richtig; Das Problem ist, dass sich Uber seit seiner Gründung vor acht Jahren weltweit ausgebreitet hat und seine Fahrer subventioniert hat, um konkurrierende private Transportfirmen aus dem Geschäft zu drängen. Ob dies in der Summe gut für die Gesellschaft ist, ist fraglich; Das Problem ist, dass ein Taxifahrer ungeheuer hungrig werden kann, wenn er acht Jahre auf ein Gerichtsurteil warten muss, das gegen einen Räuber gerichtet ist, der sein Leben stören will.Um es kurz zu machen: Erstens haben wir bereits Büroklammern-Maximierer (und Musks KI-Alarmismus ist merkwürdig spiegelblind). Zweitens haben wir Mechanismen, um sie unter Kontrolle zu halten, aber diese funktionieren nicht gut gegen KIs, die die dunklen Künste einsetzen - besonders Korruption und Bestechung - und sie sind noch schwächer gegen echte KIs, die sich zu schnell für menschenvermittelte Mechanismen entwickeln, wie Gesetze, die mit ihnen mitzuhalten versuchen. Im Gegensatz zur naiven Vision eines Büroklammern-Maximierers haben bestehende KIs mehrere Ziele: ihr übergeordnetes Ziel, aber auch Profitstreben und Expansion in neue Märkte, um den Wünschen derer, die gerade auf dem Fahrersitz sitzen, gerecht zu werden.


Wie alles schief gelaufen ist

Es scheint mir, dass unsere gegenwärtigen politischen Umwälzungen am besten als Folge der Eroberung demokratischer Institutionen nach 1917 durch große KIs verstanden werden können. Überall, wo ich hinsehe, sehe ich Wähler, die wütend gegen ein fest verwurzeltes Establishment protestieren, das entschlossen zu sein scheint, die Bedürfnisse und Bedürfnisse ihrer menschlichen Wähler zugunsten der Maschinen zu ignorieren. Die Brexit-Verärgerung war größtenteils das Ergebnis einer Protestabstimmung gegen das britische politische Establishment; die Wahl von Donald Trump ebenfalls, mit einer Prise Rassismus obenauf. Unsere großen politischen Parteien werden von Menschen geführt, die mit dem System, wie es existiert, kompatibel sind - ein System, das über Jahrzehnte hinweg von Unternehmen geformt wurde, die unser Regierungs- und Regulierungsumfeld verzerren.

Wir Menschen leben in einer Welt, die von den Wünschen und Bedürfnissen der KIs geprägt ist, gezwungen, nach ihren Bedingungen zu leben, und uns wird beigebracht, dass wir nur insofern wertvoll sind, als wir zur Herrschaft der Maschinen beitragen. Hier auf dem CCC sind wir alle mehr an Computern und Kommunikationstechnologien interessiert als an diesem historischen Kram. Aber wie gesagt, Geschichte ist eine Geheimwaffe, wenn man weiß, wie man sie benutzt. Geschichte ist nützlich, denn sie erlaubt uns, wiederkehrende Muster menschlichen Verhaltens zu erkennen, die sich außerhalb unserer persönlichen Erfahrung über Jahrzehnte hinweg wiederholen. Wenn wir unsere historischen, sehr langsamen AIs betrachten, welche Lehren können wir daraus ziehen über moderne KI - die Flut von beispiellosem deep learning und Big-Data-Technologien, die uns im letzten Jahrzehnt überrollt haben?

Wir haben 1995 eine grundlegend falsche, folgenschwere Strukturentscheidung getroffen, die demokratische politische Prozesse beschädigte, unsere Fähigkeit lähmte, die Welt um uns herum wirklich zu verstehen und zu den wüsten Umwälzungen des gegenwärtigen Jahrzehnts geführt hat. Dieser Fehler bestand darin, den Ausbau des öffentlichen Internets - im Gegensatz zum früheren, staatlich finanzierten Unternehmens- und akademischen Internet - durch die Monetarisierung von Augenbewegungen über Werbeeinnahmen zu finanzieren.

(Anmerkung: Cory Doctorow vertritt eine gegenläufige These: Der Dotcom-Boom war auch eine ökonomische Blase, weil die Dotcoms an einem Wendepunkt der finanziellen Deregulierung erwachsen wurden, dem Punkt, an dem die Reagan-Clinton-Bush-Reformen die Ära der Depression bremsten. Die rasante Entwicklung der Technologiebranche war der erste Prüfstein, um das Unternehmenswachstum als die größte Tugend zu betrachten, die auf der Lüge der treuhänderischen Pflicht zur Gewinnsteigerung vor allen anderen Überlegungen aufbaute. Vollkommen richtig, aber es ist ein bisschen ein Henne-Ei-Streit: Wir hätten kein kommerzielles Web ohne ein permissives, dereguliertes finanzielles Umfeld gehabt. Meine Erinnerung an die Arbeit in der Dotcom-Blase ist, dass abgesehen von einigen spezifischen Umgebungen (dem Silicon Valley-Gebiet und dem Boston-Cambridge-Korridor) das Risikokapital bis Ende 1998 oder später schwer zu finden war: Die Inflation der Blase war eher von der Nachfrage getrieben als kapitalgetrieben, da der Nicht-Tech-Investmentsektor zu spät zur Party kam. Vorbehalt: Ich habe in dieser Lotterie nicht gewonnen, also was weiß ich?)

Das werbefinanzierte Web, mit dem wir heute leben, war nicht unvermeidbar. Wenn Sie sich an das Web von 1994 erinnern, gab es nur wenige Anzeigen und überhaupt wenig kommerzielles. (Werbung war vor allem Spam, im Usenet und per E-Mail.) 1995 war das Jahr, in dem das World Wide Web in der anglophonen Welt wirklich öffentliche Aufmerksamkeit erlangte und Verbraucher-Websites auftauchten. Niemand wusste wirklich, wie dieses Ding bezahlt werden sollte (bei der ursprünglichen Dot-Com-Blase ging es in erster Linie darum, herauszufinden, wie man das Internet überhaupt monetarisieren könnte, und viele Leute verloren dabei ihre letzten Hemden).

Die naive anfängliche Annahme war, dass die Transaktionskosten für den Aufbau einer TCP/IP-Verbindung über Modem zu hoch waren, um von der Mikrobenutzung pro Nutzung unterstützt zu werden, so dass wir Kunden indirekt abrechnen würden, indem wir Werbebanner vor ihre Augen schoben und hofften Sie würden sich durchklicken und etwas kaufen. Doch leider ist Werbung eine Industrie. Das heißt, es ist das Produkt einer dieser altmodischen, sehr langsamen KIs, von denen ich gesprochen habe. Werbung versucht, die Aufmerksamkeit der Köpfe hinter jedem menschlichen Augapfel zu maximieren: Die Kopplung von Werbung mit der Websuche war ein unvermeidliches Auswuchs. (Wie kann man die Aufmerksamkeit widerwilliger Subjekte eher auf sich ziehen, als herauszufinden, was sie wirklich interessiert, und Anzeigen verkaufen, die sich auf diese Interessen beziehen?) Das Problem bei der Anwendung des Büroklammern-Maximierer-Ansatzes bei der Monopolisierung von Augäpfeln ist jedoch, dass Augäpfel eine knappe Ressource sind. In jeder Woche gibt es nur 168 Stunden, in denen ich Bannerwerbung sehen kann. Darüber hinaus sind die meisten Anzeigen irrelevant für meine Interessen und es spielt keine Rolle, wie oft Sie eine Anzeige für Hundekuchen bei mir aufleuchten lassen, ich werde nie welchen kaufen. (Ich habe eine Katze.)

Um mit unseren Augäpfeln den besten Umsatz zu generieren, ist es für die Werbeindustrie notwendig zu erfahren, wer wir sind und was uns interessiert. Und uns immer gezielter in der Hoffnung anzusprechen, uns mit Dingen zu beschäftigen, von denen wir uns angezogen fühlen. An diesem Punkt in einem Gespräch würde ich jetzt in eine leidenschaftliche Tirade über die abscheuliche Korruption und das Böse von Facebook ablassen. Aber ich nehme an, dass sie das alles schon gehört haben, also werde ich mich nicht darum kümmern.

Die kurze Zusammenfassung ist, dass Facebook genauso eine Suchmaschine ist wie Google oder Amazon. Facebook-Suchanfragen sind für Gesichter, also für Menschen, optimiert. Wenn Sie jemanden finden möchten, mit dem Sie seit dreißig Jahren nicht mehr in Kontakt gekommen sind, weiß Facebook wahrscheinlich, wo sie leben, was ihre Lieblingsfarbe ist, welche Schuhgröße sie tragen und was sie vor all den Jahren über Sie zu Ihren Freunden gesagt haben, was sie den Kontakt verlieren ließ. Selbst wenn sie keinen Facebook-Account haben, hat Facebook einen Account bei Ihnen - ein Loch in ihrem sozialen Diagramm mit einer Reihe von Verbindungen, die darauf zeigen und ihr Name wurde auf den Fotos ihrer Freunde markiert. Sie wissen viel über Sie und verkaufen den Zugriff auf ihr soziales Profil an Werbetreibende, die Sie dann ansprechen, auch wenn Sie nicht glauben, dass Sie Facebook verwenden. In der Tat, es hat kaum einen Sinn, Facebook in diesen Tagen nicht zu benutzen: Sie sind die Borg der sozialen Medien, Widerstand ist zwecklos.Allerdings versucht Facebook Werbung zu verkaufen, wie Google und Twitter.

Um das zu tun, modifizieren sie den Inhalt, den sie ihnen zeigen, um es für ihre Augen attraktiver zu machen - und mit "attraktiv" meine ich nicht angenehm. Wir Menschen haben einen gut entwickelten automatischen Reflex, um auf Bedrohungen und Schrecken ebenso wie auf angenehme Reize zu reagieren: bedenken Sie, wie sich der Straßenverkehr immer verlangsamt, wenn er an einer Unfallstelle vorbei rollt. Die Algorithmen, die bestimmen, was wir bei Facebook oder Twitter zu sehen bekommen, berücksichtigen diese Tendenz. Sie könnten stärker auf öffentliche Hinrichtungen im Iran reagieren als auf ein küssendes Paar: Der Algorithmus weiß es und zeigt Ihnen, was Sie sehen wollen.

Dies bringt mich zu einem anderen interessanten Punkt über computerisierte KI, im Gegensatz zu korporatisierter KI: KI-Algorithmen neigen dazu, die Vorurteile und Überzeugungen der Programmierer zu übernehmen. Vor ein paar Jahren bin ich über eine Webcam gestolpert, die von Ingenieuren entwickelt wurde, die im meist hellhäutigen Silicon Valley arbeiten und Schwierigkeiten haben, die richtige Farbbalance zu erreichen, wenn sie dunkelhäutige Gesichter zeigen. Das ist ein Beispiel für menschliche Vorurteile. Aber mit dem heutigen Deep Learning kann sich Voreingenommenheit über die Datensätze einfangen, mit denen die neuronalen Netze trainiert werden.

Microsofts erster Versuch für einen von maschinellem Lernen angetriebenen Chatbot, Tay, wurde innerhalb weniger Tage offline geschaltet, als 4-chan und Reddit-basierte Trolle herausfanden, dass sie dem Bot rassistische und sexistische Sprüche antrainieren konnten, um Unfug zu treiben. Menschen mögen voreingenommen sein, aber zumindest sind wir rechenschaftspflichtig und wenn jemand Ihnen rassistische oder sexistische Anzüglichkeiten ins Gesicht sagt, können Sie dagegen halten (oder schlagen). Aber es ist unmöglich, ein Unternehmen zu schlagen, und es ist vielleicht nicht einmal möglich, die Quelle der unfairen Voreingenommenheit zu identifizieren, wenn Sie mit einem maschinellen Lernsystem zu tun haben. KI-basierte Systeme, die bestehende Vorurteile und soziale Zuordnungen konkretisieren, machen es für Aktivisten wie uns schwerer, soziale Veränderungen zu erreichen.

Herkömmliche Werbung funktioniert, indem sie sowohl mit der Unsicherheit und Angst des Zielkunden als auch mit seinem Bedürfnissen spielen, die wiederum auf die Beziehung des Ziels zu seiner umgebenden kulturellen Matrix einwirken. Die Angst vor dem Verlust des sozialen Status und Privilegien ist ein starker Anreiz, und Angst und Fremdenfeindlichkeit sind nützliche Werkzeuge, um Blicke anzuziehen. Was passiert, wenn wir etablierte soziale Netzwerke mit erlernten Vorurteilen gegen, sagen wir, Feminismus oder Islam oder Melanin bekommen? Oder Deep-Learning-Systeme, die mittels von rassistischen Scharfmachern kontaminierten Daten trainiert wurden? Deep-Learning-Systeme wie die in Facebook, die bestimmen, welche Geschichten ihnen gezeigt werden, damit sie so viel Aufmerksamkeit wie möglich auf die Werbung lenken? Ich denke, Sie kennen die Antwort schon.


Der Blick in die Zukunft (ist düster!)

Das klingt freilich ein wenig düster und unangenehm. Ich schreibe Science-Fiction, Sie lesen oder schauen oder spielen Science-Fiction; Wir sind gewohnt, Wissenschaft und Technologie als gute Dinge zu betrachten, die unser Leben besser machen. Aber viele Technologien wurden in der Vergangenheit aus gutem Grund stark reguliert oder sogar verboten, und sobald Sie die reflexartige Empörung über jegliche Kritik an Technologie und Fortschritt überwunden haben, könnten Sie zustimmen, dass es vernünftig ist, Einzelpersonen den Besitz von Atomwaffen oder Nervengas zu verbieten.

Weniger offensichtlich: Sie sind vielleicht keine Waffen, aber wir haben Chlorfluor-Kohlenstoff-Kältemittel verboten, weil sie sich in der Hochstratosphäre anreichern und die Ozonschicht zerstören, die uns vor UV-B-Strahlung schützt. Und wir verboten Tetraethylblei als Zusatz in Benzin, weil es Menschen vergiftete und zu einer Verbrechenswelle führte. Nervengas und verbleites Benzin waren Technologien der 1930er Jahre, die von Konzernen der 1930er Jahre gefördert wurden. Halogenierte Kältemittel und Atomwaffen sind vollständig aus den 1940er Jahren und Interkontinentalraketen stammen aus den 1950er Jahren. Ich behaupte, dass das 21. Jahrhundert gefährliche neue Technologien hervorbringt - so wie unsere bestehenden Strategien zur Regulierung sehr langsamer KIs zusammengebrochen sind.

Lassen Sie mich vier Beispiele von neuen Arten von KI-Anwendungen geben, die unsere Gesellschaften noch schlimmer verzerren werden als die alten langsamen KIs von früher. Dies ist keine erschöpfende Liste: Dies sind nur Beispiele. Wir müssen eine allgemeine Strategie ausarbeiten, um diese KI zu beherrschen, bevor sie auf uns dominieren. (Beachten Sie, dass ich keine Lösung für die regulatorischen Probleme habe, die ich bereits im Zusammenhang mit KI hervorgehoben habe. Dieser Aufsatz ist polemisch und zielt darauf ab, die Existenz eines Problems hervorzuheben und eine Diskussion anzuregen, anstatt eine vorkonfektionierte Lösung anzubieten. Wenn das Problem einfach zu lösen wäre, wäre das kein Problem, oder? Erstens sind da politische Hacker-Tools:


Auf soziale Kennlinien ausgerichtete Propaganda

Die Spitzenposition meiner Liste gefährlicher Technologien, die reguliert werden müssen, ist nach den Wahlüberraschungen des Jahres 2016 wenig überraschend. Cambridge Analytica war Pionier bei der Nutzung von deep learning durch das Scannen der sozialen Graphen von Facebook und Twitter, um die politischen Zugehörigkeiten der Wähler zu identifizieren. Sie identifizierten Personen, die für Überredungskünste anfällig waren, die in wichtigen Wahlbezirken lebten, und beschickten sie mit Propaganda, die auf ihre persönlichen Probleme abzielte.

Die Tools, die von Web-Werbetreibenden entwickelt wurden, um Produkte zu verkaufen, wurden nun für politische Zwecke eingesetzt, und die Menge an persönlichen Informationen über unsere Zugehörigkeiten, die wir in sozialen Medien veröffentlichen, macht uns anfällig. Abgesehen von den letzten Präsidentschaftswahlen in den USA gibt es immer mehr Beweise dafür, dass das britische Referendum über den Austritt aus der EU einem Angriff aus dem Internet durch ausländische soziale Medien ausgesetzt war, ebenso wie die jüngsten französischen Präsidentschaftswahlen.

Ich verkneife es mir, hier Partei zu ergreifen: Ich habe schließlich meine eigene politische Zugehörigkeit. Aber wenn Social-Media-Unternehmen nicht herausfinden, wie man individuell gezielte Propaganda identifiziert und kennzeichnet, werden demokratische Wahlen durch Siege für diejenigen ersetzt, die die meisten Trolle kaufen können. Und das werden nicht einfach Milliardäre wie die Koch-Brüder und Robert Mercer in den Vereinigten Staaten sein, die Wahlen zugunsten desjenigen beeinflussen, die ihnen die größten Steuersenkungen versprechen. Die russische militärische Cyberwar-Doktrin fordert die Verwendung von sozialen Medien, um wahrgenommene Feinde zu verwirren und zu deaktivieren, zusätzlich zu der zunehmend vertrauten Verwendung von Zero-Day-Exploits für Spionage durch Spear-Phishing und verteilte Denial-of-Service-Attacken auf Infrastruktur (was auch von westlichen Behörden praktiziert wird).

Früher oder später wird der Einsatz von Propaganda-Bot-Armeen im Cyberkrieg global werden, und an diesem Punkt wird unser gesellschaftlicher Diskurs irreparabel vergiftet. (Übrigens, ich hasse den Präfix Cyber wirklich; es zeigt normalerweise an, dass der Benutzer keine Ahnung hat, wovon er redet. Leider scheint sich der Begriff "Cyberwar" durchgesetzt zu haben. Aber ich schweife ab.)

Zweitens, eine Ergänzung zur zielgerichteten Propaganda mittels deep learning ist die Verwendung von durch neuronale Netze erzeugten falschen Videomedien. Wir sind heutzutage an durch Photoshop bearbeitete Bilder gewöhnt, aber das Fälschen von Video und Audio ist immer noch arbeitsintensiv, oder? Leider ist das nicht so: Wir sehen KI-unterstützte Video-Pornos der ersten Generation, bei denen die Gesichter von Filmstars in einem Videoclip mit Hilfe von Software auf die von Pornostars übertragen wurden, statt einen mühsamen menschlichen Vorgang zu nutzen. (Ja, natürlich ist Porno die erste Anwendung: Regel 34 des Internets gilt.)

Inzwischen gibt es WaveNet, ein System zum Erzeugen realistisch klingender Sprache mit der Stimme eines menschlichen Sprechers, dessen neuronales Netz nachgeahmt wird. Dieses Zeug ist immer noch Geek-intensiv und erfordert relativ teure GPUs. Aber in weniger als einem Jahrzehnt wird es in freier Wildbahn sein, und fast jeder wird in der Lage sein, ein realistisch aussehendes Video von jemandem vorzutäuschen, dem es nicht gefällt, etwas Schreckliches zu tun.

Wir sind jetzt beunruhigt über bizarre YouTube-Kanäle, die versuchen, Marken des Kinderfernsehens zu monetarisieren, indem sie den Video-Content von legitimen Kanälen kopieren und in ihre eigenen Werbeanzeigen und Keywords hinzufügen. Viele dieser Kanäle werden von Werbeclip-Maximierer Werbe-AIs geprägt, die einfach versuchen, ihr Such-Ranking auf YouTube zu maximieren. Fügen Sie neuronale Netzwerk-Tools hinzu, um Zeichen A in Video B einzufügen, um Bots zur Klickmaximierung zu aktivieren, und die Dinge werden sehr seltsam (und unangenehm). Und sie werden nur noch verrückter werden, wenn diese Werkzeuge für politische Zwecke eingesetzt werden.

Wir neigen dazu, die Inputs unserer Augen und Ohren viel weniger kritisch zu bewerten als das, was uns wahllose Fremde im Internet erzählen - und wir sind bereits jetzt zu anfällig für fake news. Bald werden sie mit glaubwürdigen Videobeweisen zu uns kommen. Das Magazin Smart Money sagt, dass man 2027 nichts glauben wird, was man in einem Video sieht, es sei denn, es gibt kryptografische Signaturen, die es mit dem Gerät verbinden, das die Rohdaten aufgenommen hat - und Sie wissen, wie gut die meisten Leute Verschlüsselung beherrschen? Das wird das totale Chaos. Büroklammern-Maximierer, die sich auf Augäpfel konzentrieren, sind so 20. Jahrhundert. Werbung als Industrie kann nur wegen einer Eigenart unseres Nervensystems existieren - wir sind anfällig für Süchte. Sei es Tabak, Glücksspiel oder Heroin, wir erkennen Suchtverhalten, wenn wir es sehen. Oder wir? Es stellt sich heraus, dass die Feedbackschleifen des menschlichen Gehirns relativ leicht zu bespielen sind. Große Unternehmen wie Zynga (Farmville) existieren nur deshalb, weil sie frei nutzbare Social-Media-Plattformen wie Facebook und Twitter dominieren, weil sie strukturiert sind, um häufige Interaktion zu belohnen und emotionale Reaktionen zu generieren (nicht unbedingt positive Emotionen - Wut und Hass sind genauso gut, wenn es darum geht, Augäpfel an Werbetreibende zu richten) . "Smartphone-Sucht" ist ein Nebeneffekt von Werbung als Erlösmodell: Häufige kurze Interaktionsausbrüche halten uns für mehr zurück. Dank des tiefen Lernens haben Neurowissenschaftler den Prozess, Apps suchterzeugender zu machen, mechanisiert.

Dopamine Labs ist ein Startup, das App-Entwicklern Tools zur Verfügung stellt, mit denen sie jede App süchtig machen können, und die den Wunsch, ein Verhalten fortzusetzen, wenn es unerwünscht ist, reduzieren. Es geht ein bisschen über automatisierte A/B-Tests hinaus; A/B-Tests ermöglichen es Entwicklern, einen binären Baumpfad zwischen Optionen zu zeichnen, aber echte deep-learning-getriebene Addiction-Maximizer können für mehrere Attraktoren gleichzeitig optimieren. Nun scheinen Dopamine Labs mit ihrem öffentlichen Gesicht ethische Bedenken über den Missbrauch von Suchtmaximierern in Software zu haben. Aber die Neurowissenschaften sind kein Geheimnis, und früher oder später werden einige wirklich skrupellose Menschen versuchen zu sehen, wie weit sie es treiben können.


Nehmen wir ein konkreteres Szenario

Apple hat sich viel Mühe gegeben, um die Gesichtserkennung in Echtzeit mit dem iPhone X zu machen. Sie können ein iPhone X nicht mit einem Foto oder einer einfachen Maske täuschen: Es macht Tiefenmapping, um sicherzustellen, dass Ihre Augen am richtigen Ort sind kann feststellen, ob sie offen oder geschlossen sind) und es erkennt Sie Ihr Gesicht mittels der zugrunde liegenden Knochenstruktur, trotz Make-up oder Prellungen. Es läuft kontinuierlich und überprüft dies jedes Mal, wenn Sie die Home-Taste auf einer traditionelleren Smartphone-Benutzeroberfläche drücken, und es kann sehen, wohin Ihre Augäpfel zeigen. Der Zweck ist, es einem Telefondieb schwer zu machen, irgendwohin zu kommen, wenn er Ihr Gerät stiehlt.

Es bedeutet jedoch, dass Ihr Telefon Ihre Gesichtsausdrücke überwachen und sie mit der App-Nutzung korrelieren kann. Ihr Telefon wird genau wissen, was Sie auf dem Bildschirm sehen möchten. Mit suchtorientiertem deep learning und neuronal generierten Bildern ist es prinzipiell möglich, Ihnen eine sich endlos steigernde Nutzlast von erregungsmaximierenden Inputs zuzuführen. Es könnten Facebook- oder Twitter-Nachrichten sein, die für Empörung optimiert sind, oder es könnte sich um von AI generierte Pornos handeln, um an Erregungsereignisse zu gelangen, die Sie nicht einmal bewusst wahrnehmen. Aber so oder so, die App besitzt jetzt Ihr zentrales Nervensystem - und Sie werden monetarisiert.

Abschließend möchte ich ein wirklich haarsträubendes Gespenst vorstellen, das weit über den Einsatz von deep learning und gezielter Propaganda im Cyberwar hinausgeht. Im Jahr 2011 startete ein obskures russisches Softwarehaus eine iPhone-App für Pickup-Künstler namens "Girls around Me". (Spoiler: Apple hat es wie eine heiße Kartoffel fallen gelassen, als es herauskam.) Die App funktioniert dort, wo der Benutzer GPS benutzt, sie befragt FourSquare und Facebook nach Leuten, die eine einfache relationale Suche nach einzelnen Frauen (über Facebook) gestartet haben, die eingecheckt sind (oder von ihren Freunden eingecheckt wurden) in Ihrer Nähe (über FourSquare). Die App zeigte dann ihre Standorte auf einer Karte zusammen mit Links zu ihren Social-Media-Profilen an.

Wenn sie soetwas heute anbieten würden, würde das Interface gamifiziert werden, was Trefferquoten und eine Rangliste anzeigt und Ziele, die der Belästigung erlegen sind, als Flaggen darstellt. Aber heutzutage benutzen die coolen Kinder und alleinstehenden Erwachsenen alle Dating-Apps mit einem fehlenden Vokal (happn) im Namen: nur ein Schlingel würde etwas wie "Mädchen um mich" verwenden, oder?

Leider gibt es sogar noch schlimmere Nutzungen, als wenn man in sozialen Netzwerken sucht, um potenzielle Opfer für Serienvergewaltiger zu finden. Verweist Ihr Social Media Profil auf Ihre politische oder religiöse Zugehörigkeit? Nee? Keine Sorge, Cambridge Analytica kann sie mit einer Genauigkeit von 99,9% ausarbeiten, indem Sie nur die Tweets und Facebook-Kommentare scannen, die Ihnen gefallen. Fügen Sie einen Dienst hinzu, der die Zugehörigkeit zu einem Land und seinen Standort identifizieren kann, und Sie haben den Anfang einer Flashmob-App: eine, die Ihnen Menschen wie uns und Menschen wie sie auf einer hyperlokalen Karte zeigen wird. Stellen Sie sich vor, Sie sind jung, weiblich und ein Supermarkt hat herausgefunden, dass Sie schwanger sind, indem Sie das Muster Ihrer letzten Einkäufe analysieren, wie es ein Beispiel aus dem Jahr 2012 zeigte. Stellen Sie sich nun vor, dass alle Anti-Abtreibungs-Aktivisten in Ihrer Stadt eine App namens "Babies in Gefahr" auf ihren Handys haben. Jemand hat für das Analytik-Feed aus dem Supermarkt bezahlt und das Ergebnis ist, dass jedes Mal, wenn Sie in die Nähe einer Familienplanungsklinik gehen, Sie schon eine Gruppe unfreundlicher Anti-Abtreibungs-Demonstranten erwartet. Oder stellen sie sich vor, sie sind männlich und schwul, und die "Gott hasst Schwuchteln"-Gruppe hat eine 100% zuverlässige Gaydar App erfunden (basierend auf deinem Grindr Profil) und ihre Mitreisenden dazu bringt, schwule Männer nur dann zu verprügeln, wenn sie alleine sind oder 10:1 in der Unterzahl. (Das ist der besondere Horror der präzisen Geolokalisierung.) Oder stellen Sie sich vor, Sie sind in Pakistan und die Spannungen zwischen Christen und Muslimen nehmen zu, oder Sie sind im ländlichen Alabama oder ... die Möglichkeiten sind endlos.

Jemand da draußen arbeitet schon daran: an eine Geolocation nutzenden Social-Media-Schnüffel-Deep-Learning-Anwendung, die ihre "Spieler" benutzt, um sich an gewalttätigen Mobs gegen jeden zu beteiligen, den der App-Entwickler hasst. Wahrscheinlich hat sie einen unscheinbaren, aber süchtig machenden Trainingsmodus, um die Benutzer daran zu gewöhnen, in Teams zu arbeiten und die Anweisungen der App zu befolgen - man denke an Ingress oder Pokemon Go. Dann, zu einer vorbereiteten Startzeit, schaltet es den Modus um und fängt an, Spieler für Gewalt zu belohnen - Spieler, die ihre Ziele als Ungeziefer betrachten, durch einen stetigen Tropf von zielgerichteter Entmenschlichungs-Propaganda, über einen Zeitraum von Monaten.

Und was ist das Schlimmste an diesem Bild? Wenn der App-Entwickler etwa nicht ein Nationalstaat ist, der versucht, seine Feinde zu verfolgen, oder eine extremistische politische Gruppe, die versucht, Schwule, Juden oder Muslime zu ermorden? Es ist nur ein Büroklammern-Maximierer, der tut, was er tun muss - und Sie sind das Papier.

Kommentare

Bild des Benutzers Heinz

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

Wer Twitter und facebook nutzt, hat selber schuld.

Bild des Benutzers ebertus

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

dennoch vorab schon mal Danke an Hadie

Bin zu dem Thema nicht vollkommen unbedarft und habe in den 1990ern auch deswegen so einige Zeit bei SAP in Walldorf verbracht; wollten die das Thema damals hypen, brauchten Versuchskaninchen gerade in größeren Unternehmungen.

Mein damaliger Chef meinte, ich solle mir das mal näher ansehen, ob vielleicht etwas für uns zu gebrauchen wäre. War es aber nicht, baute gerade SAP (insgesamt) darauf auf, das Thema mit immer größeren Tabellen und vordefinierten Sets, mit immer umfangreicheren Entscheidungsbäumen einzufangen; das (lediglich) Rastern dann eben wahlweise als KI/AI zu verkaufen.

Da war nichts, absolut nichts an KI im Sinne von (menschlicher) Intelligenz. Heute, rund 25 Jahre später, dürfte sich daran wenig geändert haben. Dagegen sind die Systeme im Sinne von Brute Force  heute noch leistungsfähiger, können noch mehr Tabellen in noch kürzerer Zeit diesen Entscheidungsbäumen zuführen. Mehr nicht ...

Klar, Übersetzungen von einer Sprache in die andere sind ein gutes Anwendungsbeispiel, kann es nur noch perfekter werden, soweit das Gesprochene, das Geschriebene keinerlei Metaebenen, keine Satire, keine Ironie, keine Gefühle etc. zu bedienen hat.

Will das ja auch nicht niedermachen, nur auch die Möglichkeiten hinweisen, soweit das Produkt  formal zu determinieren ist. Nach Ulrike Guerods "Warum Europa eine Republik werden muß", da war mir schon klar, dass es dafür der Akzeptanz im Sinne zwischenmenschlicher Beziehungen bedarf; mindestens des kleinen Knopfes im Ohr, besser noch eines gechipten Implantats, diese Vielsprachigkeit in Europa  realtime  zu übersetzen.

Das wird wohl kommen ...

Bild des Benutzers hadie

Ein großer Anbieter von hochwertigen Investitionsgütern wird auch in 25 Jahren noch Rolltreppen verkaufen, die wie Rolltreppen aussehen. Da ist es wohl immer noch sparsam und schnell, die vielen technologischen und kaufmännischen Abläufe in Rastern und Entscheidungsbäumen einzufangen und anzusteuern. Die KI wird zur internen Suchmaschine, die dem Vertriebler zur Hand geht?

Die KI in der psychologischen Kriegführung verkauft selbst jeden Tag etwas anderes und muss die Rahmenbedingungen dafür kurz vorher per deep learning bei ihren Kunden in Erfahrung bringen. Ganz gleich ob ihr Herrchen "Putin-Troll", "Rassist" oder antideutscher Hassprediger ist. Und die KI auch im Dienste der "Guten" ist kein "Gutmensch". Sie macht sich gerne mal unkorrekte Sprüche und Vorurteile zueigen, alles in der "Sprache, die für uns dichtet und denkt".

Bild des Benutzers Heinz

Antwort auf hadie  zum Kommentar Schnelle KI
 

Aus deinem Text könnte man durchaus schließen, daß du die KI personalisierst.

Die KI ist eine Bezeichnung für schnelle Prozessoren und Algorhythmen und nicht ein persönliches Subjekt; ganz davon abgesehen, daß es eine wirkliche KI nicht gibt.

Bild des Benutzers hadie

Antwort auf Heinz  zum Kommentar Verwechselst du da etwas?
 

Deine Kritik besteht zu Recht, wobei ich zu bedenken geben möchte, dass die langsame KI bei Stross auch als juristische Person unterwegs ist.

Bei der schnellen KI hatte ich mehr den social bot im Auge. Die KI im Moloch Facebook ist wohl eher ein Folterknecht im Stasi-Keller.

Bild des Benutzers Heinz

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

«Bis wir zum heutigen Tag kommen, an dem sich die Dinge so schnell bewegen, dass es kaum möglich ist, Trends von einem Monat zum anderen vorherzusehen.»

Ist das wirklich so?

Was bewegt sich denn (eigentlich) so schnell?, das sind doch Dinge außerhalb vom Menschen. Die innere Verfassung ändert sich wenig. Wenn ich aufwache, muß ich pinkeln. Das wird den meisten Menschen genau so gehen und hat sich in den letzten hunderttausend Jahren nicht geändert. Ob jemand morgens frühstückt, ist eine Angewohnheit. Die Ernährungsexperten streiten sich noch um den Tagesablauf bei den Mahlzeiten und die Menge – hungern bräuchte aber niemand auf diesem Planeten. Daß trotzdem Menschen verhungern, ist keine Naturkatastrophe mehr, sondern ein logistisches Problem, das die wirtschaftsliberalen Experten verursachen, um ihr Glaubensbekenntnis vom Mangel aufrecht zu halten. Als soziale Wesen reagieren wir auf unser Umfeld, haben aber die freie Entsscheidung, wie wir das tun. Was heute allgemein als Geschwindigkeit «verkauft» wird, ist die Vielfalt der globalen Verkäufer, die sich mit einem immer neu kreierten Dreh ihrer Nudel profilieren wollen. Auf diese Weise gibt es unendlich viele Nudelsorten, die alle aus dem gleichen Sack Getreide stammen, der in China nicht umgefallen ist.

So what?

Bild des Benutzers iDog

Antwort auf Heinz  zum Kommentar Geschwindigkeitsrekorde
 

oder wird der genötigt , sogar angebettelt, eingeladen usw. doch bitte jeden Tag in China mindestens einmal umzufallen, und wenn's geht öfter?

Ist ja nur ein halb unterhaltender und halb kritischer Vortrag an techno afine Denker ihrer Zeit - hoffe ich mal, warum nicht, denn die wissen das entweder schon alles, wie der autor ja mehrfach selber meint, oder erwischen sich beim zuhören auf links, was auch ok ist. 

Das mit dem freien Entscheiden ist hingegen so ne Sache, das hatt ich als junger Erwachsener auch noch nicht so drauf , meinte aber selbstverständlich, dass ich nix anderes mache... Wer weiß aber schon, wie alt die da alle sind beim CCC , ich nicht, manche werden auch in unserem Alter sein... so zwischen müde und scheintot ...

Bild des Benutzers fahrwax

Antwort auf iDog  zum Kommentar Sack Getreide
 

So "alt" wie Angepassten geboren wurden (wir sind alle recht dumm geboren - aber um Änderung bemüht) können wir nicht mehr werden - und das ist alles andere als schade drum.

Gezzt mal ohne elitäres Getue...., aber der vorzeitige Hirntod ist ein schlimmes Phänomen der sektionalen Geburt auf Wohlstandsinseln.

"Klaus Theweleit hat darauf hingewiesen, dass auf diese Weise empfangene und erzogene Menschen »nicht zu Ende geboren« werden. Da, wo sich unter günstigeren Umständen ein Ich hätte entwickeln können, haben diese Menschen einen unter Schmerzen angeprügelten Körperpanzer, eine Art Berstschutz, der verhindert, dass sie fragmentieren und auseinanderbrechen. Das prekäre Ich des Nicht-zu-Ende-Geborenen bedarf der äußeren Stützung, eines Korsetts, das die Schwächen der Ich-Struktur kompensiert. Die landläufige Form dieses Korsetts ist die Arbeit, die zum wichtigsten Ich-Erhaltungsvorgang wird. Arbeit hält ihn bei der Stange und sichert ihm das reduzierte Überleben, und zwar nicht nur, weil sie seine materielle Reproduktion über den Lohn garantiert, sondern weil das Arbeiten sein Ich vor dem Fragmentieren und Zusammenbrechen bewahrt, vor dem Hereinbrechen verschlingender Symbiosen."

http://hinter-den-schlagzeilen.de/wer-nicht-arbeitet-soll-auch-nicht-essen-teil-22

Bild des Benutzers Heinz

Antwort auf iDog  zum Kommentar Sack Getreide
 

Das kommt offensichtlich von der Verwandtschaft mit den Affen, die alles nachäffen. Der Unterschied zwischen Mensch und Affe ist die Distanz zu den Dingen und die Reflexion. Das bedarf allerdings der Übung und der Erziehung. Auch techno affine CCC-ler haben darum das Potenziel zur Distanz, sonst hätten sie ein wirklich heftiges Problem.

Antwort auf Heinz  zum Kommentar techno affin
 

ist die Distanz zu den Dingen und die Reflexion."

Das kann ich gut nachvollziehen, denn wenn der Affe eine Distanz zu den Dingen entwickeln würde oder darüber gar noch reflektieren, fiele er ständig vom Baum. Das würde die Überlebensrate doch stark reduzieren, also haben die Pragmatiker unter Ihnen sich durchgesetzt und fortgepflanzt. ;-)

Ist das vielleicht eine Ausnahme?

                

Hier blickt jedenfalls jemand durch:

                

Eindeutig ein Denker:

               

Bild des Benutzers Heinz

 

Bild des Benutzers hadie

Antwort auf iDog  zum Kommentar Sack Getreide
 

Das mit dem freien Entscheiden ist hingegen so ne Sache, das hatt ich als junger Erwachsener auch noch nicht so drauf , meinte aber selbstverständlich, dass ich nix anderes mache ...

Da nähern wir uns des Pudels Kern, denn die Akteure sind alte und neue KIs. Meint wenigstens Stross, der dafür Teile seines eigenen Werks revidiert (Accellerando/Singularität). Und es kömmt (!) darauf an, zu diesem Herrschafts-Handeln (Clinton/Antifa gegen Trump/Rechtstöner) wenigstens wieder eigene Meinungen zu finden, die nicht nur pseudoreligiöse Selbsthass-Orgien repetieren, weil wir nicht in Andrea Nahles Taka-Tuka-Land geboren sind und folglich als revolutionäre Heilsbringer ausfallen.

Und unsere Nudeln sind zumeist aus dem guten US-Hartweizen, der nie einen Reissack gesehen hat.

Bild des Benutzers fahrwax

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

ersetzen copy & paste Orgien und Google's Übersetzungen die Absonderung individueller Meinung?

Will sagen: geht's sogar prägnanter, bzw. aussagekräftiger?

Die Rumtröterei in den uns umgebenden Nebelbänken mit ihren vielen Eisbergen ist ein wenig anspruchslos......

Bild des Benutzers iDog

Antwort auf fahrwax  zum Kommentar Seit wann?
 

 .... jetzt sei doch nicht so streng, der Artikel ist doch interessant - ich hätte ihn sonst nicht gefunden. Und die individulle Meinung ist doch klar : lesenswert, sonst wär er hier nicht zu lesen. Und ich kann nur zustimmen.

liebe Grüße

Bild des Benutzers fahrwax

Antwort auf iDog  zum Kommentar Orgien
 

dann denke ich einmal frisch darüber nach.

 

Bild des Benutzers iDog

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

Danke für den Text und Tipp udn die Mühe ihn als Überstzung anzubieten.

Wie es manchmal so ist, kam er genau in dem Moment wo ich ihn gut gebrauchen konnte. 

Sehr interessanter Blickwinkel übrigens. Der Autor gefällt mir. Zu den Einzelheiten ließe sich viel sagen, wie immer, aber lassen wir es erstmal wirken, oder?

Grüße

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

Lieber Dietmar,
für mich als absoluter Nicht-Technik-Freak ein harter Brocken. Aber ich habe mich durchgekämpft, ebenso wie ich mich durch die Techno-Dienstleistungen von Heinz und Bernd durchquälen musste. Als absolutem Laien in diesen Gedankenspielen ist mir dennoch die Gefahr Künstlicher Intelligenz im politischen Kontext bewusst. Der AfD-Anteil bei der letzten BT-Wahl ist nur ein Beispiel. Das Fremdenfeind-Potenzial in der Republik liegt wohl bei 20%, und um das voll auszuschöpfen wird KI sicher in der einen oder anderen Weise genutzt werden. Das lässt natürlich für die Zukunft, sagen wir einmal 10 Jahre, nichts Gutes ahnen.
Euch allen Lieben noch ein schönes 2018!

Bild des Benutzers Heinz

Antwort auf costa.esmeralda  zum Kommentar He, Alter
 

Lies noch mal den Kommentar von Bernd. Es gibt sehr viele ganz ordinäre Listenvergleiche, die verdammt schneller funktionieren, als unser Gehirn das jemals könnte. Dabei handelt es sich aber um die  sogenannte Alltagsfunktion des Gehirns, nicht aber um KI. Diese Geschwindgkeit von Alltagsfunktionen macht die vernetzten Prozessoren schon zum Problem, weil die Algorhythmen mit den bisherigen politischen  Methoden nicht kontrolliert werden können.

KI bedeutet, aus den vorhandenen Erfahrungen etwas neu zu entwickeln, das über den Krümmungsgrad einer Nudel hinausgeht. Sowas ist nicht in Sicht.

Das gerade verabschiedete (A-) Sozial-Medien-Löschungs-Gesetz hat ja auch deutlich gemacht, das die Privatunternehmen in dieser gesetzten Frist gar nicht in der Lage sind, eine juristisch fundierte Entscheidung für oder gegen eine Löschung zu fällen – der Quatsch sollte also schleunigst wieder abgeschafft werden. Alternativ wäre eine «Selbstzensur» des Netzes möglich, indem die Beiträge mit einer Ampel von den Netztteilnehmern bewertet werden. Das ist dann kein rechtsgültiges Urteil, sondern eine demokratische Meinung, also ein Pranger für alle, die sich (vorsätzlich oder unabsichtlich) mißverständlich äußern.

Antwort auf Heinz  zum Kommentar Keine KI – nirgendwo
 

nennt man das im Englischen, wenn mit großer Rechnerkraft Problemstellungen gelöst werden. Googles Alpha-Go hatte sogar den Weltmeister geschlagen und damit musste nicht gerechnet werden, denn die Komplexität von Go ist deutlich größer als beim Schach.

Nichts gegen das Nachfolgemodell AlphaZero von Google, das Teil hat in kurzer Zeit über die Regeln seine Leistungsstärke mit Spielen gegen sich selbst auf Weltmeisterschaftsniveau gehoben. Mir stellt sich nun die Frage, wenn es den Programmieren gelingt, diesen Kisten über Sensorik den Zugang auf die "reale Welt" so auszuweiten (wir scheitern aufgrund fehlender Sinnesorgane bereits bei den hochentwickelten Säugetieren, deren Verständigung auf uns völlig unbekannte Art verläuft), dann könnte ich mir vorstellen, dass die über ein analoges Verfahren der "Weltertestung" ein Niveau erreichen, dass wir nicht besitzen.

Obwohl die dann immer noch keine intentionalen, reflektiven Wesen sein werden, ist das, was als Ergebnis dabei herauskommen könnte von einer solchen Qualität, dass das dann kaum noch von Bedeutung wäre. Denn wenn es eine Kommunikation mit den Kisten über die virtuelle Welt (Augmented Reality) mit Avataren gibt oder über komplexe Cyborgs, dann steht uns da eine Black Box gegenüber, dessen Inhalt wir nicht mehr nachvollziehen können.

Zudem bleibt für mich eine Frage offen, ob der Weltbezug und die Erschließung der Welt durch ein Kind (auf biologischer Grundlage) eine reine Frage der Komplexität ist, wann der Funke der Selbsterkenntnis "zündet", unabhängig von den physischen Bestandteilen. Die Exobiologie kann sich durchaus vorstellen, dass Leben auf ganz anderer Basis möglich wäre (was in der Tiefsee bei exotischen Lebewesen in kochenden Vulkanquellen auch auf der Erde gefunden wurde).

Stephen Hawking ist sicher kein Schwachmat und es gibt andere "Größen" die von der unkontrollierten Entwicklung in der KI-Richtung warnen. Obwohl ich gleich sagen würde, diese Entwicklung wird in jedem Fall durchgezogen: man hatte damals auch die Atombombe in der Erdatmosphäre gezündet, obwohl es Anhaltspunkte dafür gab, das es in der Atmosphäre zu einer unkontrollierten Fortpflanzung der Kernspaltungsprozesse oder durch Fusion bei der Wasserstoffbombe hätte kommen können. Es wurde trotz eines Restrisikos der globalen Zerstörung gemacht! Und die Warnungen kamen aus der Wissenschaft.

Es wird spannend werden und auch bedrohlicher, denn je mehr Fähigkeiten, desto größer die Risiken. Aber vielleicht bedürfen wir eines Tages keiner Arbeit mehr zur Existenzsicherung, denn alle notwendigen Abläufe werden von KIs erledigt. Dann ist der systemische und lächerliche Zwang von ständiger Produktivitätssteigerung und des sich daraus ergebenden Problems fehlender Arbeitsplätze völlig überflüssig, denn wir dürfen dann den alten Traum von Marx leben.

Nachtrag: wie ich gerade gelesen habe ist bereits Software im Einsatz, die als Codegenerierer (also Programmier) bereits besseren Code schreibt als menschliche Programmierer.Mir ging nämlich folgender Gedanke durch den Kopf, Lebewesen verändern die neuronale Vernetzung im Gehirn durch Denken und Aktivitäten auf unbewusste Art. Irgend etwas passt also die inneren Strukturen den Weltbedingungen an.

Die KI kann aber gezielt auf ihren eigenen Code zugreifen (immer noch keine Intentionalität vorhanden) und kann durch iterative Veränderungen in unglaublicher Geschwindigkeit eine Adaption an die Welt vornehmen, bzw. die Welt auf veränderte Weise analysieren. Gesetzmäßigkeiten zu erkennen (messen), daraus Konstanten zu ermitteln, die dann zu neuen Theorien führen, nur viel schneller, halte ich für durchaus möglich.

Bild des Benutzers hadie

Antwort auf costa.esmeralda  zum Kommentar He, Alter
 

Wobei Stross freilich ein mainstreamer ist, der schnell mal ein paar Ideen hinwirft und wenn sich Widerspruch regt, diese ebenso schnell wieder einsammelt. Sein "alte langsame KI" wäre vielleicht besser mit Begriffen der Wirtschaftssoziologie zu fassen. Und ob Trump nun unbedingt ein  "Nazi" ist? Richtig ist wieder die Feststellung, dass Trump von denjenigen Superreichen bezahlt wird, denen er die meisten Steuergeschenke versprochen hat.

Als absolutem Laien in diesen Gedankenspielen ist mir dennoch die Gefahr Künstlicher Intelligenz im politischen Kontext bewusst. Der AfD-Anteil bei der letzten BT-Wahl ist nur ein Beispiel.

Wobei der Rechtsruck ja eher eine Reaktion auf die Missachtung der abgehängten Mittelschichten durch die Clintons, Merkels, Soros war. Und die Linkstöner lernen nichts, Beispiel "Familiennachzug".

Die Angst vor Facebook  & Co. hat Stross wohl ganz richtig mit der Bemerkung relativiert, dass Facebook auch nur eine Suchmaschine ist. Dass da auch Algorithmen unter der Haube werkeln merke ich nur, wenn mir wieder einmal Inkontinenz-Windeln und Treppenlifte angeboten werden. Es steckt aber viel mehr dahinter, wie folgendes Horrorfilmchen zeigt:

Monologue of the Algorithm: how Facebook turns users data into its profit from Panoptykon Foundation on Vimeo.

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

oder wie sonst soll man folgende dokumentierten Fälle beschreiben?

https://twitter.com/twitter/statuses/950334881145507840.

 

Bild des Benutzers hadie

Antwort auf Gast  zum Kommentar Intelligenz im Tierreich
 

Da sind wohl wirklich tierische Brandstifter unterwegs:

http://www.spektrum.de/news/legen-voegel-gezielt-feuer/1399195