Und keinen interessiert’s

Wer sich um KI – Künstliche Intelligenz – interessiert, wird bemerkt haben, wie sich die Anzahl Artikel in den Medien über das Thema in den letzten Monaten vervielfacht hat. Früher war es für Nerds und Wissenschaftler von Interesse, heute scheinen sich auch grössere Kreise dafür zu interessieren.

Doch leider nur scheinbar, denn eine fundierte Diskussion findet in der Breite nicht statt. Was insofern schade ist, weil «Künstliche Intelligenz» eine ungebremste, ungeahnte und folgenreiche Revolution in der Arbeits-, Wissenschafts- und Gesellschaftswelt bedeutet. Und ohne den Schwarzen Peter an die Wand malen zu wollen: Ohne Gefahren und Opfer wird diese Revolution nicht ablaufen.

«Digitalisierung», «Automatisierung» und «Künstliche Intelligenz» sind Synonyme für die Verwandlung westlicher Industrie- und Dienstleistungsgesellschaften. Dass es manchmal auch unterhaltsame Kapitel – wie der spannende Kampf zwischen einem Hacker («Est-Ee Security») und Google «reCaptcha v2» – gibt, steht ausser Frage. Wer aber die grundlegende KI-Diskussion weiterführt und die sich eröffnenden Möglichkeiten selbstlernender Systeme weiterdenkt, wird Hühnerhaut kriegen.

«Künstliche Intelligenz» bedeutet, dass Maschinen (im engeren Sinne: Software) lernen, sich anhand von Datenstämmen selbstständig weiterzuentwickeln, um die – im Sinne des Programmierers – benötigten Funktionen und Analysen besser, schneller und präziser auszuführen bzw. durchzuführen. Genau «da» aber liegt der Hund begraben: Denn der Datenstamm* (die Basis der zugrunde liegenden Daten) kann willkürlich, nicht öffentlich zugänglich, rassistisch eingefärbt oder für die Ausgangslage falsch sein – hinzu kommen alle Möglichkeiten von falschen Annahmen oder schlicht falschen Algorithmen, die die Daten – auch wenn diese richtig wären – falsch auslegen. So schaffte es Google** teilweise nicht, der Bilderkennungssoftware beizubringen, dass schwarze Menschen keine Gorillas sind. Was sich so einfach liest, kann in einer hochgradig automatisierten Welt zum Verhängnis für ganze Menschengruppen oder auch Individuen ausarten. Die Bezeichnung zum «Gorilla» ist dabei noch das kleinste aller möglichen Übel.

Dass hier ein «worst case»-Szenario skizziert wird, ist klar. Aber wer weiss schon detailliert, mit welchen Daten «Deep Mind», «Watson» (die «Künstliche Intelligenz» von IBM), «Aura» (die vierte Plattform neben dem Kernnetz, den IT-Systemen und den Produkten und Dienstleistungen der Telefonica) oder alle Google-, Facebook- und Apple-Systeme arbeiten – um nur ein paar wenige zu nennen.

Revolutionen – so erzählt man sich – fressen ihre Kinder.

Wir sollten vorsichtig sein.

 

 

* Beispiel von Datenstämmen
Nehmen wir dazu als Ausgangslage das Gedankenexperiment von Klaus Mainzer aus dem Buch «Künstliche Intelligenz – Wann übernehmen die Maschinen?».

  1. Wenn ein Auto oder ein Lastwagen von der Strasse abkommt, dann ist der Fahrer häufig eingeschlafen.
  2. Das Fahrzeug ist von der Strasse abgekommen.

Nun ist (1) eine genügende Bedingung für (2), aber gleichzeitig ist (1) nicht die einzige Möglichkeit für (2). Oder in einfachen Worten:  Nicht bei allen Autos oder Lastwagen, die von der Strasse abgekommen sind, waren die Fahrer eingeschlafen. Das aber benötigt jedoch ein umfangreiches (und unvoreingenommenes) Expertenwissen.

Bei einer vorwärtsgerichteten Fragestellung fragt man das «KI-System»: «Was sind die häufigsten Ursachen, wenn ein Fahrzeug von der Strasse abkommt?» – Antwort «KI»: «Fahrer, die einschlafen.»

Ist die Fragestellung jedoch rückwärtsgerichtet fragt man: «Warum ist das Auto von der Strasse abgekommen?» – Antwort «KI»: «Der Fahrer ist vermutlich eingeschlafen.»

Nun wissen wir, dass dies oft nicht stimmen muss: Es gibt tausend andere Möglichkeiten, warum ein Fahrzeug von der Strasse abkommen könnte. Wenn aber der Datenstamm des «KI-Systems» nur Unfälle statistisch erfasst hat, welche den Punkten (1) und (2) entsprechen, werden seine Antworten eindeutig sein. Das Problem ist, dass in diesem Fall die Trainingsdaten des «KI-Systems» mit Vorurteilen oder mit gewieften Geschäftsinteressen «verunreinigt» sind.

Lächerlich? Ja, vielleicht, aber dennoch nicht von der Welt zu weisen:

** Meine Freundin ist kein Gorilla.
Obwohl es sich offenbar um einen «Einzelfall» handeln könnte, ist das Ausmass in einer digitalisierten Welt potenziell beängstigend. Wenn keine Menschen (mehr) gewisse Analysen und Schlussfolgerungen von KI-Systemen überprüfen, könnte es für Einzelne oder Gruppen gefährlich werden.

Das Fraunehofer Institut
Solange der Datenstamm oder die Trainingsdaten eines «KI-Systems» nicht offengelegt werden, bleiben die Entscheidungen der Software immer eine Blackbox. Dem möchte das Frauenhofer Institut entgegenwirken. Am Institut wurde eine Software entwickelt, die, ausgehend von den Analysen/Entscheidungen eines «KI-Systems», die möglichen Entscheidungsprozesse aufzeigt: http://winfuture.mobi/news/96603

Bemerkung
Ich habe die Beispiele im Artikel bewusst stark vereinfacht. Weiter schreibe ich von KI-Systemen und meine damit alle KI-Technologien, die per heute im weitesten Sinne dazugehören.

Buchempfehlung
Das Buch «Künstliche Intelligenz – Wann übernehmen die Maschinen» von Klaus Mainzer (http://www.springer.com/de/book/9783662484524) geht dem Thema fundiert nach und erklärt die verschiedenen Formen künstlicher Intelligenz. Das Buch fordert an gewissen Stellen und in einigen Kapiteln eine ordentliche Portion abstraktes Vorstellungsvermögen. Dennoch: Lesenswert.

Warum das Internet auch 2017 «endlich» ist.

Den Titel darf man getrost auf zwei Arten interpretieren: Das Internet ist «endlich» da – im Sinne, dass es da ist, wo es sein sollte (wobei sich die Frage stellt, wie sich das «Wo» beim Internet definieren lässt), oder aber das Internet kann ein Ende haben.

Das ist so eine Sache mit derlei Fragen: Auch Mandelbrot-Grafiken haben ein schönes – schwierig vorstellbares – Konzept: Einerseits ist die Fläche der Grafik nicht unendlich, anderseits aber ist der Umfang unendlich. Ähnlich wie beim Kopf eines Menschen: Das Volumen ist endlich, aber die Dummheit, die sich darin ausbreiten kann, ist unendlich. (Dieses Beispiel ist wohl einfacher verständlich.) 😉

Aber – um den Titel der Kolumne wieder aufzunehmen: Die Unendlichkeit des digitalen Raumes verführt oft zu gut gemeinten, aber dennoch falschen Überlegungen und Designideen, sodass manche Website ohne Anleitung nicht zu besuchen ist. Unnötige Inhalte, verschachtelte Strukturen, nicht webtaugliche Grafiken und konzeptlose Hierarchien sind leider nicht unüblich, wenn man die Unendlichkeit als Freikarte betrachtet, um alles online zu stellen, was Tastatur und Aufnahmegeräte hergeben.

Doch das ist – welch Glück – falsch. Denn auch wenn der verfügbare (digitale) Raum keine Grenzen hat, so haben dagegen die Besucher – also wir Menschen! – eine begrenzte Aufnahmefähigkeit von Informationen. An dieser Stelle setzt das Konzept des «minimalen Designs» an. Der Ansatz stellt den «unendlichen» Internet-Raum infrage und definiert eine räumliche (und zeitliche) Knappheit.

Folgt man dem «minimalistischen» Ansatz in seiner vollen Schönheit, dann fragt man sich bei jedem Inhaltspunkt, ob dieser auf die Website muss, ob der Text nicht noch weiter gekürzt werden kann, ob es tatsächlich zwei Bilder sein müssen, ob die Positionierung der Website nirgends verwässert wird, ob …

Meine Mutter sagt, dass die Schönheit einer Rose durch eine zweite oder mehr Rosen vermindert wird: Schenke einem geliebten Menschen nur immer eine einzelne Rose, denn die Schönheit liegt in der Einmaligkeit.

So sei es.

PS: Die besten Wünsche für ein tolles Zwanzigsiebzehn:
Rock ’n’ Roll!

Leben zwischen Geheimdiensten und Technologiefirmen.

Zur Zeit läuft Olivers Stones „Snowden“ im Kino. Die Geschichte um Edward Snowden ist vielleicht eine der unglaublichsten Geschichten der Gegenwart: in einer Zeit, in der im Hochgeschwindigkeitszugtempo die Welt digitalisiert wird, verschafft sich der US-Geheimdienst NSA Zugriff zu all diesen mobilen Daten. Zu allen. Im Vergleich zu den Datensätzen der NSA schritten Stasi, KGB, CIA oder MI5 durch Täler der Ahnungslosigkeit.

Doch wer interessiert sich schon für Snowden? Asyl in der Schweiz hat er jedenfalls nicht erhalten. Dabei geht es hier um das Internet-Thema Nummer 1: Datensicherheit. Müsste jedermann etwas angehen. Doch gerade Datensicherheit scheint eins dieser Themen zu sein, für die sich lediglich eine Minderheit interessiert, eins dieser Themen, in denen die Medien am (Des-) Interesse des „Volkes“ vorbei schreiben. Datensicherheit beginnt und endet heutzutage bei der eigenen Kreditkartennummer. That’s it. Schon bei den Passwörtern werden viele Leute nachlässig – und das, obwohl unsere digitale Privatsphäre sich genau auf die paar wenigen Buchstaben beschränkt, mit denen wir unsere Accounts öffnen.

Dabei dürfte seit Edward Snowdens Enthüllungen wirklich jeder und jedem klar sein, dass das Internet längst nicht (mehr) dieses urdemokratische, kosmopolitische Post-Hippie-Freiheitsmedium ist, als das es angeblich einst in die Welt gesetzt wurde. Inzwischen ist das Internet ein Imperium, das von Geheimdiensten und Silicon-Valley-Technologiefirmen kontrolliert wird.

Was wir daraus ableiten, ist aber lediglich (wie mir neulich ein IT-Spezialist erklärte): Solange wir uns nicht schützen, werden wir für Geheimdienste auch nicht verhaltensauffällig. „Zum Beispiel würde ich nie den TOR-Browser herunterladen.“ Denn, so die Logik des IT-lers: Wer den digitale Spuren verwischenden TOR-Browser benutzt, ist in den Augen der Geheimdienste ein Waffendealer oder ein Terrorist. Dass man demgegenüber als unbekümmerter Surfer zum Menschen wird, dessen Privates aus Daten rekonstruiert werden kann und der damit seine Privatsphäre verliert, scheint von vielen als unveränderlich hingenommen zu werden.

Die Frage, ob es zwischen diesem Ausgeliefertsein und radikaler Internetabstinenz einen Mittelweg gibt, scheint sich kaum jemand zu stellen. Dabei wäre es durchaus im Sinne eines Statements als mündiger Bürger zu verstehen, hin und wieder verschlüsselte, diskrete, schlecht auswertbare Systeme zu verwenden. Also Suchmaschinen wie duckduckgo.com, qwant.com oder swisscows.ch, auf anonymes Surfen ausgerichtete Proxy-Server, Alternativen zu Whatsapp wie Wire, Wikr me, Signal oder Threema (sofern man Freunde dafür begeistern kann) und so weiter. Es muss ja nicht unbedingt der Tor-Browser sein, der in den letzten Jahren immer mehr in Verruf geriet (weder kann er vor Googles oder Facebooks Datensammelwut schützen, noch vor der Überwachung der US-Regierung, von der er schliesslich entwickelt wurde).

Viele dieser Anwendungen bleiben bei nicht-fachgerechter Anwendung lediglich ein Statement. Doch selbst ein Statement kann ein Anfang in eine mündigere Zukunft sein.

+++

Das ist ein Gastbeitrag von Michael Kathe.