* * *

*

• Autor:                               Maximilian Wittmann                                 
• Rubrik/Kategorie:                               Künstliche Intelligenz (KI)
• Geschätzte Lesezeit des Artikels:   12 Minuten, Gefahren KI

Quelle: Wolfang Eckert, Pixabay.

Hallo liebe Leser, Technologie-Begeisterte und digitale Stöberer!

Im letzten Blog-Eintrag der Rubrik KI habe ich euch anhand einer Mustererkennung erklärt, wie das überwachte Maschinelle Lernen prinzipiell funktioniert. Hast du vielleicht keine Vorkenntnisse zur Künstlichen Intelligenz und möchtest endlich wissen, was KI ist und wo Machine Learning eingesetzt wird? Dann empfehle ich dir definitiv meinen preiswerten und kompakten Crashkurs als Video-Kurs* zum Einstieg in die Thematik. Du kennst bereits die Grundlagen der Künstlichen Intelligenz und kannst Maschinelle Lernverfahren wie Überwachtes Lernen oder das Reinforcement Learning einordnen? Jetzt möchtest du das Mysterium der Künstlichen Neuronalen Netze lüften? Klasse, dann ist wahrscheinlich mein kostenloser Mini-Kurs zum Deep Learning und KNNs* das Richtige für dich.

Im letzten Blog-Post haben wir uns die Vorteile und Potentiale von KI vor Augen geführt. Natürlich beleuchten wir heute auch die Kehrseite der Medaille und schauen uns heute folgende Themen an:

• • • Welche Risiken birgt KI und welche Probleme sind zu befürchten? Welche Gefahren der KI solltest du kennen?
    • Kann ein KI-System eine Person diskriminieren?
    • Droht uns ein Kontrollverlust? Wie kann KI-Forschung verantwortungsvoll vorangetrieben werden?
    • Profitiert vor allem das Militär durch die Entwicklung von autonomen Waffen-Systemen?
    • Warum setzen Politiker eine Führerschaft bei der KI-Forschung und KI-Anwendung ganz oben auf ihre Agenda?

Das alles und mehr im heutigen Blog-Eintrag. Viel Spaß beim Lesen! 

---

Risiken und Gefahren der KI

Jede Technologie bringt gewisse Gefahren und Nachteile mit sich. Selbstverständlich birgt auch Künstliche Intelligenz* Schattenseiten. Die Gefahren der KI sind real und wir sollten uns damit im Detail auseinandersetzen. Im nächsten Abschnitt widme ich mich möglichen Nachteilen durch KI und erkläre diese anhand von ausgewählten Beispielen. Los gehts:

KI als Blackbox

Im letzten Blogeintrag dieser Kategorie habe ich verdeutlicht, dass KI-Methoden (z. B. überwachtes Maschinelles Lernen) häufig auf bekannten und vorliegenden Daten angewiesen sind. Im Fachjargon spricht man von historischen Daten¹.

***

Diese Input-Daten fungieren als Trainingsdaten und somit als Daten-Grundlage für etwaige Schlussfolgerungen, Abschätzungen oder Prognosen. Bei genauerem Hinsehen liegt es nahe, zu staunen und sich den vorangegangen Satz auf der Zunge zergehen zu lassen, denn:

• Was passiert mit den Vorhersagen und Berechnungen der KI, wenn die zugrundeliegenden Daten falsch sind?  Sind alle Voraussagen damit nicht unmittelbar abhängig von den historischen Daten? Ist das nicht ein großer Nachteil?
• Können diese Input-Daten (bewusst oder unbewusst) manipuliert oder korrumpiert werden, so dass alle Folge-Schritte des KI-Systems falsche Prognosen liefern werden? Übertreiben wir hier oder sind das ernstzunehmende Gefahren der KI?
• Haben die Entwickler der Algorithmen stets die volle Kontrolle über das Innenleben des KI-Systems oder ist die KI vielmehr eine Blackbox (mangelnde Transparenz der Algorithmen)² ?

**

Ein Beispiel³ zur Veranschaulichung dieser Problematik (Stichwort Machine Bias): 

Der Fall hat als Predictive Policing für Negativ-Schlagzeilen gesorgt: Ein KI-Programm hatte in Florida die Aufgabe, vorzeitige Entlassungen von Häftlingen zu bewerten und Richter bei der Entscheidungsfindung beratend zu unterstützen.

Es hat sich herausgestellt, dass aufgrund der vorliegenden Trainingssätze dunkelhäutige Personen bei identischen Tatbeständen systematisch benachteiligt wurden. Ihre Risikoquoten wurden wesentlich höher bewertet wie die von Personen weißer Hautfarbe. Das System implizierte also aus den Daten früherer Häftlinge, dass dunkle Menschen wahrscheinlicher wieder Straftaten begehen werden als weiße Menschen³.

Gefahren im Hinblick auf den Datenschutz

Gegenwärtig dominieren die Konzerne den KI-Markt, welche ebenfalls herausragende Stellungen im Bereich der IT innehaben. Ich beziehe mich dabei auf Konzerne wie Amazon, Google, Apple, Facebook, Microsoft, IBM, und Co.³. Solltet ihr euch an dieser Stelle wundern und fragen, warum das so ist, gibt es eine (zugegebenermaßen verkürzte, aber im Kern richtige) kurze Antwort:

Wer Daten und Informationen kontrolliert, kontrolliert auch den Markt. Die Konzerne, die ohnehin schon eine Art Monopol³ im Bereich des Digitalen besitzen, werden ihre Marktführerschaft durch die Nutzung der Daten und Weiterentwicklung intelligenterer KI-Systeme wohl ausbauen.

• Wie genau nehmen es diese Giganten der IT-Branche mit personenrelevanten, vertraulichen Daten?
• Wie können wir die unerlaubte Weitergabe von Daten an Drittanbieter verhindern?

Durch die Verfügbarkeit an Daten können die Systeme der Künstliche Intelligenz optimal und effizient trainiert werden. Der Grund: Je mehr Daten ein KI-System in der Trainingsphase zur Verfügung stehen hat, desto besser werden die Ergebnisse (ergo: die Prognosen, ergo: die Effizienz).

* *

*

Das bedeutet, dass Amazon immer bessere und maßgeschneidertere personalisierte Produkte anbieten kann. Dies geschieht, da der Nutzer durch seine Einkäufe, Suchanfragen,… die Algorithmen bei jedem Klick aufs neue füttert. Die Künstliche Intelligenz wird so auf Basis der neuen Daten fortlaufend optimiert. Sie gibt anhand der Kundenwünsche der Vergangenheit noch passendere Vorschläge:

Hast du dich schon einmal gewundert, woher Amazon oder andere E-Commerce-Unternehmen deine Wünsche wie auf „magische“ Weise vorausahnen konnten?

*

In Wahrheit wurde das System trainiert, Muster in deinem Kaufverhalten zu erkennen und deine Interessen zu prognostizieren. Die Vorschläge basieren im Inneren der KI-Systeme auf mathematischen Operationen, Matrizen-Multiplikation, Wahrscheinlichkeitsrechnung und Statistik. (Dazu gehen wir spätestens beim Blog-Eintrag zum Maschinellen Lernen genauer ein. Versprochen! )

Big Data is the Oil of the New Economy

Baaziz, Quoniam⁵

KI-Verfahren sind abhängig von einer hohen Datenverfügbarkeit. Hier zeigt sich auch das Dilemma von sehr innovativen und mutigen KI-Startups: Trotz Know-How und genialen Geschäftsideen ist es sehr mühsam, in den Markt einzudringen. Die bereits vorhandene Datenmenge der Führenden ist eine schier unüberwindbare Barriere. Es ist ungemein schwierig, die etablierten Platzhirschen mit Terrabytes an gesammelten Wissen und Informationen im Gepäck den Rang abzulaufen. Diese potentielle Spirale der Verstärkung von bestehenden Monopolen ist sehr gefährlich und ich werde definitiv in einem zukünftigen Blog-Post das Thema wieder aufgreifen.

Cyber-Sicherheit

Es besteht Handlungsbedarf in punkto Grenzen, Standardisierung und Regelwerke für KI-Systeme. Wir erleben in den letzten Jahre, dass die größten Wachstumsimpulse und damit die Treiber der Entwicklung meist aus der Privat-Wirtschaft stammen⁶. Wir leben in einer sozialen Marktwirtschaft und Angebot und Nachfrage bestimmen den Markt. Bei der konkreten Ausgestaltung und dem Umgang mit KI im Hinblick auf Cyber-Sicherheit gilt es trotzdem, datenschutzkonforme Standards zu berücksichtigen⁷.

* * *

Exkurs Automobil:

Tempomat, Spurhalte-Systeme, Einparkhilfen,…: All diese Annehmlichkeiten sind mittlerweile Bestandteile unserer modernen Mobilität im Straßenverkehr. Die Automatisierung der Fahrfunktionen bis hin zum vollautomatisierten Fahrzeug ist in vollem Gange und Experten sehen die Umsetzung in 5 oder 10 Jahren großflächig auf deutschen Straßen.

Übrigens: Auch wenn im Volksmund oft von <<dem>> autonomen Fahren gesprochen wird, sollte man hier differenzieren:

Es gibt verschiedene Entwicklungsstufen der Autonomie und üblicherweise werden 5 Stufen unterschieden: Vom vollkommen mensch-geführten Fahren, über das assistierte Fahren (mit verschiedenen unterstützten Funktionen und Fahrer-Assistenzsystemen) und das hochautomatisierte Fahren bis hin zum fahrerlosen Fahren⁸. Nur in der letzten Stufe spricht man vom vollautomatisierten Fahren ohne Notwendigkeit des Eingriffs durch Menschen.

* **

KI-Systeme werden nicht müde, trinken keinen Alkohol oder werden von Kindern auf der Rücksitzbank abgelenkt⁹. Selbstverständlich wäre es naiv zu glauben, dass es keine Gefahren gäbe. Natürlich gibt es Widerstände gegen das KI-gestützte vollautomatisierte Fahren. Hier findet ihr gängige Einwände und Nachteile sowie moralisch-ethische Fragestellungen:

• Wer haftet im konkreten Schadensfall? Der Hersteller, der Bediener, der Nutzer,…?
• Dilemma der Entscheidungsfindung in Grenz-Situationen: Soll KI einem Kind, das plötzlich auf die Straße läuft, ausweichen. Sollte es riskieren, eine ältere Frau durch das Ausweich-Manöver zu überfahren?
• Wird die Gesellschaft ein Versagen oder Fehler eines vollautonomen Fahrzeugs akzeptieren? Wird die Gesellschaft die Einschränkungen im Gegenzug für erhöhte Sicherheit und Risikominimierung akzeptieren⁹?

Mehr zur Zukunft der Mobilität erfahrt ihr hier.*

KI Wettrüsten

Das Rennen um die Vorherrschaft auf dem Gebiet der KI hat längst begonnen. Führende Staatsoberhäupter haben das disruptive Potential von KI erkannt und betten Künstliche Intelligenz in ihre geostrategischen Ziele und Pläne ein. Vladimir Putin hat im Hinblick auf die Künstliche Intelligenz deren Wichtigkeit in folgendem Zitat untermauert:

“[W]hoever becomes the leader in this field will rule the world.”

Vladimir Putin¹⁰

Das zeigt einerseits die nicht hoch genug einzuschätzende Wichtigkeit von KI und die große Bedeutung für Volkswirtschaften unserer globalisierten Welt. Gleichzeitig muss man nicht zu stark zwischen den Zeilen lesen, um ein besorgniserregendes Aufflammen von Imperialismus und den Kampf um Vormachtstellung in dieser Rhetorik zu erkennen. Es gehe schließlich um die „Herrschaft der Welt“, die aus einer Technologie-Führerschaft resultiere. Warum ist das problematisch?

Nun, einerseits klingeln bei solchen Aussagen bei Pazifisten und Menschenfreunden zurecht sämtliche Alarmglocken. Anderseits ist anzunehmen, dass die etwas überspitzte Formulierung (wahrscheinlich) trotzdem in seiner Quint-Essenz richtig ist.

Problematisch wird die Technologie vor allem dann, wenn sie sich in den Händen von undemokratischen, autokratischen Regimen befindet und gegen das eigene Volk eingesetzt werden kann. Ihr denkt, das ist pure Fiktion und Träumerei von erzkonservativen Technik-Gegnern??? Nein, das ist mitnichten so.

Es gibt auf der Weltbühne bereits Akteure, die KI „erfolgreich“ als Instrument zur Massenüberwachung einsetzen. Nicht zuletzt Elon Musk warnte vor den Gefahren einer sich rasant entwickelnden KI und schätzte sogar, dass Künstliche Intelligenz gar einen dritten Weltkrieg verursachen könnte¹¹.

*

Kamera-Systeme in Kombination mit fortschrittlichsten Maschinellen Lernverfahren können zur automatischen Personen- und Gesichtserkennung eingesetzt werden. Unter dem Deckmantel von Sicherheit könnte, in den falschen Händen, KI definitiv zur Gefahr werden. Es könnten grundlegende Menschenrechte und Freiheiten verletzt werden. Die Privatsphäre würde drastisch reduziert und ein dystopischer Überwachungsstaat im Stile von George Orwell’s Roman„1984“ könnte errichtet werden.

KI hat ebenfalls militärische Anwendungen. Ethisch-rechtliche Fragen bestehen auch im Hinblick auf autonome Waffensysteme. Diese Waffen sind dadurch gekennzeichnet, dass der Mensch nicht mehr ein Ziel auswählt und Ziele bekämpfen muss. 

Gepaart mit den Fortschritten bei der Software-Funktionalität, in Bezug auf Rechenleistung und modernster Sensorik könnten solche autonomen Waffensysteme in dynamischen Situationen und Umgebungen agieren¹². Unbemannte Waffensysteme ändern die Kriegsführung und militärische Taktiken. Wenn du dich eingehender mit der Diskussion um die Gefahren von automatisierten Waffensystemen auseinandersetzen möchtest, empfehle ich dir diesen Link¹².

Möglicher Verlust von Arbeitsplätzen

Wie sieht die Zukunft der Arbeit und Beschäftigung in 10, 20 oder 30 Jahren aus? Welche konkreten Folgen könnte der technologische Fortschritt, die Digitalisierung und die Entwicklung der künstlichen Intelligenz für Arbeitnehmer bedeuten?

Diese Thema ist hochkomplex und zuverlässige, aussagekräftige Prognosen zu stellen ist nicht einfach. Es ist jedoch klar, dass durch die Künstliche Intelligenz bzw. durch die digitalen Transformation Arbeitsplätze verloren gehen werden. Es gibt verschiedene Schätzungen, wonach in Deutschland 1/3 aller Berufe von der Automatisierung und dem Siegeszug der KI betroffen sein könnten¹³.

Es ist zu bezweifeln, ob die heutigen Arbeitsmärkte diesen Veränderungen etwas entgegenzusetzen zu haben und ob sie effektiv reagieren können. Verständlicherweise rufen solche Statistiken Ängste vor dem Verlust des eigenen Arbeitsplatzes hervor.

*

Die Angst in der Belegschaft ist groß und die Akzeptanz des Kollegen Roboter nicht in jedem Fall hoch. Schätzungen von Frey und Osborne¹⁴ zufolge könnten in den nächsten 10 bis 20 Jahren die Hälfte aller heutigen US-Beschäftigten durch Automatisierung und Digitalisierung verlorengehen.

Künstliche Intelligenz wird Arbeitsmärkte und die globale Beschäftigung umkrempeln¹³. Das Besondere bzw. neue an dieser daten-getriebenen Revolution ist jedoch, dass die Automatisierung auch hoch-qualifizierte Berufe ersetzen könnte. Durch die KI-Fähigkeit, Daten schneller, effizienter und zuverlässiger zu bearbeiten und komplexe Muster in Datenbergen zu finden, geraten auch sehr hoch-dotierte und angesehene Jobs in Gefahr.

Die größeren Arbeitsplatzverluste drohen aber vor allem den Berufsfeldern, die sich wiederholende und monotone Routine-Tätigkeiten beinhalten. Das trifft häufig niedrig-qualifizierte Arbeitnehmer und Menschen mit geringerem Bildungsniveau. Problematisch, denn es könnte dazu führen, dass genau jene Gruppen einer Gesellschaft Verlierer der Digitalisierung und technologischen Entwicklung sind.

Es besteht die Gefahr, dass die soziale Ungleicheit weiter anwächst und einzelne Gruppen an den Rande der Gesellschaft gedrängt werden. Es ist zudem nicht absehbar, dass Unternehmen und Politik Umschulungen, Aus- und Weiterbildungen, Seminare,… im großen Stile anbieten und finanzieren können.

*

Selbstverständlich ist es richtig, dass neue Arbeitsplätze, Berufsbilder und Jobs mit komplett neuen Anforderungen entstehen werden. Jedoch muss im Blick behalten werden, dass die entstehenden Jobs wahrscheinlich anspruchsvollere und höherwertigere Jobs sein werden. Das lebenslange Lernen wird für die jetzige und kommende Generation zum absoluten Leitbild. Das macht es jedoch für Niedrig-Qualifizierte Arbeiternehmer ungemein schwierig, in der digitalen Arbeitswelt von Morgen Fuß zu fassen oder relevant zu bleiben.

---

Dir gefallen meine Artikel und du möchtest keine Beiträge zur KI mehr verpassen? Dann komm in unsere Community und abonniere den Newsletter!

---

Meine Perspektive

Meiner Meinung nach ist Technologie per se nichts Gutes oder Schlechtes, sondern ein Werkzeug. Genauso verhält es sich auch mit der Künstlichen Intelligenz. Es ist natürlich wichtig, sich die möglichen Gefahren von KI und alle Risiken sachlich vor Augen zu führen. Diese Gefahren der KI sind echt und sollten nicht in der Euphorie über technologischen Fortschritt untergehen.

Ich halte es aber für unbedingt notwendig, dass wir diese Debatten in der gesamten Breite der Gesellschaft führen und zwar auf eine sachliche und vernünftige Art. Ich persönlich bin überzeugt, dass die Potentiale der KI die möglichen Gefahren und Risiken überwiegen. Zum Abschluss möchte ich noch ein paar Gedanken zu den angeführten Nachteilen teilen:

BLACKBOX KI

Es ist wichtig, dass wir den KI-Abschätzungen, Prognosen und Ergebnissen nicht blind vertrauen. Dies erfordert ein kritisches Auseinandersetzen und das Heranziehen von Experten mit Erfahrungswerten. Auch wenn ich den Nachteil provokant als Black-Box bezeichnet habe, muss auf Folgendes hingewiesen werden: Der Mensch trägt die volle Verantwortung für die Güte und Vertrauenswürdigkeit der Datensätze¹⁵.

Es ist nicht „die KI“, welche Menschen diskriminiert. Die Ursache sind immer Menschen, welche Vorurteile haben, Daten zu ihren Zwecke manipulieren, oder unbewusst falsche Information in ein KI-System packen. Das Thema Transparenz und Erklärbarkeit der KI ist immens wichtig für die Akzeptanz und dem Vertrauen der Gesellschaft in diese Technologie². Datensätze müssen selbstverständlich sorgfältig auf Unvollständigkeit oder Voreingenommenheit überprüft werden⁷.

*

Automatisiertes Fahren:

Ich verstehe die Skepsis über selbstfahrende autonome Autos und sehe viele der geschilderten Gefahren als real an. Wogegen ich mich wehre sind jedoch uninformierte Aussagen und Reaktionen wie „Autopiloten gehören verboten“. Das ist a) nicht sehr konstruktiv und b) wäre eine genaue Erläuterung des Standpunktes interessant.

Bei aller Verbundenheit, Technik-Verliebtheit und Romantik um des deutschen besten Freundes – dem  Auto – befürworte ich grundsätzlich folgende Haltung: Alles zu tun, um die Anzahl der Verkehrstoten durch menschliche Versagen zu reduzieren. Jeder Verkehrstote durch Unkonzentriertheit, Alkohol / Drogen am Steuer, Ablenkung, Stress,… ist meiner Ansicht nach einer zu viel. Wenn es Technologien gibt, welche diese Zahl reduzieren und vielleicht sogar gänzlich vermeiden können, finde ich, sollte man sich zumindest näher mit dem Thema beschäftigen⁸.

Massenarbeitslosigkeit durch Künstliche Intelligenz:

Ich bin der Ansicht, dass die künstliche Intelligenz für große Umbrüche in der Arbeitswelt von morgen sorgen wird. Die Digitalisierung wird wahrscheinlich zwar manche vereinzelte Jobs verschwinden lassen, aber nicht zu einer Massenarbeitslosigkeit führen. Die Art der Beschäftigung und die Arbeitsplatz-Anforderungen werden sich aber vermutlich signifikant ändern¹⁶. Die Tätigkeitsprofile für den Menschen werden sich verändern, während intelligente Maschinen dem Menschen beispielsweise Routine-Tätigkeiten abnehmen.

*

Dieser Zusammenhang kann am Beispiel eines Küchenchefs veranschaulicht werden: Es ist nicht absehbar, dass ein Koch komplett von einer Maschine abgelöst werden wird. Es wird wohl eher zu einer Kollaboration zwischen Maschine und Mensch kommen. Der Koch, dessen Beruf prinzipiell ein hohes Risiko der Substitution durch Maschinen aufweist, hätte durch die Erleichterung seiner Arbeit aufgrund von KI-Robotern mehr Zeit für die kreativen Dinge seines Berufs:

Neue Gerichte kreieren, Soßen perfektionieren, das Menü-Design gestalten,…

In der Zwischenzeit nehmen ihm KI-gestützte Roboter körperlich anstrengende, ermüdende oder monotone (Routine-) Tätigkeiten ab: Das Schälen von Kartoffeln, Schneiden von Zwiebeln,…

Auch in digitalen vernetzten Zeiten mit intelligenten KI-Systemen bleiben viele Kern-Bereiche von Berufen weiterhin Menschen-Domäne: Empathie, Einfühlungsvermögen, Fantasie und soziale Intelligenz sind unabdingbar in vielen Berufen (z. B. in Pflegeberufen, Krankenschwestern, Künstler, ….) und können nicht vollständig in virtuellen Systemen imitiert werden.

Apropos: Folgendes sollte ebenfalls herausgestellt werden: Nicht jeder Beruf, der theoretisch automatisierbar wäre, wird zwangsläufig auch automatisiert. Firmenlenker treffen diese Entscheidungen unter Abwägung diverser Gesichtspunkte¹⁷. Deshalb halte ich es auch für nicht zielführend, Prognosen über zu erwartende Job-Entwicklungen in 5, 10 oder 20 Jahren nur auf Grundlage von prinzipiellen Substitutions- und Automatisierungspotential abzugeben. Apropos: In meinem Crashkurs zur KI* beschreibe ich dir in einem der Kurs-Abschnitte ausführlich und anschaulich meine Top Vorteile und  Risiken der Künstlichen Intelligenz. Ich würde mich freuen, wenn du vorbeischaust.

** *

Trotz meiner Technologie-Affinität und Euphorie über die Chancen der KI denke ich, dass den Unternehmen in Deutschland und weltweit ein Kraftakt (sowohl von Unternehmen als auch der Politik) in den nächsten Jahren und Jahrzehnten bevorsteht. Ich beziehe mich auf die neu entstehenden Jobs der Zukunft: 

Bei allem Enthusiasmus ist davon auszugehen, dass die Digitalisierung auch Verlierer hervorbringen wird. Ja, neue, veränderte, mitunter kreativere Berufe mit ungeahnten Profilen werden entstehen.  ABER: Ich denke, dass die neuen durch Digitalisierung ermöglichten Jobs auch deutlich höhere Qualifikationen erfordern werden. Diese Gefahren der KI sind real. Ich glaube an den politischen und unternehmerischen Willen, die Mitarbeiter auf den Wandel vorzubereiten. Dieser Wandel kommt jedoch einer Mammutsaufgabe gleich. Deshalb begrüße ich die Initiativen, verstärkt in Aus-und Weiterbildung, Schulungen,… zu investieren. Ich stelle mir jedoch folgende Fragen:

• Besteht durch die „höherwertigeren“, anspruchsvolleren Jobs nicht die Gefahr, dass eine Zwei-Klassen-Gesellschaft entsteht und soziale Ungleichheit sich weiter verstärkt? Liegt es im Interesse einer Gesellschaft, vorrangig digitale und technik-affine Akademiker (Sofware-Ingenieure, Robotik-Ingenieure, Mechatronikern,…) auszubilden? Ich hoffe nicht. 
• Welche Lösungen bietet die Politik darauf?
• Was passiert mit den Menschen, deren Jobs nicht mehr existieren und bei denen keine Umschulung möglich ist? 

Um die Akzeptanz in der Gesellschaft gegenüber KI zu erhöhen und die Angst vor Veränderungen zu minimieren, braucht es meiner Meinung jedoch folgende Dinge:

• Mehr Informationen zum Thema KI (in verständlichen Worten – die Chancen und Gefahren der KI und Technologie muss ERKLÄRBAR und GREIFBAR sein). Die Unwissenheit und Unklarheit im Bereich Digitalisierung und KI ist enorm. Ich bin mir auch nicht zu 100% sicher, ob alle Entscheidungsträger (in Politik, Vorständen von Unternehmen,…) auf dem Gebiet selbst kompetent sind Wie können wir über Chancen und Gefahren von KI sprechen, wenn wir aneinander vorbeireden? Diese BLACKBOX muss eindeutig durchbrochen werden. Dazu sind Bildungs-Offensiven an Schulen und Hochschulen, Fort- und Weiterbildungen in Betrieben, Info-Veranstaltungen, TV-Debatten, informative Homepages/Blogs (wie hoffentlich mein Blog aus eurer Sicht ) usw. notwendig.

• Gesamtgesellschaftlicher Dialog über Potentiale und Gefahren der Digitalisierung: Alle sozialen Schichten müssen sich daran aktiv beteiligen können und ihre Perspektiven mitteilen dürfen. Das heißt Partizipation von der Lehrerin über die Bäckerin bis zum Vorstandsvorsitzenden von multinationalen Unternehmen. Die digitale Transformation betrifft die ganze Gesellschaft. Die Weichenstellungen dürfen folglich nicht im „Elfenbeinturm“ erfolgen. Dementsprechend sollen sich nicht einzelne Bevölkerungsschichten abgehängt fühlen, sondern mutig die Zukunft mitgestalten. Herr Grunwald, ein Technikfolgeabschätzer, hat zu dieser Thematik ein lesenswertes Buch* geschrieben. Er beschäftigt sich kritisch mit den Folgen der Durchdringung des Alltags durch Digitalisierung und den potentiellen Gefahren. Im Detail zeigt er Szenarien auf, was passieren kann, wenn diese nicht bewusst gestaltet wird.

Transparenz:

KI sollte so ausgerichtet werden, dass neben ökonomischen Zielen und Mehrwerten der Mensch stets im Zentrum steht¹⁸. Ein Beispiel, wie das in der Industrie der Zukunft gelingen kann, ist die Mensch-Maschine-Interaktion.

Viele Montage-Arbeiter oder Arbeitnehmer im Niedrig-Lohn-Sektor fühlen sich unmittelbar durch die zunehmende Verschmelzung von (intelligenten) Robotern bedroht und sehen solche Entwicklungen als Gefahren an. Das ist zunächst verständlich. Dort, wo früher Roboter hinter einem Schutzzaun in einer Roboter-Zelle Blechteile der Karosserie miteinander verschweißt haben, wandelt sich die Fertigung und Montage.

** *

Schutzzäune und abgetrennte Zellen für Roboter gehören jedoch immer mehr der Vergangenheit an. Diese Entwicklung bietet Chancen und muss den Arbeitern auch so kommuniziert werden:

Agilere, flexiblere Leichtbau-Roboter oder Roboter-Arme übernehmen komplexere Tätigkeiten und unterstützen den Arbeiter zielgerichtet. Bei BMW werden beispielsweise Exoskelett-Westen getragen. Das sind Stützstrukturen für den Körper, um die körperliche Leistungsfähigkeit des Mitarbeiters zu erhöhen.

Der Vorteil ist eine Ergonomie-Verbesserung in der Handhabung, körperliche Entlastung und der Arbeiter wird beim Ausführen seiner Tätigkeiten optimal unterstützt. Unternehmen versprechen sich davon sowohl eine erhöhte Qualität als auch eine Kostenreduktion¹⁹.

Insgesamt steigen die Anwendungen von Robotern, in denen die Maschinen gemeinsam mit dem Menschen interagieren. Je nach Art der Interaktion unterscheidet man zwischen der Zelle, Kooperation und Kollaboration¹⁹. Die letzte Stufe der Kollaboration ist dann erreicht, sobald Menschen gemeinsam mit dem Roboter am gleichen Bauteil arbeiten und sich den Arbeitsraum teilen.

---

FAZIT bzw. Ausblick

Ich bleibe dabei: Der technologische Fortschritt durch Künstliche Intelligenz lässt sich nicht aufhalten. Die Gesellschaft und Unternehmen haben die Chance, die Zukunft der KI mitzugestalten. Es ist unsere Verantwortung, wo und auf welche Weise die Technologie eingesetzt wird²⁰.

^{Ich hoffe, im heutigen Artikel habt ihr einige Risiken und Gefahren der KI kennengelernt und könnt die Thematik nun besser einordnen. Mein Ziel ist es, euch neben dem Vermitteln von Wissen neue Denkanstöße mit auf den Weg zu geben.}

Werft demnächst gerne einen Blick auf den nächsten Blog-Eintrag in dieser Kategorie. Wir behandeln den Unterschied zwischen „Starker“ und „Schwacher“ Künstlicher Intelligenz. Außerdem beantworten wir folgende Fragen:

• Droht womöglich technologische Singularität? Schafft sich der Mensch auf lange Sicht selbst ab?
• Wovor warnen renommierte Wissenschaftler und Tech-Visionäre aus dem Silicon Valley?

Danke für das Lesen des Beitrags und bis zum nächsten Post.

Euer Maximilian

***

PS: Teilt mir gerne eure Gedanken zum Thema KI und zum Artikel über die Gefahren der KI mit. Wie groß schätzt ihr denn die Risiken ein? Ist die Debatte über den möglichen Arbeitsplatzverlust eurer Meinung nach nur Panikmache oder seht ihr berechtigten Grund zur Sorge? Welche Prognosen gebt ihr bezüglich der Zukunft der Arbeit? Möchtet ihr endlich wissen, was KI ist und wo Machine Learning eingesetzt wird? Dann empfehle ich euch als Einstieg meinen preiswerten kompakten Crashkurs als Video-Kurs* in die Thematik.

Habt ihr weitere Anmerkungen oder konkrete Themenwünsche für zukünftige Artikel in der Kategorie Künstliche Intelligenz? Ich bin gespannt auf eure Meinungen und euren Input.

PPS: 

Euch hat der Artikel und die Beispiele zu den Gefahren der KI gefallen? Ihr möchtet in Zukunft keine Blog-Beiträge mehr verpassen und automatisch über neue Artikel zur KI, Robotik, Industrie 4.0, 3D-Druck,… informiert werden? Außerdem wollt ihr exklusive Rabatte auf meine Online-Kurse und Bücher erhalten? Dann abonniert gerne hier meinen Newsletter:

*

Buch-Tips zu diesem Blog-Beitrag:

Marco Lalli: Autonomes Fahren und die Zukunft der Mobilität*

Katharina Zweig: Ein Algorithmus hat kein Taktgefühl. Wo Künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können*

Bartneck et al.: Ethik in KI und Robotik*

Stephen Hawking: Kurze Antworten auf große Fragen*

Gröner und Heinecke: Kollege KI: Künstliche Intelligenz verstehen und sinnvoll einsetzen*

Richard David Precht: Jäger, Hirten, Kritiker: Eine Utopie für die digitale Gesellschaft.*

Vivien Suchert: Das vermessene Ich: Von Selbstkontrolle, Optimierungswahn und digitalen Doppelgängern*

Quellen dieses Blog-Artikels sowie empfohlene Lektüre:

1 Englander, A. et al. (2019): Vertrauenswürdiger Einsatz Von Künstlicher Intelligenz. Handlungsfelder Aus Philosophischer, Ethischer, Rechtlicher Und Technologischer Sicht Als Grundlage Für Eine Zertifizierung Von Künstlicher Intelligenz. Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS. https://www.researchgate.net/publication/334285248_Vertrauenswurdiger_Einsatz_von_Kunstlicher_Intelligenz. Zuletzt geprüft am 18.11.2019.

2  Heintel, M. et al. (2019): Künstliche Intelligenz (KI) In Sicherheitsaspekten Der Industrie 4.0. Bundesministerium für Wirtschaft und Energie (BMWi). https://www.plattform-i40.de/PI40/Redaktion/DE/Downloads/Publikation/KI-in-sicherheitsaspekten.pdf?__blob=publicationFile&v=5. Zuletzt geprüft am 18.11.2019.

3 Rohde, F., Gossen, M., Wagner, J. und Santarius, T.: Künstliche Intelligenz Für Nachhaltige Entwicklung?  Forum Bits & Bäume. https://www.nachhaltige-digitalisierung.de/data/digitale_transformation/Publikationen/Forum_Bits_und_B%C3%A4ume_-_K%C3%BCnstliche_Intelligenz_f%C3%BCr_nachhaltige_Entwicklung_-_Diskussionspapier.pdf. Zuletzt geprüft am 18.11.2019.

4  FLORIDA TECH: 4 Problems With Predicitve Policing. FLORIDA TECH ONLINE. https://www.floridatechonline.com/blog/criminal-justice/4-problems-with-predictive-policing/. Zuletzt geprüft am 18.11.2019.

5 Baaziz, A. und Quoniam, L. (2014): How To Use Big Data Technologies To Optimize Operations In Upstream Petroleum Industry. 21^st Petroleum Congress. https://www.researchgate.net/publication/269116099_How_to_use_Big_Data_technologies_to_optimize_operations_in_Upstream_Petroleum_Industry. Zuletzt geprüft am 18.11.2019.

6 Herget, S. (2019): Die Fünf Größten Gefahren Von Künstlicher Intelligenz. Androidpit. https://www.androidpit.de/kuenstliche-intelligenz-gefahren. Zuletzt geprüft am 18.11.2019.

7 Pohlmann, N. (2018): Künstliche Intelligenz Und Cybersicherheit – Eine Diskussionsgrundlage. Eco. https://www.eco.de/wp-content/uploads/2018/12/KI_Cybersecurity_Diskussionsgrundlage.pdf. Zuletzt geprüft am 18.11.2019.

8 Seider, C. und Radis, C. (2017): Wenn Das Auto Die Kontrolle Übernimmt. Ein Blick In Die Zukunft Des Autonomen Fahrens. NTT Data. https://de.nttdata.com/-/media/nttdatagermany/files/2017-de-fs-wenn-das-auto-die-kontrolle-uebernimmt.pdf. Zuletzt geprüft am 18.11.2019.

9 Thommen, M. und Matjaz, S.: Die Fahrlässigkeit Im Zeitalter Autonomer Fahrzeuge. FSAD. https://www.ius.uzh.ch/dam/jcr:ee71ed67-3a4c-41de-b48e-0edefec4ba3b/19_FSAD_Thommen_273_295.pdf. Zuletzt geprüft am 18.11.2019.

10 Sayler, K. (2019): Artificial Intelligence And National Security. Congressional Research Service. https://fas.org/sgp/crs/natsec/R45178.pdf. Zuletzt geprüft am 18.11.2019.

11 Gerstl, S. (2017): Stephen Hawking Warnt Vor KI Als „Schlimmstes Ereignis Der Zivilisationsgeschichte“. Elektronik Praxis. https://www.elektronikpraxis.vogel.de/stephen-hawking-warnt-vor-ki-als-schlimmstes-ereignis-der-zivilisationsgeschichte-a-660803/. Zuletzt geprüft am 18.11.2019.

12 Dahlmann, A. und Dickow, M. (2019): Präventive Regulierung Autonomer Waffensysteme. Handlungsbedarf Für Deutschland Auf Verschiedenen Ebenen. Stiftung Wissenschaft und Politik. Deutsches Institut für Internationale Politik und Sicherheit. https://www.swp-berlin.org/fileadmin/contents/products/studien/2019S01_dkw_dnn.pdf. Zuletzt geprüft am 18.11.2019.

13 Heuser, U. J. et. al. (2018): Zukunft der Arbeit. Was Machen Wir Morgen? Zeit Online. https://www.zeit.de/2018/18/zukunft-arbeit-kuenstliche-intelligenz-herausforderungen/komplettansicht. Zuletzt geprüft am 18.11.2019.

14 Frey, C. B. und Osborne, M. A. (2013): The Future Of  Employment: How Susceptible Are Jobs To Computerisation? University of Oxford. https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf. Zuletzt geprüft am 18.11.2019.

15 dpa (2019): Wenn Algorithmen Vorurteile Ausspucken. Internet World. https://www.internetworld.de/technik/algorithmen-vorurteile-ausspucken-1720064.html. Zuletzt geprüft am 18.11.2019.

16 Boll-Westermann, S. (2019): Innovation Nutzen, Werte schaffen. Neue Geschäftsmodelle Mit Künstlicher Intelligenz. Plattform Lernende Systeme. https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG4_Bericht_231019.pdf. Zuletzt geprüft am 18.11.2019.

17 Südekum, J. (2018): Digitalisierung Und Die Zukunft Der Arbeit. Wirtschaftspolitisches Zentrum WPZ. Universität St. Gallen. http://www.wpz-fgn.com/wp-content/uploads/PA19DigitalisierungZukunftArbeit20180726.pdf. Zuletzt geprüft am 18.11.2019.

18 Peisger, M. (2018): Künstliche Intelligenz – Lasst Euch Keine Angst Machen. manager magazin. https://www.manager-magazin.de/unternehmen/artikel/kuenstliche-intelligenz-ki-und-die-folgen-angst-vor-jobverlust-uebertrieben-a-1223983.html. Zuletzt geprüft am 18.11.2019.

19 IGZA (2018): Konferenz-Band: Roboter – Assistenz-Systeme – Künstliche Intelligenz. Neue Formen Der Mensch-Maschine-Interaktion. Institut für die Geschichte und Zukunft der Arbeit. http://igza.org/wp-content/uploads/2018/02/IGZA-Konferenz-Band_Robotik-und-KI.pdf. Zuletzt geprüft am 18.11.2019.

20 van den Hevel, M. (2019): Künstliche Intelligenz Zwischen Chancen Und Risiken. VDI. https://www.vdi.de/themen/kuenstliche-intelligenz-ki/kuenstliche-intelligenz-zwischen-chancen-und-risiken. Zuletzt geprüft am 18.11.2019.

* = Affiliatelinks/Werbelinks

Gefahren durch Künstliche Intelligenz; Gefahren der KI; Risiken Künstliche Intelligenz