Jede (Arbeits-)Beziehung zwischen verschiedenen Partnern verläuft sehr wahrscheinlich besser, wenn man sich von Beginn an gut kennenlernt. Noch bevor die euphorische Phase des „Honeymoons“ beginnt, die den realistischen Blick auf eine neue aufregende Partnerschaft verklärt, ist es sinnvoll, sich gemeinsam sehr ehrlich die folgende Frage zu stellen:
„What’s the good, the bad and the ugly side of partnering with me?“
Künstliche Intelligenz ist zweifelsohne ein Arbeitspartner geworden, der gekommen ist, um zu bleiben.
- Sie hat eine vorteilhafte Seite und bringt große Potenziale mit sich (The good side of AI).
- Die Zusammenarbeit bringt aber auch Risiken mit sich, die wir kennen und beachten sollten (the bad side of AI).
- Und da ist noch diese dunkle, unheimliche Seite von KI, wenn sie in falsche Hände gerät und für böse Zwecke missbraucht wird (the ugly side of AI).
Wir dürfen daher in Bezug auf KI weder zu euphorisch, noch zu risikoavers-zögerlich, noch zu naiv sein, sondern einen realistischen Blick auf einen vernünftigen, verantwortungsvollen und sicheren Umgang mit KI entwickeln, der „human-centric“ ist und „Menschenwürde und menschliches Wohlergehen“ in den Vordergrund stellt.
Daher ist meine aktuelle Newsletterausgabe der Frage gewidmet, „What’s the good, the bad and the ugly side of working with AI?„
Was sollten wir hierzu wissen? Vor allem: Was können wir selber tun, um einen positiven und vernünftigen Umgang mit KI zu fördern?
The good side of working with AI
KI ist eine Querschnitts-General Purpose-Technologie, die jede Branche durchdringt und in ihrer Wirkung mit der Erfindung von Elektrizität und des Internets vergleichbar ist.
Das wohl größte positive Potenzial von KI liegt darin, dass sie uns Menschen bei verschiedenen „Grand Challenges for Humankind“ – also den größten Herausforderungen für uns Menschheit – substanzielle Fortschritte ermöglicht, die ohne KI erheblich langsamer oder gar nicht erreichbar wären. In Bereichen wie Klimawandel-Minderung, Förderung von globaler Gesundheit und Eindämmung von Pandemien, globaler Ernährungssicherheit, Katastrophenvorsorge und stabilen Energienetzen kann uns KI wirkungsvoll unterstützen. Gerade dort, wo riesige Datenmengen, komplexe Zusammenhänge und hohe Reaktionsgeschwindigkeit zusammentreffen, verschafft KI uns einen quantitativen und qualitativen Lösungsvorsprung.
Darüber hinaus besitzt KI das Potenzial, uns im beruflichen Alltag erhebliche Produktivitäts- und Innovationssteigerungen zu ermöglichen und uns Aufgaben abzunehmen, die kaum ein Mensch gerne macht. Damit hilft uns KI, nicht nur deutlich besser, sondern auch angenehmer zu arbeiten. Ich persönlich möchte in meinem Arbeitsalltag auf meine verschiedenen KI-Assistenten und neuerdings auch personalisierten KI-Agenten nicht mehr verzichten.
The bad side of working with AI
Die Nutzung von KI geht aber auch mit systemischen Risiken einher. Diese sind vielfältig. Sie reichen vom Abfluss kritischer Daten über algorithmische Verzerrung mit skalierenden Vorurteilen, Arbeitsmarkt-Disruption und wachsende Ungleichheit, riesigen Energiebedarfen für Rechenzentren zu Fehlinformation und Halluzinationen.
KI-Kompetenz bedeutet daher weit mehr als nur Tool-Kompetenz. Sie umfasst alle Fähigkeiten, die benötigt werden, um die systemischen Risiken bei der Nutzung von KI zu minimieren. Kritisches Denken, Datensensibilität, Adaptabilität und Lernfähigkeit, Sensibilität für den ökologischen Footprint der KI-Nutzung sowie ein ausgeprägtes ethisches Bewusstsein zählen daher zu wichtigen Future Skills im Umgang mit KI.
Darüber hinaus sollten wir „Upskilling in AI“ nicht mit „Deskilling“ verwechseln. Wir dürfen unsere humane Intelligenz und unsere Grundfähigkeiten wie Rechnen, Schreiben und Lesen nicht sukzessive verkümmern lassen, weil wir uns zu sehr auf KI bei diesen Tätigkeiten verlassen. Wir können schließlich unsere Rolle als „Kapitäne“, die unsere „KI-Copiloten“ steuern und kontrollieren, nur dann verantwortungsvoll ausüben, wenn wir selber kompetent bleiben.
The ugly side of working with AI
Wo liegen die dunklen Seiten von KI, die sich negativ auf Würde und Wohl von uns Menschen auswirken können?
Gerade die letzten Monate haben gezeigt, dass KI-basierter Deep Fake-Betrug, gezielte Desinformation & Wahlmanipulation mit dem Ziel der Destabilisierung von Demokratien schon jetzt Realität sind und damit eine real existierende Gefahr darstellen. Auch der KI-unterstützte Cyberkrieg, autonome Waffen und Cyberattacken in neuem Ausmaß sind bereits Wirklichkeit geworden.
KI-Experten warnen darüber hinaus vor existenziellen Superintelligenz-Risiken in Zukunft und betonen, dass unkontrollierte, fehljustierte Systeme potenziell „über uns Menschen hinauswachsen“ und Handlungen ausführen können, die dem Wohl von uns Menschen langfristig schaden.
Fazit: Was machen wir aus dieser Partnerschaft?
KI ist weder Heilsbringer noch ein Teufelswerkzeug. Ich bin davon überzeugt, dass wir bei der Gestaltung unserer digitalen Zukunft mit KI bewusst einen zweigleisigen Ansatz wählen sollten: Weiterforschen und -entwickeln, aber mit klaren Governance-Leitplanken und ethischen Standards, die Innovationen ermöglichen und nicht ersticken, mit unabhängigen Audits und auf Basis globaler Kooperation, damit wir
das Gute realisieren, das Schlechte managen und das richtig Hässliche verhindern können.
Unsere Systeme (Rechts-, Bildungs- und Verteidigungssysteme) müssen sich an die technologische Entwicklung anpassen und hierbei an Geschwindigkeit gewinnen.
Investitionen in KI-Governance, flächendeckenden Kompetenzaufbau (nationales AI Upskilling) kritische Reflexion bei der Entwicklung, Implementierung und Nutzung von KI und das Bestreben, auf internationaler Ebene besser zu kooperieren, sind sicherlich lohnenswerte Investitionen für die Gegenwart und Zukunft.
Ich bin ferner von Folgendem überzeugt:
With great power, comes great responsibility.
Wir sollten als Anwender von KI bewusst jene Unternehmen unterstützen und unsere kollektive Macht als Kunden nutzen, indem wir auf „human centric ethical AI“ größeren Wert als bislang legen. Konkret bedeutet das, dass nicht nur die grundsätzliche Leistungsfähigkeit von KI-Systemen, sondern auch Aspekte wie Datenschutz, Transparenz, Nachvollziehbarkeit und gesellschaftliche Verantwortung für unsere Kauf- und Nutzungsentscheidungen relevant sein sollten.
Lasst uns die wachsende Bedeutung der digitalen Souveränität Europas nicht vergessen.
Happy Weekend.