Kann KI gefährlich werden?

Frage: Kann KI gefährlich werden?
- Stichworte:
  Gefahr,
  KI,
  Zukunft
Frage gestellt buss30set am 22 Feb 2025. Diese Frage wurde auch von bury25kay gestellt.
- Dorothea Winter Beantwortet am 22 Feb 2025:
  
  Ja. Aber nicht, weil sie plötzlich ein eigenes Bewusstsein entwickelt und beschließt, die Menschheit loszuwerden. KI ist kein heimlicher Bösewicht aus einem Science-Fiction-Film. Die echte Gefahr liegt woanders – und ist viel subtiler.
  
  Erstens: KI kann Fehler machen. Stell dir eine KI vor, die eingestellt wird, um Bewerbungen zu sortieren. Sie wird mit alten Daten gefüttert, aus denen sie lernt, wer eingestellt wurde. Problem: Wenn in der Vergangenheit vor allem Männer eingestellt wurden, denkt die KI plötzlich: „Aha, Männer sind die besseren Bewerber!“ Zack – ein Algorithmus, der Frauen systematisch benachteiligt. Ist das Absicht? Nein. Aber es passiert.
  
  Zweitens: KI kann manipulieren. Algorithmen entscheiden, welche Nachrichten du siehst, welche Videos dir vorgeschlagen werden, welche Werbung dir begegnet. Klingt harmlos, oder? Aber was, wenn KI so programmiert wird, dass sie dich in eine bestimmte politische Richtung lenkt? Oder deine Meinung über Themen verändert, ohne dass du es merkst? Wenn KI bestimmt, welche Informationen du bekommst, kann sie beeinflussen, wie du denkst.
  
  Drittens: Wer kontrolliert die KI? KI gehört nicht „allen“. Sie gehört den Unternehmen, die sie entwickeln. Riesige Tech-Firmen haben die Macht darüber, welche KI wir nutzen und was sie kann. Was passiert, wenn ein paar Firmen bestimmen, was als „wahre“ Information gilt oder wer Zugang zu bestimmten Technologien hat? KI selbst ist nicht böse – aber sie kann von Menschen für Machtspiele genutzt werden.
  
  Kurz gesagt: Die Gefahr ist nicht die KI selbst, sondern wie wir sie einsetzen, wer sie kontrolliert und wie wenig wir darüber nachdenken. Und genau hier kommt Philosophie ins Spiel. Wenn wir nicht klären, welche ethischen Regeln gelten sollen, laufen wir Gefahr, dass KI die Welt nicht besser macht, sondern bestehende Ungerechtigkeiten einfach schneller und effizienter reproduziert.
- Max Schindler Beantwortet am 23 Feb 2025:
  
  In der momentanen Form, wo wir gewinnorientierten Unternehmen die Handhabe über die Entwicklung und Ausgestaltung von KI überlassen, auf jeden Fall. Die KI selber kann meiner Meinung nach nicht gefährlich werden, aber die Form wie Unternehmen diese einsetzen kann enorme negative Auswirkungen auf einen Großteil der Gesellschaft haben. Hier sind im Prinzip ähnliche Entwicklungen zu erwarten, die allgemein auf das Internet und z.B. Social Media zutreffen. Dabei geht es vor allem um einen Prozess den der Autor und Aktivist Cory Doctorow Enshittification nennt (auch crapification). Dabei geht es um den Prozess, nach dem die Qualität von Online-Produkten und -Diensten im Laufe der Zeit abnimmt. Zunächst schaffen Anbieter qualitativ hochwertige Angebote, um Nutzer anzuziehen, dann verschlechtern sie diese Angebote, um Geschäftskunden besser bedienen zu können, und schließlich verschlechtern sie ihre Dienste für Nutzer und Geschäftskunden, um die Gewinne für die Aktionäre zu maximieren. Es wäre verwunderlich, wenn dieser Prozess bei KIs wie ChatGPT nicht stattfinden würde. Konkret könnte das bedeuten, dass das Unternehmen hinter ChatGPT aktuell noch Geld und Zeit in die Korrektheit von Informationen die ChatGPT ausspukt investiert. Mit der Zeit könnte dieses Thema aber immer weiter nach hinten rutschen, wir alle haben uns eh schon an die Nutzung gewöhnt und hinterfragen nicht mehr, ob die Ergbenisse eigentlich stimmig sind oder nicht. Ab dem Moment können dann z.B. vor allem Dinge generiert werden, für die andere Unternehmen oder z.B. auch politische Interessengruppen bezahlt haben, oder es wird einfach darauf geachtet, dass sehr schnell etwas generiert wird, egal was. All das kann langfristig sehr problematisch werden.
- Susanne Kurz Beantwortet am 24 Feb 2025:
  
  KI kann durchaus Risiken mit sich bringen, zum Beispiel durch Fehlinformationen, Manipulation oder den Missbrauch in falschen Händen. Deshalb ist ein verantwortungsvoller Umgang und eine gute Regulierung wichtig. Richtig eingesetzt, kann KI aber auch viele Vorteile bringen! 😊
- Felix Steinbauer Beantwortet am 24 Feb 2025:
  
  Naja, KI ist ja schon gefährlich.
  
  Zum Beispiel was Desinformation angeht oder auch soziale Beziehungen (siehe https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html ). Meine Kollegen hier Können bestimmt noch viele weitere Beispiele nennen.
  Aber das ist nichts neues; mit jeder Technologie kann man Unfug anstellen oder was tolles draus machen. Ich vergleiche, das gerne mit Kernspaltung. Wenn sich jeder Plutonium kaufen kann und sich einen Reaktor in seinen Garten bauen haben wir ein ziemliches Problem. Die entsprechenden Diskussionen über die Anwendung und Regulierung von Technologien muss man auch bei KI führen.
  
  Viel interessanter ist allerdings die Frage ob KI an sich gefährlich werden kann. Also von wegen „Bewusstsein“ und „böse Absicht“. Das ist dann nämlich ein Risiko dass nicht aus der (falschen) Verwendung entsteht sondern aus der Existenz der Technologie an sich.
  
  Leider können wir das momentan nicht gut abschätzen, da wir keine KI haben die ähnlich Intelligent ist wie Menschen. Kompetenz und Faktenwissen in ein paar Bereichen; ja. Aber das was wir unter Intelligenz (generaliserung) verstehen; nein.
  Kategorisch aus zu schließen, dass wir jemals an den Punkt kommen werden solche Systeme zu haben, halte ich allerdings für falsch. Wir arbeiten ja daran menschliche Intelligenz nach zu bauen und evtl sogar noch darüber hinaus zu gehen…
  
  Auf welche Art und Weiße „starke KI“ dann problematisch/gefährlich ist wird sich herausstellen. Das ist so ungewiss, dass ich – für meinen Teil – dazu keine gute Aussage/Abschätzung machen kann.
- Kian Schmalenbach Beantwortet am 25 Feb 2025:
  
  Ja, eine KI kann aus verschiedenen Gründen gefährlich werden. Diese Gründe hängen aber nicht direkt mit der Funktionsweise der Technologie zusammen, sondern mit der Art und Weise, wie sie eingesetzt wird. Hier einige Beispiele.
  
  Erstens basieren KI-Anwendungen normalerweise auf sehr großen Datenmengen, die aus bestehenden Datenquellen stammen. Ziel ist es, Muster in diesen Daten zu finden, die so komplex sind, dass wir sie mit traditionellen Methoden nicht erkennen würden. Das bedeutet aber auch, dass wir diese Muster oft nicht verstehen. Dadurch wird es schwer zu testen, ob das System sich in jeder Situation wie gewünscht verhält. Ein Beispiel: Bei Amazon hat eine KI zur Auswertung von Lebensläufen unbemerkt männliche Bewerber bevorzugt. Ähnliches kann passieren, wenn Menschen aus bestimmten Wohngegenden oder mit bestimmten äußeren Merkmalen bei der Kreditvergabe benachteiligt oder von Gesichtserkennungssoftware schlechter erkannt werden.
  
  Zweitens führt der Ersatz menschlicher Arbeit durch KI dazu, dass Entscheidungen immer häufiger nach festen Mustern getroffen werden. So ist es wahrscheinlich, dass ein Teil der Texte im Web, die auch genutzt werden, um neue KIs zu trainieren, bereits von KIs geschrieben wurde. Dadurch verstärken sich bestimmte inhaltliche und sprachliche Muster immer weiter. Genauso werden bei Prozessen wie Recruitment oder Bonitätsprüfung immer häufiger KI-Systeme verwendet. Das macht es für Menschen, die Diskriminierung erfahren, weniger wahrscheinlich, Glück zu haben und auf eine wohlwollende Entscheidung von einzelnen Menschen zu treffen.
  
  Drittens verlernen Menschen oft Fähigkeiten, wenn sie sich zu sehr auf automatisierte Systeme verlassen. Ein bekanntes Beispiel ist das Kopfrechnen vs. Taschenrechner. Ähnlich passiert es, wenn Piloten sich so sehr auf die Automatisierung verlassen, dass sie in einem Notfall keine effektiven manuellen Eingriffe mehr vornehmen können. Das kann auch in anderen Bereichen wie der journalistischen Texterstellung oder medizinischen Diagnostik passieren. Das Risiko besteht darin, dass die KI Schwächen hat, die niemand bemerkt, weil die Menschen ihre eigenen Fähigkeiten verloren haben.
  
  Viertens kann KI dazu verwendet werden, bestehende Machtstrukturen zu verstärken. Ein Beispiel sind die bekannten großen US-amerikanischen oder chinesischen Konzerne, deren Geschäftsmodelle auf digitalen Technologien, Datenverarbeitung und KI basieren. Diese Unternehmen wachsen schnell, weil sie mehr Nutzer und Daten sammeln können. So entsteht schnell eine Monopolstellung. Einmal bestehende Machtkonzentrationen können dann genutzt werden, um wirtschaftliche oder soziale Prozesse zu beeinflussen, wie es in aktuellen politischen Diskussionen oft zu sehen ist.