Frage: Wie wird gewährleistet, dass KI nicht demokratiefeindlich genutzt wird?

Fabio Barth Beantwortet am 25 Feb 2025:

Die Frage nach der Nutzung von KI ist eine, die politisch geklärt werden muss und nicht durch die Wissenschaft. Was die Wissenschaft machen kann, ist zu zeigen wie KI demokratiefeindlich eingesetzt werden könnte und wie man das verhindern oder minimieren könnte. Es liegt aber an der Politik die Nutzung hierfür zu regulieren (oder eben nicht). Deswegen gibt es unter anderem in Europa den AI Act (https://artificialintelligenceact.eu/de/).

Aber wie sehen solche wissenschaftlichen Methoden aus, um zu zeigen, dass KI demokratiefeindlich genutzt wird?

In der Informatik gibt es ein Forschungsgebiet, dass sich damit beschäftigt wie Sprachmodelle (Also ChatGPT oder KI) voreingenommene „Meinungen“ übernehmen oder reproduzieren. Diese voreingenommenen „Meinungen“ können die Realität verzerren. Es handelt sich hierbei auch nicht um tatsächliche „Meinungen“ von der KI, sondern etwas, was die KI aus den Trainingsdaten übernommen hat. Also aus den Daten die zum Beispiel ChatGPT zu dem Machen, was es ist. Füttere ich also eine KI mit rechtspopulistischer Propaganda, dann wird die KI das auch reproduzieren.

In diesem Forschungsgebiet wird aber auch daran geforscht, wie man dafür sorgt, dass ein Sprachmodell (Also sowas wie ChatGPT) diese voreingenommene „Meinung“ nicht wiedergibt, auch wenn die KI damit gefüttert wurde. Dafür gibt es viele erprobte Ansätze.

Viele Wissenschaftler setzen sich dafür ein, die Daten, die für das Training von Künstlicher Intelligenz genutzt werden, zu demokratisieren. Sie fordern, dass Unternehmen, die KI entwickeln und einsetzen, ihre Trainingsdaten entweder offenlegen oder zumindest genau angeben, welche Daten sie verwendet haben. Dadurch ließe sich das Verhalten der KI besser nachvollziehen und ihre generierten Inhalte fundierter interpretieren. Doch solche Regelungen müssen von der Politik oder den Unternehmen selbst kommen – die Wissenschaft allein kann sie nicht durchsetzen.