Frage: Wie wirkt sich der Einsatz von künstlicher Intelligenz in der Wissenschaft aus, schadet oder nützt er und wie?

Michael Reiss Beantwortet am 25 Feb 2025:

Eine ausgezeichnete Frage und ich bin mir mit der Antwort gar nicht so sehr sicher; allein weil sich da ja auch immer noch viel entwickelt und verändert. Ich denke, es kommt vor allem darauf an, wie man es einsetzt und es hat sowohl Chancen, als auch Risiken. Sorry, die Antwort wird etwas länger 🙂

Zunächst zu den Risiken.

1) Kann KI von böswilligen Akteuren immer missbräuchlich eingesetzt werden; auch in der Wissenschaft. Es gibt mittlerweile viele Fälle, wo aufgeflogen ist, dass Wissenschaftlerinnen und Wissenschaftler ganze Forschungsarbeiten oder Studien nur durch generative KI haben schreiben lassen. Das ist zwar teils schwer zu erkennen, manchmal aber auch ganz einfach, weil die KI gewisse Phrasen sehr gerne verwendet oder an manchen Stellen für Menschen offensichtliche Fehler macht. Teils sind die Arbeiten auch sehr, sehr schlecht. So gut ist die KI dann oft doch noch nicht. Die Dunkelziffer ist hier aber sicherlich auch sehr hoch und oft ist der Fall auch nicht ganz klar (siehe Chancen).

2) Das grössere Risiko ist meiner Meinung, dass man der KI das kritische Denken „überlässt“. Das ist sehr gefährlich da KI auf Grund ihrer Architektur die Tendenz hat, Antworten zu geben, die wahrscheinlich sind. Das sind aber nicht immer die richtigen Antworten und auch oft nicht kreative oder neue Gedanken. Und weil KI oft plausible und gut klingende Antworten gibt, ist es schon bequem sich da auf KI zu verlassen.

3) Und das ist recht simpel: KI ist nach wie vor oft einfach auch falsch oder schlecht. Das darf man nicht vergessen, auch wenn es teils plausibel klingt. Ich habe z.B. einmal eine Arbeit einer Studentin in eine KI gegeben und um ein kritisches Feedback gebeten (also zum testen, ob eine KI das korrigieren und benoten übernehmen kann). Das Ergebnis war wirklich sehr schlecht und komplett unbrauchbar. Dafür taugt KI bisher gar nicht und sollte man nicht verwenden.

Zu den Chancen.

1) KI kann viele mühsame Arbeitsprozesse beschleunigen. Ich muss z.B. viel programmieren und mit Statistikprogrammen arbeiten. Oft weiss ich nicht direkt wie es weiter geht – wir haben in der Wissenschaft auch sehr oft neue Probleme, die man zuvor noch nie hatte. Und da hab ich früher dann gegoogelt oder in Handbüchern nachgelesen. Das hat viel Zeit gekostet. Heute Frage ich ChatGPT und bin 2-4x so schnell. Und bei sowas sieht man auch direkt ob es richtig ist und funktioniert. Da hilft die KI wirklich ungemein.

2) KI macht zwar Fehler, ist aber oft auch sehr gut und kann einen inhaltlich unterstützen. Z.B. beim Brainstorming zu Argumenten oder Ansätzen. Wie oben geschrieben, finde ich es immer wichtig, zuerst selbst nachzudenken, sonst beeinflussen einen die Antworten der KI zu sehr. Aber wenn man selbst fertig ist, ist es super hilfreich die KI nochmal zu fragen. Manchmal hat man was übersehen oder die KI hat noch eine weitere Perspektive oder Argument. Das ist sehr hilfreich und _ergänzt_ die eigene Arbeit gut.

3) KI kann gut dazu eingesetzt werden, einem eine alternative Formulierung für einen Satz oder ähnliches zu geben. Manchmal ist man mit einer Formulierung ja noch nicht ganz zufrieden und überlegt lange und es fällt einem aber keine bessere Formulierung ein. Hier kann die KI sehr hilfreich sein, da diese einem schnell 4, 5 Alternativen anbieten kann. Oft klingen manche Vorschläge besser als die eigenen und das kann man dann einbauen; das funktioniert auch in anderen Sprachen, z.B. Englisch sehr gut und verwende ich oft. Auch als Korrekturhilfe ist es hilfreich. Die KI übersieht manche Fehler zwar auch, aber findet oft auch mehr, als man selbst (z.B. wenn man Leichtsinnsfehler hatte).

Fazit:
KI macht meinen Arbeitsalltag in mancherlei Sicht einfacher und schneller. Das ist eine grosse Hilfestellung und kann ich jedem nur raten. Aber in den wichtigen Bereichen sollte man die Arbeit weiter selbst tun. Zum einen ist KI da oft falsch oder schlecht. Zum anderen ist es aber auch gefährlich sich langfristig auf KI zu verlassen, da man das eigene kritische Denken verlernt und zu Abhängig von der KI wird. Und das sag ich nicht nur so, sondern das merkt man wirklich, dadurch wird man dann nicht besser, sondern schlechter und auch die eigene Arbeit wird schlechter.