Künstliche Intelligenz und FDM

KI-Systeme bezeichnen je nach konkreter Definition Computersysteme, die dank des Einsatzes von Künstlicher Intelligenz (KI) für einen in unterschiedlichem Grad autonomen Betrieb ausgelegt sind. Generative KI-Modelle erzeugen auf Grundlage von Nutzeranfragen (Prompts) neue Inhalte.

Die Verwendung von (generativer) KI in der Forschung birgt enorme Potentiale, auch und gerade für die Erfassung und Verarbeitung von Forschungsdaten. Viele KI-Systeme basieren auf maschinellem Lernen und können aufgrund statistischer Methoden zur Auswertung von großen Datenmengen herangezogen werden.
KI-Systeme haben jedoch auch Schwächen, die für Forschende Risiken bergen. KI-Systeme reflektieren ihre Datengrundlagen nicht (Gefahr von Bias), sie können nicht kritisch abwägen. Sie neigen zu sogenannten ,Halluzinationen‘: wenn sie keine passende Datengrundlage zur Beantwortung einer Anfrage finden, ‚denken sie sich eine Datengrundlage aus‘, ohne dies transparent zu machen.
Wird ein KI-System verwendet, so liegt die alleinige Verantwortung für die durch die KI generierten Daten bei dem*der Wissenschaftler*in. Dies gilt auch für mögliche Urheberrechts- oder Datenschutzverletzungen sowie die Verbreitung von Falschinformationen.

Eine genaue Einschätzung des Risikos in der Verwendung von KI in der Forschung wird dadurch erschwert, dass eine exakte rechtliche Regulierung derzeit noch aussteht. Das Urheberrecht und die europäische KI-Verordnung schaffen einen gewissen rechtlichen Rahmen. Die Gute Wissenschaftliche Praxis gibt den Forschenden de facto Regeln für den Umgang mit KI in Wissenschaft und Lehre und dezidiert auch im Umgang mit Forschungsdaten an die Hand. Die Verwendung von KI muss in jedem Fall gekennzeichnet werden (siehe unten KI und Gute Wissenschaftliche Praxis).