China veröffentlicht Leitlinien für den Umgang mit generativer KI in wissenschaftlicher Forschung

Das chinesische Ministerium für Wissenschaft und Technologie hat Leitlinien für den Einsatz generativer KI in der Wissenschaft herausgegeben. Diese Maßnahmen zielen darauf ab, die Entwicklung der generativen KI zu fördern und gleichzeitig Risiken zu minimieren.

Das chinesische Ministerium für Wissenschaft und Technologie hat vor kurzem Leitlinien zum Verhaltenskodex für die wissenschaftliche Forschung herausgegeben, die es verbieten, generative künstliche Intelligenz (KI) zur direkten Erstellung von Erklärungsmaterial zu verwenden oder als Mitautor von Ergebnissen aufzuführen. Experten erklärten am Mittwoch, dass die Leitlinien die gesunde Entwicklung der generativen KI fördern und potenzielle Risiken verhindern werden.

Die Leitlinien waren im Dezember 2023 herausgegeben worden, um Forschern, wissenschaftlichen Forschungseinrichtungen, Universitäten, medizinischen und Gesundheitseinrichtungen und anderen Einrichtungen bei der Durchführung verantwortungsvoller wissenschaftlicher Forschung eine Orientierungshilfe zu geben. Dem Ministerium zufolge sollen die Leitlinien entsprechend der technologischen Entwicklung zeitnah aktualisiert und veröffentlicht werden.

Die rasche Entwicklung neuer Technologien, einschließlich der Informationstechnologie (IT) und der KI, habe demnach neue Möglichkeiten für eine verantwortungsvolle Forschung eröffnet und zu einem tiefgreifenden Wandel im Bereich der wissenschaftlichen Forschung geführt. Sie könne jedoch auch neue Herausforderungen in Bereichen wie der Verarbeitung von Forschungsdaten, der Bildung von Forschungsergebnissen und der Zuweisung der Urheberschaft mit sich bringen, mahnte das Ministerium.

Der Leitfaden enthält deshalb Informationen darüber, wie generative KI in angemessener Weise eingesetzt werden kann, und deckt die Bereiche Forschungsimplementierung, Datenmanagement, Zurechnung und Veröffentlichung von Forschungsergebnissen ab.

Wenn Forscher Inhalte verwenden, die mit generativer KI generiert wurden - insbesondere wenn es sich um Fakten und Meinungen handelt -, sollten sie den Generierungsprozess kennzeichnen und erklären, um die Richtigkeit der Inhalte zu gewährleisten und das geistige Eigentum anderer zu respektieren, heißt es in den Leitlinien. Es sei nicht angebracht, durch KI generierte Inhalte von anderen Autoren als Primärliteratur zu zitieren. Falls es ausnahmsweise doch notwendig sein sollte, solche Inhalte zu zitieren, sollte deutlich darauf hingewiesen werden, dass sie von KI erstellt wurden, heißt es in den Leitlinien.

Die Einführung der Richtlinien sei nicht nur notwendig, sondern auch ein rechtzeitiger Schritt, um die gesunde Entwicklung der generativen KI zu fördern und zu gewährleisten, was potenzielle Risiken verringern könne, betonte Liu Dingding, ein in Beijing ansässiger Tech-Analyst, am Mittwoch gegenüber der Global Times. Die Leitlinien könnten zusammen mit der vorläufigen Verordnung über die Verwaltung generativer KI-Dienste die Branche besser regulieren. Insbesondere in Schlüsselbereichen wie der Medizin und der Justiz sollte die generative KI strenger reguliert werden, um die Sicherheit der Inhalte zu gewährleisten, so Liu.

Die chinesische Internetaufsichtsbehörde und mehrere andere Behörden hatten im Juli 2023 gemeinsam vorläufige Vorschriften für die Verwaltung generativer KI-Dienste erlassen, um die solide Entwicklung der generativen KI und ihrer Standardanwendungen zu fördern. Sie verlangen von den Dienstanbietern, dass sie die Verpflichtungen zur Online-Informationssicherheit erfüllen und unter anderem Vorkehrungen treffen, um zu verhindern, dass minderjährige Nutzer von generativen KI-Diensten abhängig werden.