Wie steht die Wissenschaft zum Einsatz von Chatbots?

Ziel des Surveys war es zu bewerten, wie Forschende KI-Chatbots verwenden und welche potenziellen Vorteile beziehungsweise Grenzen sie bei deren Nutzung in der Forschung sehen. Hier gibt es aus Sicht der Autorinnen und Autoren der Studie bisher Wissenslücken: „Trotz zunehmender Klarheit der veröffentlichenden Organisationen über den Einsatz von KI-Chatbots ist die Wahrnehmung der Forscher nach wie vor weniger bekannt.“

Die Online-Umfrage wurde an 61.560 Wissenschaftlerinnen und Wissenschaftler versendet und lief vom 9. Juli bis zum 11. August 2023. Zulässige Antworten kamen von 2.165 Teilnehmenden.

Aus den Rückmeldungen geht unter anderem hervor, dass 60,5 Prozent der Befragten mit KI-Chatbots vertraut waren. Die meisten verwendeten nach eigenen Angaben ChatGPT (65,6 Prozent). Aber: Weniger als die Hälfte (44,5 Prozent) der Forschenden antwortete, dass sie KI-Chatbots im Zusammenhang mit ihrer wissenschaftlichen Arbeit nutzten. 55,5 Prozent sagten, sie hätten noch nie einen KI-Chatbot in diesem Kontext verwendet. 37 Prozent der Teilnehmerinnen und Teilnehmer hielten dies jedoch zukünftig für wahrscheinlich und 21,1 Prozent für sehr wahrscheinlich.

Auch das fand die Umfrage heraus: Bei 77,2 Prozent der Befragten sei das Verständnis für den Entscheidungsfindungsprozess der KI unzureichend. Dazu passt, dass nur 11,4 Prozent angaben, in ihrer Institution zum Thema KI-Tools geschult worden zu sein. Jeweils knapp 70 Prozent berichteten das Gegenteil und bekundeten Interesse an weiteren Fortbildungen.

„Das Fehlen von Schulungen und Richtlinien gibt Anlass zur Sorge um die Integrität der Forschung“, heißt es in diesem Zusammenhang in der Studie. Viele Zeitschriften verlangten inzwischen, dass der Einsatz von KI offengelegt werden müsse. Dennoch würden nicht deklarierte ChatGPT-unterstützte Manuskripte in Fachzeitschriften mit Peer-Review veröffentlicht. „Diese Tatsache deutet auf das Fehlen wirksamer Schutzinstrumente oder -mechanismen für die Erkennung von KI-generiertem Material im Peer-Review-Verfahren hin und darauf, dass die Integrität der Forschung bereits gefährdet sein könnte“, mahnen die Autorinnen und Autoren im Lancet-Artikel.

Im Rahmen der Umfrage bewerteten die Teilnehmenden die Vorteile von KI-Chatbots auf einer Fünf-Punkte-Skala, die von „stimme überhaupt nicht zu“ bis „stimme voll zu“ reichte. Zu den Vorteilen von KI-Chatbots, denen die meisten zustimmten beziehungsweise stark zustimmten, gehörten:

• erhöhte Effizienz und Geschwindigkeit der Datenanalyse (52,9 Prozent),

• Verringerung der Arbeitsbelastung und des Verwaltungsaufwands (66,9 Prozent),

• ständige Verfügbarkeit und Zugänglichkeit von wissenschaftlichen Informationen und Hilfestellungen (55,7 Prozent),

• effektivere Handhabung und Analyse großer Datenmengen (56,1 Prozent),

• kostengünstige Durchführung wissenschaftlicher Forschung (50,4 Prozent),

• verbesserte Qualität und Effizienz der wissenschaftlichen Kommunikation (51,9 Prozent).

Aus Sicht der Forscherinnen und Forscher bestehen potenzielle Herausforderungen beim Einsatz von KI-Chatbots in der Wissenschaft unter anderem in diesen Zusammenhängen:

• Verzerrung von Daten (71,9 Prozent),

• ethische und rechtliche Bedenken (76,8 Prozent),

• fehlende Rechenschaftspflicht (73 Prozent),

• fehlende Transparenz (75,7 Prozent),

• unzureichendes Verständnis darüber, wie KI-Chatbots Entscheidungen treffen und Antworten generieren (77,2 Prozent),

• unzureichende Fähigkeit, die Nuancen und die Komplexität des menschlichen Denkens und Argumentierens zu erfassen (76,4 Prozent),

• Datenschutz- und Sicherheitsbedenken (72,9 Prozent).

Vor allem mit Blick auf die potenziellen Schwächen von Chatbots als Tools im wissenschaftlichen Prozess kommen die Autorinnen und Autoren der Studie zu dem Schluss. „Unsere Studie unterstreicht den dringenden Bedarf an verbesserten Unterstützungsstrukturen und Bildungsinitiativen, um die effektive Integration von KI-Chatbots in wissenschaftliche Arbeitsabläufe zu erleichtern.“