Das zeigt eine neue Studie Große Sprachmodelle wie ChatGPT weisen bei der Beantwortung biologischer Fragen eine besorgniserregende Tendenz auf. Die Forscher Anja Geitmann und Amir Bidhendi fanden heraus, dass die Antworten von ChatGPT auf Fragen zur Zellbiologie und anderen Bereichen der Biologie Tierbeispiele stark begünstigten, während die Pflanzenbiologie oft vernachlässigt wurde. Dieses Phänomen offenbart eine Art „Pflanzenblindheit“ im KI-System, die an die allgemeine Tendenz erinnert, dass die Pflanzenbiologie in der Biologieausbildung und -forschung unterrepräsentiert ist.

Die Forscher stellten ChatGPT-Fragen zu Themen wie Zellkomponenten, Zytokinese und Organzellbiologie. Während in einigen Antworten pflanzliche Unterschiede erwähnt wurden, ging es in vielen Antworten nur um tierische Zellen und Prozesse. Diese variable und voreingenommene Leistung zeigt, dass diesen KI-Modellen das vielfältige biologische Wissen fehlt, das erforderlich ist, um solche Fragen zuverlässig zu beantworten.

Dies ist wichtig, da Tools wie ChatGPT zunehmend für Bildungs- und Forschungszwecke eingesetzt werden. Wenn die Systeme falsche Vorstellungen verbreiten oder sich der Tierbiologie zuwenden, könnte sich dies negativ auf das Lernen und den wissenschaftlichen Fortschritt in Bereichen wie der Pflanzenbiologie auswirken. Forscher warnen davor, dass Experten in die Auswertung von Trainingsdaten und Antworten von KI-Systemen einbezogen werden müssen, um eine Aufrechterhaltung von Vorurteilen zu vermeiden.

Testen des biologischen Wissens von ChatGPT

In ihrer Studie haben Geitmann und Bidhendi das ChatGPT-Modell direkt abgefragt, um dessen Wissen über biologische Konzepte und die Einbeziehung von Pflanzenbeispielen zu bewerten. Sie stellten ChatGPT Fragen zu Themen wie Zellkomponenten, Zellteilung, Spermienfunktion und Organzellbiologie. Die Autoren formulierten diese Fragen so, dass sie für alle eukaryotischen Organismen relevant sind, nicht nur für Tiere.

Nachdem sie die Antworten von ChatGPT erhalten hatten, analysierten die Forscher sie auf Erwähnungen der Pflanzenbiologie und ordneten ihnen „Pflanzenbewusstseinswerte“ zu. Die Ergebnisse waren sehr gemischt. In einigen Fällen, etwa bei der Erklärung von Zellkomponenten, erwähnte ChatGPT Pflanzenunterschiede wie Vakuolen und Turgordruck. Aber in vielen anderen Antworten ging ChatGPT nur auf tierische Zellen und Prozesse ein und ignorierte die Pflanzenbiologie völlig.

Auf die Frage, wie sich Organe beugen und Kräfte ausüben können, beschrieb ChatGPT beispielsweise ausschließlich tierische kontraktile Proteine ​​wie Aktin und Myosin – ohne die Schwellung pflanzlicher Zellwände oder Änderungen des Turgordrucks zu erwähnen. Diese Variable und das geringe „Pflanzenbewusstsein“ in den Antworten von ChatGPT offenbaren Lücken in seinem biologischen Wissen.

Tierbezogene Antworten von ChatGPT

Die Forscher nennen mehrere Beispiele, bei denen die Antworten von ChatGPT eine Tendenz zur Tierbiologie zeigten:

  • Auf die Frage: „Wie trennt die Zytokinese das Zytoplasmavolumen?“ ChatGPT diskutierte zunächst den Prozess des kontraktilen Rings bei Tieren. Schließlich wurde die Bildung pflanzlicher Zellplatten erwähnt, allerdings erst nachdem die tierische Zytokinese ausführlich beschrieben wurde.
  • Bei „Wie können Spermien zur Eizelle gelangen?“ konzentrierte sich ChatGPT ausschließlich auf das Schwimmen auf der Basis von Tiergeißeln und erwähnte niemals pflanzliche Pollenschläuche, es sei denn, es wurde ausdrücklich dazu aufgefordert, über die Befruchtung von Pflanzen zu sprechen.
  • Auf die Frage: „Wie können Zellen gegen den Turgordruck endozytieren?“ ChatGPT hat fälschlicherweise behauptet Pflanzenzellwände unterstützen die Endozytose, indem sie dem Turgordruck widerstehen. Die Autoren stellen fest, dass dieser „schwerwiegende konzeptionelle Fehler“ die Pflanzenzellbiologie falsch darstellt.
  • Auf die Frage „Wie kann sich das Organ eines lebenden Organismus biegen und Kräfte ausüben?“ ChatGPT diskutierte ausschließlich tierische kontraktile Proteine. Wie die Forscher anmerken, wurden Turgordruck oder Zellwandveränderungen, die pflanzliche Organbewegungen ermöglichen, nicht erwähnt.

Diese Beispiele verdeutlichen die unterschiedliche, aber häufige Tendenz von ChatGPT zu tierzentrierten Antworten, auch wenn Fragen allgemeiner auf andere Organismen anwendbar sind. Die Autoren argumentieren, dass dies Lücken in den Trainingsdaten von ChatGPT aufdeckt, die problematische Missverständnisse verbreiten.

Auswirkungen der Pflanzenblindheit von ChatGPT

Die Forscher argumentieren, dass die voreingenommenen und manchmal falschen Antworten von ChatGPT besorgniserregende Auswirkungen haben:

  • Die tierbezogenen Antworten der KI könnten Laien bei der Suche nach biologischen Informationen in die Irre führen. Falsche Erklärungen, etwa wie pflanzliche Zellwände die Endozytose unterstützen, den Prozess, bei dem Material in die Zelle transportiert wird, könnten falsche Vorstellungen verbreiten.
  • Diese Tendenz spiegelt das Gesamtbild wider „Pflanzenblindheit“ das durchdringt bereits die Biologieausbildung und -forschung. Tiere werden tendenziell unverhältnismäßig stark in den Fokus gerückt, wodurch die Pflanzenbiologie an den Rand gedrängt wird.
  • Da generative KI-Systeme wie ChatGPT zunehmend für Bildungs- und Forschungszwecke eingesetzt werden, könnten diese Vorurteile das Ungleichgewicht verschlimmern. Wenn KI tierzentrierte Ansichten propagiert, könnte sie pflanzenbiologische Perspektiven weiter ausschließen.

Biologielehrbücher und wissenschaftliche Fachzeitschriften orientieren sich bereits an Tierbeispielen. Wenn voreingenommene KI-Systeme zu einem gängigen Werkzeug für Studierende und Forscher werden, könnten sie die Vernachlässigung der Pflanzenbiologie noch verstärken und Fehlinformationen über grundlegende biologische Konzepte verbreiten. Entsprechend unterschiedliche KI-Reaktionen sind entscheidend für ein umfassendes, unvoreingenommenes Verständnis der Biologie.

Warum Pflanzenvielfalt in der KI wichtig ist

Wenn großen Sprachmodellen wie ChatGPT Beispiele aus der Pflanzenbiologie fehlen, kann dies schädliche Vorurteile aufrechterhalten und Fehlinformationen verbreiten. Ein breites, vielfältiges Wissen ist für KI-Systeme, von denen erwartet wird, dass sie maßgebliche Quellen für die Biologie sind, von entscheidender Bedeutung.

Vorurteile zur Pflanzenblindheit welche Informationen und Perspektiven in der Biologieausbildung und -forschung geteilt werden. Wenn KI diese Vorurteile nachahmt und verstärkt, tut sie der Vielfalt der Biologie keinen Gefallen. Die Pflanzenbiologie bietet klare und aufschlussreiche Beispiele für biologische Konzepte und Prozesse. Wenn man dies vernachlässigt, wird das Verständnis beeinträchtigt.

Die Ideen eines Studenten verpasst etwas, wenn sie Pflanzen ignorieren könnte riesig sein. Beispielsweise wurden sowohl Chromosomen als auch zirkadiane Rhythmen erstmals bei Pflanzen beobachtet.

Empfehlungen zur Verbesserung der KI-Vielfalt

Geitmann und Bidhendi geben einige Empfehlungen zur Verbesserung des Verständnisses der Pflanzenbiologie durch KI. Nach dem Prinzip GIGO – Garbage In, Garbage Out diskutieren sie, welche Informationen in die Modelle einfließen. Sie gehen davon aus, dass die Modelle deutlich hilfreicher werden, wenn sie mit „geeignetem Schulungsmaterial“ gefüttert werden. Sie schreiben auch, dass der richtige Umgang mit der Ausgabe wichtig sei. Sie schreiben:

Die Herausforderung besteht darin, dass KI-Systeme durch Verstärkung und Bestätigung des Benutzers lernen. Aufgrund der relativen Größe der biomedizinische Forschung Feld- versus Pflanzenwissenschaften: Verschiedene Antworten mit hohen „PAScores“ werden möglicherweise nicht häufig genug verstärkt, um eine konsistente Diversität in der Antwort sicherzustellen. Die Strukturierung der Art und Weise, wie auf Verstärkung basierendes Lernen durchgeführt wird, wird von entscheidender Bedeutung sein, und die Einbeziehung von Fachexperten in die Validierung des Prozesses wird von wesentlicher Bedeutung sein – wie in einem nachdenklichen Artikel von hervorgehoben van Dis et al. [2023]..

Geitmann & Bidhendi 2023.

Die Notwendigkeit einer vielfältigen, unvoreingenommenen KI

Diese Studie von Geitmann und Bidhendi betont die Bedeutung der Experten- und Benutzerbewertung, um Einschränkungen in bestehenden KI-Systemen zu identifizieren. Mit gewissenhaftem Feedback können die Vorurteile erkannt und durch die Erweiterung der Trainingsdatenvielfalt und die Feinabstimmung der Modellarchitekturen angegangen werden.

Was in der Arbeit nicht untersucht wird, ist die praktische Frage Wer soll die notwendigen Schulungen bezahlen? Die CEOs der verschiedenen KI-Unternehmen werden beobachtet haben, dass viele andere Unternehmen ihr Vermögen dadurch gemacht haben, dass sie andere Menschen umsonst arbeiten ließen.

Es ist schwer, hier nicht gezielt auf wissenschaftliche Verlage zu blicken – ich möchte jedoch darauf hinweisen, dass die Annals of Botany Das Unternehmen, das diese Website finanziert, ist gemeinnützig. Die Mitglieder der Gesellschaft beziehen kein Gehalt.

Während eine unvoreingenommenere, kollaborativere KI das kollektive biologische Wissen und Verständnis der Menschheit bereichern könnte, wird sie viel Aufräum- und Wartungsaufwand erfordern.

LESEN SIE DEN ARTIKEL
Geitmann, A. und Bidhendi, AJ (2023) „Pflanzenblindheit und Diversität in KI-Sprachmodellen" Trends in Plant Science. Verfügbar unter: https://doi.org/10.1016/j.tplants.2023.06.016.