Die KI-Transformation ist ein zweischneidiges Schwert. So vermeiden Sie die Risiken
Der CIO dieser bahnbrechenden Forschungsorganisation sagt, dass ein iterativer Ansatz für neue Technologien der beste Weg ist, um Vertrauen in generative KI aufzubauen.
Ein neues Jahr bedeutet einen neuen Fokus auf IT-Investitionen. Der Tech-Analyst Gartner prognostiziert, dass die weltweiten IT-Ausgaben im Jahr 2025 5,74 Billionen US-Dollar erreichen werden, was einem Anstieg von 9,3 % gegenüber 2024 entspricht. Der Analyst sagt, dass die Erforschung der generativen KI (Gen AI) dazu beitragen wird, diesen Anstieg voranzutreiben.
So verwenden Sie ChatGPT zum Schreiben:Lebensläufe|Excel-Formeln|Aufsätze|Anschreiben
Die meisten von uns werden sich inzwischen mit der KI der Generation beschäftigt haben. Egal, ob es darum geht, Text zu polieren, Fotos zu erstellen oder Code zu generieren, die Fähigkeiten der Technologie können sich wie Magie anfühlen.
Du musst deine Hypothese beweisen
James Fleming, CIO am Francis Crick Institute, ist jedoch eine digitale Führungspersönlichkeit, die sich von ihrem Unternehmen nicht vom Hype mitreißen lässt.
Er sagte ZDNET, dass es nicht einfach ist, neue Technologien zu nutzen, um revolutionäre wissenschaftliche Entdeckungen zu ermöglichen. Diese Herausforderung bedeutet, dass der Aufstieg der KI nicht zu einer großen Veränderung der Arbeitsmethoden in seiner weltweit führenden Forschungsorganisation geführt hat.
"Wissenschaftliche KI zu betreiben, im Gegensatz zur Erstellung öffentlich zugänglicher großer Sprachmodelle, ist eine ganz andere Disziplin. Sie arbeiten in einer eng begrenzten wissenschaftlichen Welt, in der Sie Ihre Hypothese beweisen müssen", sagte er.
"Es reicht nicht aus, zu sagen, dass man ein Modell auf den Markt gebracht hat, das fast richtig ist. Meistens muss es unter bestimmten Bedingungen genau richtig sein. Und man muss zeigen, dass man seine Arbeit auf ein grundlegendes Verständnis gründet."
Fleming bezeichnete den Einsatz von KI in der Wissenschaft als "zweischneidiges Schwert". Während neue Technologien dazu beitragen können, den Forschungsprozess zu beschleunigen, müssen alle neuen Schlussfolgerungen mit einem hohen Maß an Sicherheit generiert und präsentiert werden.
"Die Beweisbarkeit ist von entscheidender Bedeutung, insbesondere wenn man über etwas nachdenkt, das in einer Klinik oder als Medizinprodukt Auswirkungen auf die reale Welt haben kann", sagte Fleming.
"Wenn Sie zum Beispiel einem Kliniker eine Innovation vorlegen und sagen: 'Ich glaube, dieses Tool kann die Entwicklung von Krebs vorhersagen', wird er sagen: 'Kann es das? Zeig mir, warum.'"
Obwohl die Erklärbarkeit für die wissenschaftliche Forschung von entscheidender Bedeutung ist, steht sie im Widerspruch zu den Black-Box-Arbeitsmethoden und Halluzinationen vieler beliebter KI-Modelle.
Verwenden Sie einen iterativen Ansatz
Um aufkommende Technologieprozesse zu entmystifizieren, verwendet das Crick laut Fleming einen iterativen Ansatz, um seinen Forschern zu helfen, KI-Modelle selbstbewusst anzunehmen.
"Man muss langsam und schrittweise auf das Ziel hinarbeiten", sagte er. "Wir verfolgen einen viel fokussierteren Ansatz, der vom ersten Tag an Herkunft und Vertrauen aufbaut."
Der inkrementelle Ansatz von The Crick hilft Forschern, KI-Modelle auf zwei Arten einzusetzen.
Erstens, die Verbesserung bestehender wissenschaftlicher Methoden. Fleming sagte, das Institut habe hier vor fünf Jahren seine Arbeit in der Mikroskopie begonnen.
Die Mikroskopieanlage des Crick analysiert kryogene Elektronen und erzeugt unglaublich dichte und schöne Bilder von Geweben, Zellen und einzelnen Molekülen.
Ein schönes Bild zu produzieren, ist jedoch nur der Ausgangspunkt. Das Bild muss in Daten umgewandelt werden, z. B. in Details, die helfen können, die Unterschiede zwischen einer Krebszelle und einer nicht krebsartigen Zelle zu zeigen.
Flemings Team hat iterativ gearbeitet, um zu beweisen, dass die richtigen Modelle schneller bahnbrechende Forschungsergebnisse hervorbringen können.
"KI-Modelle können einen Großteil der Routinearbeit für Sie erledigen, wie z. B. die Merkmalsanalyse und -extraktion und die Umwandlung eines Bildes in Daten, mit denen Sie arbeiten können, um Verständnis abzuleiten", sagte er.
Der zweite Bereich, in dem Crick KI einsetzt, befindet sich in einem Discovery-Kontext, aber in einem eng begrenzten Kontext.
Fleming nannte das Beispiel der Arbeit eines Labors über Parkinson. Das Forschungsteam entwickelte einen Klassifikator, der identifizieren konnte, welche Patienten die Krankheit in einer Population von Stammzellen hatten. Die Forscher konnten jedoch nicht erklären, warum - also arbeiteten sie iterativ rückwärts.
"Nachdem wir das Modell trainiert hatten, gab es einen Prozess der umgekehrten Befragung dieses Modells mit verschiedenen statistischen Methoden, um zu sagen: 'Eigentlich ist das Dominierende die Elliptizität der Zelle. Sie sind ovaler. Und es gab auch eine ganze Reihe anderer Merkmale, die das Modell dann extrahiert hat."
Er sagte, dass diese Ergebnisse für sich genommen nicht die Antwort sind, aber sie führen zur nächsten Fragestellung: "OK, die Zellmorphologie ist anders. Warum ist das so? Was ist unsere nächste Experimentierrunde?' Und hier kommt das iterative Stück ins Spiel."
Testen und verfeinern
Fleming sagte, dass der sorgfältige Prozess des schrittweisen Testens und Verfeinerns von KI-Technologien nun zu einem ausgefeilteren Ansatz führt, bei dem mehrere KIs zusammengebracht werden, um vertrauenswürdige Forschungsprogramme zu unterstützen.
Das größte Projekt wird von Samra Turaljic geleitet, deren Cancer Dynamics Laboratory sich darauf konzentriert, zu verstehen, wie sich Nierenkrebs entwickelt.
Das Team nutzt KI, um die genomische Entwicklung eines Tumors anhand von Pathologiebildern vorherzusagen. Fleming sagte, dass diese Bemühungen das Training mehrerer KIs und das Cross-Training von Modellen mit genomischen Datenbanken umfassten, die sich über 10 Jahre Forschung erstrecken.
"Das Ergebnis ist, dass Sie etwas schaffen, das die Entwicklung der Niere klinisch vorhersagen kann", sagte er.
"Aber in jedem dieser Prozesse baut man sowohl akribisch eine Unterkomponente auf, bis zu dem Punkt, an dem man ihr vertrauen kann, und man arbeitet sich auch durch Schichten und Schichten von Daten und kommt dabei immer näher an die reale Bevölkerungsskala."
Fleming sagte, dass dieser superdetaillierte Ansatz wichtig ist, da die Ergebnisse durch biologische und akquisitionsbedingte Variationen beeinflusst werden können, wie z. B. unterschiedliche Intensitäten einer Färbung auf einem pathologischen Objektträger.
Dieser stufenweise Prozess beweist, dass der Schlüssel zu schnelleren Ergebnissen durch KI langfristig darin besteht, kurzfristig langsam und methodisch zu arbeiten.
Das ist eine Perspektive, von der wir alle im Zeitalter der KI lernen können, in dem die Übertreibung der Anbieter suggeriert, dass brillante Lösungen für hartnäckige Herausforderungen nur einen Klick entfernt sind.
"Wir beginnen mit einem kleinen Datensatz, verstehen ihn, machen ihn prägnant und funktionsfähig und bringen mehr Daten ein", sagt Fleming.
"Wenn wir dann weitere Daten hinzufügen, verfeinern wir das Modell erneut. Dieser iterative Prozess ist von entscheidender Bedeutung, denn wenn man ihn nicht tut, baut man nicht das Verständnis und die Herkunft auf."