Warum der Trend "Bring Your Own AI" große Probleme für Führungskräfte bedeuten könnte

Ihre Mitarbeiter werden die Sache selbst in die Hand nehmen, wenn Sie die generative KI nicht fest in den Griff bekommen. Hier erfährst du, wie du die Kontrolle zurückgewinnst.

Unternehmen aller Branchen wollen sich durch künstliche Intelligenz (KI) einen Wettbewerbsvorteil verschaffen, und Führungskräfte haben die Aufgabe, sicherzustellen, dass ihre Unternehmen über die Regeln und Vorschriften verfügen, um neue Technologien sicher und effektiv zu nutzen.

Keith Woolley, Chief Digital and Information Officer an der University of Bristol, ist ein digitaler Vorreiter, der seiner Organisation, einer der führenden akademischen Einrichtungen Großbritanniens, hilft, KI auf dem gesamten Campus einzuführen.

Bristol ist ein Vorreiter bei aufstrebenden Technologien, unter anderem ist es die Heimat von Isambard-AI, dem schnellsten Supercomputer Großbritanniens. Die Verbreitung von KI-Tools im gesamten Unternehmen wird jedoch nicht nur von leitenden Angestellten geleitet, die weltweit führende Forschungsaktivitäten beaufsichtigen.

Alltagsprofis nutzen KI

Während die Institution die Macht des Einsatzes von KI anerkennt, um Innovationen in allen akademischen Bereichen voranzutreiben, sagte Woolley gegenüber ZDNET, wie auch Menschen in Lehre, Verwaltung und Forschung neue Technologien nutzen.

Wie bei der Einführung von Cloud-Diensten in der Vergangenheit, sagte Woolley, dass Fachleute ihre eigenen Entscheidungen über neue Technologien treffen wollen, in einer Bewegung namens Bring Your Own AI (BYOAI).

"Es passiert", sagte Woolley, der darauf hinwies, dass die breite Akzeptanz der Cloud und die Eile der Anbieter, KI-gestützte Dienste anzubieten, bedeuten, dass neue Technologien ohne das Wissen der IT-Teams in Unternehmen eindringen können.

"Ich sehe es bereits, dass Abteilungen jetzt Tools entwickeln oder in die Institution einführen, weil jeder Anbieter, der Ihnen ein SaaS-System zur Verfügung stellt, KI darin einbindet."

Bring Your Own AI ist ein wachsender Trend

Auch andere Experten weisen auf BYOAI als wachsenden Trend hin. Eine Umfrage des MIT Center for Information Systems Research deutet darauf hin, dass der Trend dann auftritt, wenn Mitarbeiter ungeprüfte, öffentlich zugängliche KI-Tools der Generation für die Arbeit verwenden.

Woolley räumte ein, dass die heimliche Einführung von KI, sei es von Nutzern oder Anbietern, erhebliche Bedenken für sein Team und die Führungskräfte der Universität aufwirft.

"Bring Your Own AI ist eine Herausforderung", sagte er. "Es ist so, als ob früher Speicherplatz von Dropbox und anderen Cloud-Anbietern im Netzwerk angezeigt wurde. Die Leute dachten, sie könnten sich eine Kreditkarte besorgen und anfangen, Dinge zu teilen, was nicht toll ist."

Die Untersuchungen des MIT deuten darauf hin, dass Woolley berechtigt ist, Bedenken zu äußern. Obwohl generative KI-Tools vielversprechende Produktivitätssteigerungen bieten, bringen sie auch Risiken mit sich, darunter Datenverlust, Lecks an geistigem Eigentum, Urheberrechtsverletzungen und Sicherheitsverletzungen.

Woolley sagte, dass die größte Sorge von Bristol ein möglicher Kontrollverlust darüber ist, wie KI-gestützte SaaS-Dienste kommunizieren und welche Datenquellen sie teilen.

"Das System könnte unsere Daten, von denen wir glauben, dass sie sich in einer sicheren SaaS-Umgebung befinden, in einem öffentlichen KI-Modell ausführen."

Verbot von Gen-KI zur Risikominderung

Wie sollten Unternehmen also mit dem Aufstieg von BYOAI umgehen? Ein Ansatz wäre, dass Führungskräfte die KI der Generation verbieten.

Die Studie des MIT legt jedoch nahe, dass Führungskräfte offen für Gen AI bleiben und eine klare Anleitung geben sollten, um BYOAI in eine Innovationsquelle zu verwandeln.

Diese Meinung findet auch bei Woolley Anklang, der sagte, dass eine strenge Kontrolle der Anwendungsgrenzen der beste Weg ist, um BYOAI zu verwalten.

"Die Durchsetzung von Richtlinien ist eine Diskussion, die wir innerhalb unserer Organisation führen. Wir geben den Menschen Leitplanken für das, was sie tun können und was nicht", sagte er.

Er sagte, der Ausgangspunkt sei ein genehmigtes Instrumentarium, das darauf abzielt, die schleichende Einführung von KI zu kontrollieren.

Studierende wollen KI nutzen

Um den Kontext für diese Leitplanken zu schaffen, verbrachten leitende Angestellte in Bristol Zeit mit Studenten und fragten sie nach ihrer Meinung zum Einsatz von Gen AI in der Bildung.

"Das Gespräch drehte sich von der Frage, wie man KI zum Lernen einsetzen würde, bis hin zu Einschreibungen, Benotungen und allem anderen", sagte Woolley.

"Überraschend war, wie sehr sich die Studierenden wünschten, dass wir KI nutzen. Eines der Dinge, die von unseren Studenten klar gemacht wurden, war, dass sie auf dem Markt gegenüber anderen, die diese Möglichkeit bieten, benachteiligt werden, wenn wir ihnen nicht erlauben, KI zu nutzen."

Woolley verglich die Einführung von Gen AI mit dem aufkommenden Einsatz von Taschenrechnern im Klassenzimmer. Vor Jahrzehnten waren die Menschen besorgt, dass die Verwendung von Taschenrechnern eine Form des Betrugs ist.

Heute benutzt jeder Mathematikstudent Taschenrechner. Woolley erwartet eine ähnliche Entwicklung mit der Einführung von Gen AI.

"Wir werden unseren Lehrplan und die Fähigkeit, mit dieser Technologie zu lernen, überdenken müssen", sagte er.

"Wir müssen der nächsten Generation von Schülern beibringen, Informationen, die durch KI bereitgestellt werden, zu unterscheiden. Sobald wir das Stück knacken können, wird es uns gut gehen."

Woolley sagte, Bristol wolle die KI der Generation zu einem sorgfältig kontrollierten Element des Bildungsprozesses machen: "Wir haben deutlich gemacht, dass es bei KI darum geht, die Belegschaft, die Studenten und unsere Forscher zu unterstützen und, wo es praktisch und möglich ist, Dienstleistungen zu automatisieren."

Wichtige Überlegungen

Die Identifizierung des potenziellen Einsatzes von KI ist jedoch nur ein Ausgangspunkt. Er beschrieb die Kosten, die mit neuen Technologien verbunden sind, als einen Hockeyschläger; Investieren Sie zu viel oder lassen Sie die Benutzer ihre eigenen KI-Tools ohne strenge Regeln und Vorschriften mitbringen, und die Kosten können in die Höhe schnellen.

Woolley sagte, dass sich die leitenden Angestellten der Institution auf einige wichtige Überlegungen konzentrieren.

"Die erste Frage ist: 'Wie viel Scheitern wollen wir?' Denn KI ist im Moment eine Ratemaschine, und es ist eine dieser Situationen, in denen sie Annahmen auf der Grundlage der ihr zur Verfügung stehenden Informationen trifft. Wenn diese Informationen leicht fehlerhaft sind, erhalten Sie eine leicht fehlerhafte Antwort", sagte er.

"Wir schauen uns also an, welche Dienstleistungen wir anbieten können. Wir haben Richtlinien und Prozesse darum herum festgelegt, aber das ist ein lebendiges Dokument, weil sich alles so schnell ändert. Wir versuchen, den Wandel behutsam voranzutreiben."

Längerfristig erwartet Woolley, dass die Institution einen von drei Ansätzen verfolgen wird: Generative KI als Teil des Bildungssystems nutzen, Daten in bestehende Modelle einspeisen oder Sprachmodelle als eine Form der Wettbewerbsdifferenzierung entwickeln.

"Das ist die Debatte, die wir führen", sagte er. "Sobald der richtige Ansatz gewählt ist, kann ich Richtlinien erstellen, die darauf basieren, wie wir KI einsetzen."

Dieser Ansatz stimmt mit Roger Joys, Vice President of Enterprise Cloud Platforms beim Telekommunikationsunternehmen GCI in Alaska, überein. Wie das MIT und Woolley sagte er, dass Richtlinien und Prozesse entscheidend sind, um die KI der Generation ohne Risiken einzuführen.

Geprüfte und genehmigte KI-Modelle

"Ich würde mir wünschen, dass unsere Datenwissenschaftler eine kuratierte Liste von Modellen haben, die überprüft und genehmigt wurden", sagte er mit Blick auf den Aufstieg von BYOAI. "Dann können Sie sagen: 'Sie können aus diesen Modellen auswählen', anstatt einfach loszugehen und das zu verwenden, was ihnen gefällt oder was sie finden."

Joys sagte, dass erfolgreiche Führungskräfte den Hype durchbrechen und eine Richtlinie zur akzeptablen Nutzung schaffen, die es den Menschen ermöglicht, Herausforderungen zu meistern.

"Finden Sie die Business Cases", sagte er. "Bewegen Sie sich methodisch, nicht unbedingt langsam, sondern auf ein bekanntes Ziel zu, und lassen Sie uns den Wert von KI zeigen."