4 Möglichkeiten, Ihre größten Sorgen über generative KI zu überwinden

Generative KI mag magisch erscheinen, aber Sie müssen sich der Fallstricke bewusst sein. Vier Wirtschaftsführer erklären, wie Sie mit den Risiken umgehen können.

Generative künstliche Intelligenz (KI) ist für das ungeübte Auge magisch.

Von der Textzusammenfassung über die Erstellung von Bildern bis hin zum Schreiben von Code liefern Tools wie ChatGPT von OpenAI und Copilot von Microsoft in Sekundenschnelle scheinbar brillante Lösungen für anspruchsvolle Fragen. Allerdings können die magischen Fähigkeiten der generativen KI mit wenig hilfreichen Tricks einhergehen.

Ganz gleich, ob es sich um ethische Bedenken, Sicherheitsprobleme oder Halluzinationen handelt, Benutzer müssen sich der Probleme bewusst sein, die die Vorteile neuer Technologien untergraben können. Hier erklären vier Unternehmensführer, wie Sie einige der großen Probleme mit generativer KI überwinden können.

1. Nutzen Sie neue Chancen auf ethische Weise

Birgitte Aga, Leiterin für Innovation und Forschung am Munch-Museum in Oslo, Norwegen, sagt, dass viele Bedenken im Zusammenhang mit KI damit zusammenhängen, dass die Menschen ihre möglichen Auswirkungen nicht verstehen - und das aus gutem Grund.

Selbst ein hochkarätiges generatives KI-Tool wie ChatGPT ist erst seit etwas mehr als 12 Monaten für die Öffentlichkeit verfügbar. Während sich viele Menschen mit der Technologie beschäftigt haben, haben nur wenige Unternehmen das Tool in einer Produktionsumgebung eingesetzt.

Laut Aga sollten Unternehmen ihren Mitarbeitern die Möglichkeit geben, auf sichere Weise zu sehen, was neue Technologien leisten können. „Ich denke, dass es von entscheidender Bedeutung ist, die Hemmschwelle für alle zu senken, mitzumachen und mitzumachen“, sagt sie. „Aber das heißt nicht, es unkritisch zu machen.“

Aga sagt, dass Ihre Mitarbeiter bei der Diskussion darüber, wie KI eingesetzt werden kann, auch einige der großen ethischen Fragen berücksichtigen sollten, wie Voreingenommenheit, Stereotypisierung und technologische Einschränkungen.

In einem Videochat mit ZDNET erklärt sie, wie das Museum mit dem Technologiespezialisten TCS zusammenarbeitet, um Wege zu finden, wie KI dazu beitragen kann, Kunst einem breiteren Publikum zugänglicher zu machen.

„Mit TCS stimmen wir in jedem Meeting wirklich überein, wenn es um unsere Ethik und Moral geht“, sagt sie. „Finden Sie Mitarbeiter, mit denen Sie auf dieser Ebene wirklich übereinstimmen, und bauen Sie dann darauf auf, anstatt nur Leute zu finden, die coole Sachen machen.“

2. Bauen Sie eine Task Force auf, um Risiken zu mindern

Avivah Litan, renommierter VP-Analyst bei Gartner, sagt, dass eines der wichtigsten Probleme, die es zu beachten gilt, der Veränderungsdruck von Personen außerhalb der IT-Abteilung ist.

„Das Unternehmen will mit Volldampf voranschreiten“, sagt sie und verweist auf die Einführung generativer KI-Tools durch Fachleute im gesamten Unternehmen, mit oder ohne Zustimmung der Verantwortlichen. „Den Sicherheits- und Risikoleuten fällt es schwer, sich mit dieser Bereitstellung vertraut zu machen, den Überblick darüber zu behalten, was die Leute tun, und das Risiko zu bewältigen.“

Infolgedessen gibt es große Spannungen zwischen zwei Gruppen: den Menschen, die KI nutzen wollen, und den Menschen, die ihren Einsatz verwalten müssen.

„Niemand möchte Innovationen unterdrücken, aber die Sicherheits- und Risikoleute mussten sich noch nie mit so etwas auseinandersetzen“, sagt sie im Videochat mit ZDNET. „Obwohl es KI schon seit Jahren gibt, mussten sie sich bis zum Aufkommen der generativen KI über keine dieser Technologien wirklich Sorgen machen.“

Laut Litan besteht der beste Weg, Bedenken auszuräumen, darin, eine Task Force für KI einzurichten, die sich aus Experten aus dem gesamten Unternehmen zusammensetzt und Datenschutz, Sicherheit und Risiken berücksichtigt.

„Dann sind sich alle einig, kennen die Risiken, wissen, was das Modell leisten soll, und erzielen am Ende eine bessere Leistung“, sagt sie.

Laut Litan deuten Untersuchungen von Gartner darauf hin, dass zwei Drittel der Unternehmen noch keine Task Force für KI eingerichtet haben. Sie ermutigt alle Unternehmen, einen solchen geschäftsübergreifenden Kader zu bilden.

„Diese Task Forces unterstützen ein gemeinsames Verständnis“, sagt sie. „Die Leute wissen, was sie erwartet, und das Unternehmen kann mehr Wert schaffen.“

3. Fixieren Sie Ihre Modelle, um Halluzinationen zu reduzieren

Thierry Martin, Senior Manager für Daten- und Analysestrategie bei Toyota Motors Europe, sagt, seine größte Sorge im Zusammenhang mit generativer KI seien Halluzinationen.

Er hat solche Probleme aus erster Hand gesehen, als er generative KI für Codierungszwecke getestet hat.

Über persönliche Erkundungen hinaus müssen Unternehmen laut Martin auf die großen Sprachmodelle (LLMs) achten, die sie verwenden, auf die Eingaben, die sie benötigen, und auf die Ausgaben, die sie herausgeben.

„Wir brauchen sehr stabile große Sprachmodelle“, sagt er. „Viele der beliebtesten Models von heute sind in so vielen Dingen ausgebildet, zum Beispiel in Poesie, Philosophie und technischen Inhalten. Wenn man eine Frage stellt, ist die Tür für Halluzinationen offen.“

In einem persönlichen Videointerview mit ZDNET betont Martin, dass Unternehmen Wege finden müssen, zurückhaltendere Sprachmodelle zu schaffen.

„Ich möchte innerhalb der Wissensbasis bleiben, die ich bereitstelle“, sagt er. „Wenn ich dann mein Modell etwas Bestimmtes frage, bekomme ich die richtige Antwort. Daher würde ich gerne Modelle sehen, die stärker an die von mir bereitgestellten Daten gebunden sind.“

Martin ist daran interessiert, mehr über bahnbrechende Entwicklungen zu erfahren, wie etwa die Zusammenarbeit von Snowflake mit Nvidia, bei der beide Firmen eine KI-Fabrik aufbauen, die Unternehmen dabei hilft, ihre Daten in benutzerdefinierte generative KI-Modelle umzuwandeln.

„Zum Beispiel ist ein LLM, das sich perfekt für SQL-Abfragen von Python-Code eignet, etwas Interessantes“, sagt er. „ChatGPT und all diese anderen öffentlichen Tools sind gut für Gelegenheitsnutzer. Aber wenn Sie diese Art von Tool mit Unternehmensdaten verbinden, müssen Sie vorsichtig sein.“

4. Gehen Sie langsam voran, um die Erwartungen zu mildern

Bev White, CEO des Personalvermittlungsspezialisten Nash Squared, sagt, ihre große Sorge sei, dass die praktische Realität des Einsatzes generativer KI stark von der Vision abweichen könnte.

„Es gab einen großen Hype“, sagt sie im Videogespräch mit ZDNET. „Außerdem gab es viele Panikmacher, die behaupteten, Arbeitsplätze würden verloren gehen und KI würde Massenarbeitslosigkeit schaffen. Und es gibt auch alle Ängste hinsichtlich der Datensicherheit und des Datenschutzes.“

White sagt, es sei wichtig zu erkennen, dass die ersten 12 Monate der generativen KI von großen Technologieunternehmen geprägt waren, die darum kämpften, ihre Modelle zu verfeinern und zu aktualisieren.

„Diese Tools haben bereits viele Iterationen durchlaufen - und das ist kein Zufall“, sagt sie. „Menschen, die die Technologie nutzen, entdecken Vorteile, müssen aber auch auf Änderungen achten, wenn jede Iteration herauskommt.“

White rät CIOs und anderen Führungskräften, vorsichtig vorzugehen. Haben Sie keine Angst davor, einen Schritt zurückzutreten, auch wenn es sich anfühlt, als würden alle anderen nach vorne eilen.

„Ich denke, wir brauchen etwas Greifbares, das uns als Leitplanke dienen kann. Die CISOs in Organisationen müssen anfangen, über generative KI nachzudenken - und unsere Erkenntnisse deuten darauf hin. Außerdem muss die Regulierung mit dem Tempo des Wandels Schritt halten“, sagt sie.

„Vielleicht müssen wir etwas langsamer vorgehen, während wir herausfinden, was wir mit der Technologie machen sollen. Es ist, als würde man eine erstaunliche Rakete erfinden, aber nicht über die Stabilisatoren und Sicherheitssysteme verfügen, bevor man sie startet.“