Können synthetische Daten die Datenschutzbedenken der KI lösen? Darauf setzt dieses Unternehmen

Mostly AI hat einen synthetischen Texthersteller auf den Markt gebracht, um Kundeninformationen zu schützen. Wie es funktioniert und ob man sich Sorgen über den Zusammenbruch des Modells machen muss.

Da immer mehr Unternehmen in generative KI (Gen AI) für maßgeschneiderte Anwendungsfälle und Produkte investieren, werden proprietäre Daten für das Training großer Sprachmodelle (LLMs) immer wichtiger. Im Gegensatz zu ChatGPT, das anhand von Milliarden öffentlicher Datenpunkte - E-Mails, Skripte, soziale Medien, Papiere - aus dem Internet trainiert wurde, muss KI der Enterprise-Generation oft auf die Kundendaten des Unternehmens abgestimmt werden.

Allerdings können Daten von echten Kunden personenbezogene Daten (PII) enthalten, was ihre Verwendung zu einem Datenschutzrisiko macht. Hier kommt das Unternehmen Mostly AI, ein Unternehmen für strukturierte synthetische Daten, ins Spiel.

Am Dienstag führte das Unternehmen eine Funktion für synthetischen Text ein, die den Prozess der Generierung synthetischer Daten automatisiert und die Muster des ursprünglichen Datensatzes des Benutzers beibehält.

Durch die Verwendung synthetischer Daten zum Trainieren von Modellen möchte Mostly AI Unternehmen dabei helfen, Risiken für den Datenschutz zu vermeiden, ohne auf die Erkenntnisse zu verzichten, die Kundendaten wie E-Mails, Supportprotokolle und Chatbot-Austausche liefern können. Nach Angaben des Unternehmens können synthetische Daten auch eine größere Vielfalt darstellen als Originaldaten.

Über den Datenschutz hinaus umfassen weitere Anwendungsfälle die Neuausrichtung eines Datensatzes, um ihn an ein Modell anzupassen oder Verzerrungen zu beseitigen, sowie die Generierung von Scheindaten für Softwaretests.

Wie es funktioniert

Unternehmen laden ihre proprietären Datensätze auf Mostly AI-Generatoren hoch, bei denen es sich um datenschutzgeschützte, wiederverwendbare Pakete handelt, die Metadaten aus den Originaldaten enthalten. Benutzer können Daten von ihrem lokalen Gerät oder einer anderen externen Quelle hochladen und ihren Generator auf der Plattform von Mostly AI optimieren.

Hauptsächlich die Plattform von AI, gezeigt in einer an ZDNET gesendeten Demo

Sobald sie die korrekten Konfigurations- und Kodierungstypen bestätigt haben, wählen Benutzer aus den Mostly AI-Modellen aus, die sie verwenden möchten, und wählen dann aus mehreren Sprachmodellen, einschließlich vorab trainierter Optionen von HuggingFace.

Es entsteht eine datengeschützte, synthetisierte Version der Daten, die ihre ursprünglichen statistischen Muster beibehält.

Modellauswahl

Dieses Setup hilft beim Trainieren des Generators eines Unternehmens. Benutzer können dann mithilfe der Modellberichte synthetische und tatsächliche Daten vergleichen, um die Genauigkeit sicherzustellen.

Laut Mostly AI sehen seine Datensätze „genauso echt aus wie die ursprünglichen Kundendaten eines Unternehmens mit ebenso vielen Details, aber ohne die ursprünglichen personenbezogenen Datenpunkte - und helfen Unternehmen dabei, Datenschutzbestimmungen wie DSGVO und CCPA einzuhalten.“ Das Unternehmen fügte hinzu, dass sein synthetischer Text „eine Leistungssteigerung von bis zu 35 % im Vergleich zu Text bietet, der durch die Eingabeaufforderung GPT-4o-mini generiert wurde und entweder keine oder nur wenige Beispiele aus der Praxis liefert.“

Sind synthetische Daten also wirklich die Zukunft der KI?

Ein Bericht von Gartner vom April stellte fest, dass synthetische Daten ein ungenutztes Potenzial in der Softwareentwicklung haben, empfiehlt jedoch, dass sie sorgfältig eingesetzt werden müssen. Die Erstellung synthetischer Daten kann ressourcenintensiv sein, da für deren effektive Nutzung spezifische Testphasen für jeden Anwendungsfall erforderlich sind.

„Heute erreicht das KI-Training ein Plateau, da Modelle öffentliche Datenquellen erschöpfen und sinkende Erträge erzielen“, sagte Tobias Hann, CEO von Mostly AI, in der Pressemitteilung. „Um hochwertige, proprietäre Daten zu nutzen, die einen weitaus größeren Wert und Potenzial bieten als die restlichen öffentlichen Daten, die derzeit verwendet werden, müssen globale Unternehmen den Sprung wagen und sowohl strukturierte als auch unstrukturierte synthetische Daten nutzen, um künftige generative KI-Lösungen sicher zu trainieren und einzusetzen.“ "

Eine häufige Sorge besteht darin, dass die KI-Blase kurz vor dem Platzen steht, teilweise weil den Modellen die öffentlich verfügbaren Daten zur Aufnahme ausgehen. Auch wenn das technisch gesehen nicht stimmt - jede menschliche Aktivität kann aus Daten bestehen, sie kann einfach nicht kodiert, gesammelt, strukturiert und kostenlos sein -, besteht ein realer Bedarf an besser nutzbaren Daten zum Trainieren von Modellen. Schließlich ist es viel einfacher (und billiger), synthetische Daten wirklich gut zu generieren, als unordentliche Seiten mit handgeschriebenen Notizen zu digitalisieren. EvenMeta nutzte sowohl menschliche als auch synthetische Daten, um Llama 3.1 405B zu trainieren.

Aber was ist mit dem Modellkollaps - der Idee, dass Modelle sich verschlechtern, sobald sie zu viele synthetische Daten aufgenommen haben?

Mostly AI sagte in einer E-Mail an ZDNET, dass es diese Möglichkeit vermeidet, weil „die synthetischen Daten einmal generiert und direkt auf nachgelagerte Aufgaben angewendet werden“ und nicht zum wiederholten Trainieren der Modelle verwendet werden.

Es bleibt abzuwarten, ob die zunehmende Nutzung synthetischer Daten in allen Branchen zu einer größeren Gefahr eines Modellkollapses führt. Bis dahin können Unternehmen, die sich für das Tool von Mostly AI interessieren, die Website besuchen.