Website-Suche

Laut FTC hat das KI-Unternehmen Evolv seine Sicherheitsscanner „fälschlicherweise gehypt“.

Die Scanner von Evolv funktionieren nicht so gut, wie die Schulen vermuten ließen. Hier erfahren Sie, was das für die Sicherheit von Kindern bedeutet.

Unternehmen mit künstlicher Intelligenz (KI) sind kein Unbekannter darin, die Fähigkeiten ihrer Produkte zu verschönern - und wenn es um die öffentliche Sicherheit geht, können die Folgen tödlich sein.

Evolv Technologies behauptete, seine KI-gestützten Sicherheitsscanner würden die öffentliche Sicherheit verbessern, indem sie Waffen an verschiedenen Orten erkennen, auch in Schulen. Doch die Federal Trade Commission (FTC) kam zu einem anderen Schluss.

Letzte Woche schlug die FTC einen Vergleich mit Evolv Technologies vor, weil das Unternehmen die Fähigkeit seines KI-gestützten Sicherheitssystems, Waffen zu erkennen und „harmlose persönliche Gegenstände zu ignorieren“, überbewertet habe - insbesondere in Schulumgebungen. Die berührungslosen Systeme von Evolv scannen Personen, wenn sie einen Raum betreten, ohne dass eine manuelle Suche nach Taschen oder Taschen erforderlich ist.

In einem Beitrag auf Sie stellte fest, dass die Scanner bei harmlosen Gegenständen wie Wasserflaschen und Ordnern Alarm auslösten, Waffen jedoch nicht identifizierten.

Laut The Intercept wurde der ehemalige Evolv-Chef Peter George im Juni 2022 auf einer Investorenkonferenz gefragt, „ob das Unternehmen die tragische Schießerei in einer Schule in Uvalde, Texas, gestoppt hätte, bei der 19 Schüler und zwei Lehrer getötet wurden.“

George antwortete: „Wenn jemand unser System durchsucht und er eine versteckte Waffe oder eine offene Waffe hat, werden wir sie finden, Punkt.“

Trotz der Erklärung von Georges kam es laut Intercept in Dutzenden von Schulbezirken, die Millionen in Waffenerkennungstechnologie ausgaben, zu Fällen, in denen Evolvs-Systeme Waffen nicht erkannten, was zu rechtlichen und behördlichen Überprüfungen führte. Im Jahr 2023 kündigten fünf Anwaltskanzleien Untersuchungen zu Evolv-Technologien wegen möglicher Verstöße gegen das Wertpapierrecht an und behaupteten, dass „Evolv Investoren über die Fähigkeiten seiner Waffendetektoren in die Irre geführt hat“.

Darüber hinaus reichten die Aktionäre von Evolv eine Sammelklage gegen das Unternehmen ein und argumentierten, dass die Marketingaussagen des Unternehmens die Wirksamkeit der Technologie übertrieben hätten.

Die Probleme hören hier nicht auf. Trotz dieser rechtlichen, behördlichen und internen Unruhen startete der New Yorker Bürgermeister Eric Adams ein dreimonatiges Pilotprogramm, das die KI-Scanner in New Yorker U-Bahnen einsetzen sollte. Dieselben Scanner waren bereits zuvor im Jacobi Medical Center im Einsatz, wo sie laut der New Yorker Nachrichtenagentur Hell Gate Berichten zufolge eine große Anzahl falsch positiver Ergebnisse auslösten.

Es ist üblich, dass KI-Systeme mit der Zeit besser werden, da Modelle umso genauer werden können, je mehr Daten sie sammeln. Bei Evolv war das nicht der Fall. Im Verlauf des Pilotprogramms wurden die KI-Scanner „nicht genauer - es gab keinen einzigen Monat, in dem das Verhältnis von Alarm zu Besuchern unter 25 Prozent fiel“, berichtete Hell Gate.

Weitere Berichte ergaben, dass die Scanner eine „Falsch-Positiv-Rate von 95 Prozent“ aufwiesen und dass nur 0,45 Prozent der Alarme von Waffenträgern ausgelöst wurden, die nicht zu den Strafverfolgungsbehörden gehörten.

Was das für die Schulsicherheit bedeutet

Am Mittwoch hat Evolv Technologies eine Einigung mit der FTC erzielt, um die Untersuchung seiner früheren Marketingansprüche zu klären. Einem FTCblog-Beitrag zufolge würde die vorgeschlagene Vergleichsanordnung Evolv daran hindern, „unbegründete Behauptungen über die Fähigkeit seiner Produkte aufzustellen, Waffen mithilfe künstlicher Intelligenz zu erkennen“. Außerdem müsste Evolv „bestimmte K-12-Schulkunden darüber informieren, dass sie sich für die Kündigung von Verträgen entscheiden können, die zwischen dem 1. April 2022 und dem 30. Juni 2023 unterzeichnet wurden“, was eine mehrjährige Laufzeit haben kann.

Samuel Levine, Direktor des Bureau of Consumer Protection, erklärt im Blog: „Die FTC hat deutlich gemacht, dass Behauptungen über Technologie - einschließlich künstlicher Intelligenz - untermauert werden müssen, und das ist besonders wichtig, wenn diese Behauptungen die Sicherheit betreffen.“ von Kindern."

Mike Ellenbogen, Interimspräsident und CEO von Evolv Technology, erklärte in der Pressemitteilung des Unternehmens, dass es bei der FTC-Untersuchung um frühere Marketing-Sprachen ging und nicht um die Fähigkeit unseres Systems, einen Mehrwert für Sicherheitsabläufe zu schaffen. Das Unternehmen wies außerdem darauf hin, „dass die Behörde weder die grundlegende Wirksamkeit der Technologie des Unternehmens in Frage gestellt noch finanzielle Erleichterungen gefordert hat.“

Die vorgeschlagenen Vergleiche verbieten es Evolv außerdem, falsche Behauptungen oder falsche Darstellungen zu folgenden Punkten aufzustellen:

  • „Die Fähigkeit seiner Produkte, Waffen zu erkennen, harmlose persönliche Gegenstände zu ignorieren und harmlose persönliche Gegenstände zu ignorieren, ohne dass Besucher solche Gegenstände aus Taschen oder Beuteln entfernen müssen.“
  • „Die Genauigkeit seiner Produkte bei der Erkennung von Waffen und die Fehlalarmrate, auch im Vergleich zur Verwendung herkömmlicher Metalldetektoren“
  • „Die Geschwindigkeit, mit der Besucher überprüft werden können, im Vergleich zum Einsatz von Metalldetektoren“
  • „Arbeitskosten, einschließlich Vergleiche mit der Verwendung von Metalldetektoren; Tests oder die Ergebnisse jeglicher Tests; und alle wesentlichen Aspekte ihrer Leistung, einschließlich der Verwendung von Algorithmen, künstlicher Intelligenz oder anderen automatisierten Systemen oder Werkzeugen.“

Die FTC hat in der Vergangenheit darauf hingewiesen, dass KI-Produkte als Lösungen für systemische Probleme zu viel versprechen können, was eine Folge des KI-Hypes ist. Dies kann für die öffentliche Sicherheit besonders riskant sein, wenn sich immer mehr Städte, Institutionen und Schulen auf ausfallsichere Technologien wie die Scanner von Evolv verlassen.

Verwandte Artikel