Singapur arbeitet an technischen Richtlinien zur Absicherung von KI-Systemen
Die freiwilligen Richtlinien werden als Referenz für Cybersicherheitsexperten dienen, die die KI-Sicherheit verbessern möchten.
Singapur plant, bald Anweisungen zu veröffentlichen, die angeblich „praktische Maßnahmen“ zur Verbesserung der Sicherheit von Werkzeugen und Systemen der künstlichen Intelligenz (KI) bieten. Laut Janil Puthucheary, Singapurs oberstem Staatsminister für Kommunikation und Information, wird die Cyber Security Agency (CSA) voraussichtlich noch in diesem Monat ihren Entwurf technischer Richtlinien zur Sicherung von KI-Systemen zur öffentlichen Konsultation veröffentlichen.
Die freiwilligen Richtlinien können neben bestehenden Sicherheitsprozessen übernommen werden, die Organisationen implementieren, um potenziellen Risiken in KI-Systemen zu begegnen, sagte Puthucheary während seiner Eröffnungsrede am Mittwoch auf dem KI-Sicherheitsgipfel der Association of Information Security Professionals (AiSP).
Mit den technischen Richtlinien hofft die CSA, eine nützliche Referenz für Cybersicherheitsexperten zu bieten, die die Sicherheit ihrer KI-Tools verbessern möchten, sagte der Minister. Darüber hinaus forderte er die Branche und die Community auf, ihren Teil dazu beizutragen, dass KI-Tools und -Systeme auch bei ständiger Weiterentwicklung der Techniken sicher und geschützt vor böswilligen Bedrohungen bleiben.
„In den letzten Jahren hat sich die KI rasant ausgebreitet und wurde in den unterschiedlichsten Bereichen eingesetzt“, sagte Puthucheary. „Dies hat erhebliche Auswirkungen auf die Bedrohungslandschaft. Wir wissen, dass diese schnelle Entwicklung und Einführung von KI uns vielen neuen Risiken ausgesetzt hat, einschließlich gegnerischem maschinellem Lernen, das es Angreifern ermöglicht, die Funktion des Modells zu gefährden.“
Er verwies darauf, wie es dem Sicherheitsanbieter McAfee gelang, Mobileye zu kompromittieren, indem er Änderungen an den Geschwindigkeitsbegrenzungsschildern vornahm, auf deren Erkennung das KI-System trainiert wurde.
KI schürt neue Sicherheitsrisiken, und Organisationen des öffentlichen und privaten Sektors müssen daran arbeiten, diese sich entwickelnde Bedrohungslandschaft zu verstehen, sagte Puthucheary. Er fügte hinzu, dass der CIO der Regierung Singapurs, die Government Technology Agency (GovTech), Fähigkeiten entwickelt, um potenzielle Angriffe auf KI-Systeme zu simulieren, um zu verstehen, wie sie sich auf die Sicherheit solcher Plattformen auswirken können. „Auf diese Weise können wir die richtigen Sicherheitsvorkehrungen treffen“, sagte er.
Puthucheary fügte hinzu, dass die Bemühungen um einen besseren Schutz vor bestehenden Bedrohungen fortgesetzt werden müssen, da KI anfällig für „klassische“ Cyber-Bedrohungen sei, beispielsweise solche, die auf den Datenschutz abzielen. Er stellte fest, dass die zunehmende Einführung von KI die Angriffsfläche erweitern wird, über die Daten offengelegt, kompromittiert oder durchgesickert werden können. Er sagte, dass KI genutzt werden könne, um immer ausgefeiltere Malware wie WormGPT zu erstellen, die für bestehende Sicherheitssysteme schwer zu erkennen sei.
Gleichzeitig könne KI genutzt werden, um die Cyberabwehr zu verbessern und Sicherheitsexperten in die Lage zu versetzen, Risiken schneller, in größerem Umfang und mit größerer Präzision zu erkennen, sagte der Minister. Er sagte, dass auf maschinellem Lernen basierende Sicherheitstools dabei helfen können, Anomalien zu erkennen und autonome Maßnahmen zur Eindämmung potenzieller Bedrohungen einzuleiten.
Laut Puthucheary richtet AiSP eine spezielle Interessengruppe für KI ein, in der ihre Mitglieder Erkenntnisse über Entwicklungen und Fähigkeiten austauschen können. AiSP wurde 2008 gegründet und beschreibt sich selbst als eine Branchengruppe, die sich auf die Förderung der technischen Kompetenz und der Interessen der Cybersicherheitsgemeinschaft Singapurs konzentriert.
Im April veröffentlichte das AI Security Center der US-amerikanischen National Security Agency ein Informationsblatt mit dem Titel „Deploying AI Systems Securely“, in dem es Best Practices für die Bereitstellung und den Betrieb von KI-Systemen darlegte.
Die gemeinsam mit der US-amerikanischen Cybersecurity and Information Security Agency entwickelten Richtlinien zielen darauf ab, die Integrität und Verfügbarkeit von KI-Systemen zu verbessern und Abhilfemaßnahmen für bekannte Schwachstellen in KI-Systemen zu schaffen. Das Dokument beschreibt außerdem Methoden und Kontrollen zur Erkennung und Reaktion auf böswillige Aktivitäten gegen KI-Systeme und zugehörige Daten.