HES-SO hat an Studie zur Cyberabwehr mitgewirkt

Eine Studie als Ergebnis einer gemeinsamen Arbeit des Cyber-Defence-Campus des Bundesamts für Rüstung Armasuisse und der HES-SO Valais-Wallis ist herausgekommen. Das Bundesamt teilt dazu mit:

Mit dem Aufkommen neuer Cyber-Technologien gehen auch neue Bedrohungen und Auswirkungen einher. Der Cyber-Abwehr-Campus des Bundesamtes für Rüstung,  Armasuisse, veröffentlicht zum zweiten Mal eine Studie mit offenem Zugang zu diesem Thema.

Diese beleuchtet die Risiken und Herausforderungen, die durch den Einsatz generativer künstlicher Intelligenz (KI) in der Cybersicherheit entstehen. Die Studie hilft Fachpersonen und Entscheidungsträgern aus der öffentlichen Verwaltung und der Wirtschaft bei der Beurteilung von Einsatzrisiken und der Entwicklung von Sicherheitsmaßnahmen.

Die Entwicklung und Verbreitung von künstlicher Intelligenz stellt große Herausforderungen für die Sicherheit im Cyberraum dar. Insbesondere maschinelle Lernmodelle zur Generierung von Texten, Bildern oder Videos, besser bekannt unter dem Begriff «generative künstliche Intelligenz (KI)», werden immer leistungsfähiger. Deren Einsatz findet weite Verbreitung in der Bevölkerung.

Dabei bietet die generative KI erhebliche Mißbrauchsrisiken wie etwa Fälschungen mithilfe von KI (Englisch „deep fakes“), gefälschte Nachrichten oder Betrugsversuche.

Gleichzeitig kann der bewußte Einsatz von KI auch positive Effekte mit sich bringen.

Einfluß von Großen Sprachmodellen auf Cybersicherheit

Die Studie zeigt auf, daß die Manipulation und der Mißbrauch von Lernalgorithmen die Sicherheit der genutzten KI-Anwendungen gefährden kann. Beispielsweise können maschinelle Lernmodelle Texte oder Programme generieren, die teilweise subtile Fehler enthalten, jedoch nur schwer zu finden sind.

GSM – Große Sprachmodelle (Large Language Models, LLMs) haben das Verständnis von Sprache revolutioniert und werden bereits heute in sicherheitsrelevanten Produkten und Anwendungen eingesetzt.

Einerseits ermöglichen es GSMs, Cyberangriffe effizienter zu bekämpfen, gleichzeitig können bösartige Akteure GSMs verwenden, um kostengünstig Schadprogamme, Abfisch-Nachrichten („phishing mails“) und bösartige Chatbots zu erstellen.

Stärkung der Cybersicherheit

GSMs werden heute mehrheitlich im Ausland hergestellt. Es ist für staatliche Akteure wie die Schweiz entsprechend wichtig zu verstehen, welche Abhängigkeiten von diesen ausländischen Herstellern bestehen und welche Risiken damit verbunden sind.

Diese öffentlich zugängliche („open access“) Studie bietet wertvolle Einblicke für Fachpersonen und Entscheidungsträger im Bereich der Cybersicherheit.

Der CYD-Campus und die Fachhochschule Westschweiz (HES-SO) verdeutlichen mit dieser gemeinsam erarbeiteten Studie die Notwendigkeit, sich mit den schnell wachsenden technologischen Entwicklungen auseinanderzusetzen und proaktive Maßnahmen zu ergreifen.

Die wichtigsten Erkenntnisse der Studie lauten:
• Generative künstliche Intelligenz und insbesondere große Sprachmodelle (LLMs) bringen erhebliche neue Bedrohungen in Bezug auf Cybersicherheit;
• Die Verwendung von generativer künstlicher Intelligenz beim Staat, in der Wirtschaft und in der Gesellschaft soll mit Sorgfalt erfolgen;
• Für eine sichere Entwicklung und einen sicheren Einsatz von generativer künstlicher Intelligenz, müssen Sicherheitskontrollen in der Datenverarbeitungskette eingesetzt werden