Staatlich unterstützte Hacker aus Russland, China und dem Iran haben OpenAI-Tools genutzt, um ihre Fähigkeiten zu verbessern und Angriffe zu starten. Wie berichtet von Microsoft, verfolgten die Experten des Unternehmens Hackergruppen, die mit dem russischen Militärgeheimdienst, den Islamischen Revolutionsgarden sowie den Regierungen Chinas und Nordkoreas verbunden sind und versuchten, ihre Hacking-Kampagnen mithilfe großer Sprachmodelle zu verbessern.
Das Unternehmen gab die Entdeckung bekannt, als es staatlich unterstützten Hackergruppen die Nutzung seiner KI-Produkte generell verbot. „Wir wollen einfach nicht, dass die Entitäten, die wir identifiziert haben – die wir überwachen und von denen wir wissen, dass sie eine Bedrohung verschiedener Art darstellen –, wir wollen nicht, dass sie Zugriff auf diese Technologie haben“, sagte der Vizepräsident. Microsoft für Kundensicherheit Tom Burt. Der Bericht erwähnt Hackergruppen wie Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon und Salmon Typhoon.
Behauptet, dass Hacker beim Einsatz der Tools erwischt wurden KI Um seine Spionagekapazitäten zu verbessern, äußert er Bedenken hinsichtlich der raschen Verbreitung der Technologie und ihres Missbrauchspotenzials. Westliche Cyber-Sicherheitsexperten warnten im vergangenen Jahr vor einem Missbrauch solcher Tools durch Kriminelle, obwohl bislang keine konkreten Daten dazu vorlagen.
„Dies ist einer der ersten, wenn nicht der erste Fall, in dem ein KI-Unternehmen öffentlich darüber diskutiert hat, wie Angreifer KI-Technologien nutzen“, sagte Bob Rothstead, Leiter Cybersecurity Threat Intelligence bei OpenAI.
OpenAI dass Microsoft beschrieb den Einsatz ihrer KI-Tools durch Hacker als „frühes Stadium“ und „schrittweise“. Laut Burt hat keines der beiden Unternehmen einen Durchbruch bei Cyberspionen erlebt: „Wir haben gesehen, dass sie die Technologie einfach wie jeder andere Benutzer nutzen.“
Der Bericht beschreibt Hackergruppen, die große Sprachmuster auf unterschiedliche Weise nutzen. Die Hacker, die angeblich im Namen des russischen Spiels arbeiteten, nutzten die Modelle, um „verschiedene Satelliten- und Radartechnologien zu untersuchen, die für militärische Operationen in der Ukraine relevant sein könnten“, sagte die Agentur. Microsoft. Und nordkoreanische Hacker nutzten die Modelle, um Inhalte zu erstellen, „die wahrscheinlich in Phishing-Kampagnen verwendet werden“.
Die iranischen Hacker verließen sich auch auf die Modelle, um überzeugendere E-Mails zu schreiben. Und chinesische Hacker, die angeblich vom Staat unterstützt werden Microsoft, experimentieren mit großen Sprachmodellen, um Fragen zu konkurrierenden Geheimdiensten, Cybersicherheitsproblemen und „prominenten Persönlichkeiten“ zu stellen.
Lesen Sie auch: