Antropic L'échec des pirates informatiques pour abuser de Google Ads dans la cybercriminalité

an - Anthropic a annoncé mercredi 27 août qu’il avait réussi à détecter et à bloquer les tentatives de pirates d’abuser le système d’intelligence artificielle d’Ashim pour créer des courriels de phishing, générer des codes malveillants et tenter de tromper les filtres de sécurité.

, qui a été publié dans un rapport, souligne les préoccupations croissantes quant au fait que les outils d’IA soient de plus en plus exploités pour la cybercriminalité, encourageant des appels aux entreprises technologiques et aux réglementateurs à renforcer les mesures de sécurité à mesure que cette technologie se propage.

rropic rapporte que son système interne a réussi à arrêter ces attaques. La société a également partagé des études de cas montrant comment les auteurs essaient d’utiliser leider pour produire du contenu malveillant, afin d’aider d’autres parties à comprendre les risques.

, en particulier, par exemple, par le biais d'efforts pour utiliser cloud pour organiser des courriels phishing personnalisés, écrire ou corriger des fragments de code malveillant et essayer de reconnaître la sécurité par des commandes répétées.

rons, en outre, des efforts sont mis en œuvre pour créer des scénarios de campagne d’influence en générant de publications persuasives en masse et en aidant les pirates informatiques à faible niveau grâce à des guides pas après pas.

an.com et Alphabet n'ont pas publié d'indicateurs techniques tels que des adresses IP ou des commandes spécifiques, mais ont indiqué qu'ils avaient bloqué les comptes impliqués et renforcé les filtres de sécurité après avoir détecté l'activité.

, les experts de la sécurité disent que les criminels se tournent de plus en plus vers l’IA pour rendre la fraude plus convaincante et accélérer les efforts de piratage. Ces outils d’IA peuvent aider à compiler des messages de phishing réalistes, à automatiser des parties du développement de logiciels malveillants et même potentiellement aider à planifier des attaques.

, les chercheurs en matière de sécurité, mettent en garde contre le fait que lorsque les modèles d’IA sont à l’avancement, le risque d’abus augmentera si les entreprises et les gouvernements n’attendent pas immédiatement. Anthropic a déclaré qu’il met en œuvre des pratiques de sécurité strictes, y compris les tests de routine et les contrôles externes, et prévoit de continuer à publier des rapports lorsqu’il constaterait une menace majeure.

, des entreprises telles que Microsoft, OpenAI soutenue par SoftBank et Google sont également confrontées à des préoccupations similaires quant au fait que leurs modèles d’IA pourraient être exploités pour piratage ou fraude, ce qui encourage les appels à une sécurité plus forte.

rénal. Le gouvernement a également commencé à prendre des mesures pour réglementer cette technologie. L’Union européenne s’avancera avec la loi sur l’intelligence artificielle, tandis que les États-Unis encouragent les engagements volontaires en matière de sécurité des principaux développeurs.