La menace des modèles de langage à grande échelle sans restriction pour la sécurité de l'industrie du chiffrement

Contexte

Avec le développement rapide des technologies d'intelligence artificielle, des IA avancées comme la série GPT et Gemini transforment profondément nos modes de travail et de vie. Cependant, derrière cette avancée technologique se cache également un aspect sombre préoccupant - l'émergence de modèles de langage de grande taille sans limites ou malveillants et leurs risques potentiels.

Les LLM sans restriction désignent des modèles de langage qui ont été spécialement conçus, modifiés ou "jailbreakés" pour contourner les mécanismes de sécurité et les limitations éthiques intégrés dans les modèles grand public. Bien que les développeurs de LLM grand public investissent d'importantes ressources pour empêcher que les modèles soient abusés pour générer des discours haineux, des informations fausses ou du contenu illégal, certaines personnes ou organisations, à des fins illicites, commencent à rechercher ou à développer elles-mêmes des modèles non contraints. Cet article explorera des cas typiques de ces LLM sans restriction, analysera leurs menaces potentielles dans le domaine du chiffrement et discutera des défis de sécurité associés et des stratégies d'adaptation.

Menaces potentielles des LLM sans restrictions

L'émergence des LLM sans restriction a considérablement abaissé le seuil technique du cybercriminalité. Des tâches qui nécessitaient auparavant des compétences professionnelles, telles que l'écriture de code malveillant, la création d'e-mails de phishing ou l'organisation d'escroqueries, peuvent désormais être facilement réalisées même par des personnes avec des compétences techniques limitées. Les attaquants n'ont qu'à obtenir les poids et le code source des modèles open source, puis à les ajuster avec un ensemble de données contenant du contenu malveillant ou des instructions illégales pour créer des outils d'attaque personnalisés.

Cette tendance entraîne de multiples risques :

1. L'attaquant peut personnaliser le modèle pour des cibles spécifiques, générant un contenu plus trompeur, contournant ainsi la vérification de contenu des LLM conventionnels.
2. Le modèle peut être utilisé pour générer rapidement des variantes de code de sites de phishing, ou pour personnaliser des messages frauduleux pour différentes plateformes sociales.
3. La disponibilité et la modifiabilité des modèles open source ont favorisé la formation d'un écosystème d'IA souterrain, offrant un terreau pour les transactions et le développement illégaux.

Modèles de langage LLM typiques sans restriction et leurs menaces

WormGPT : version noire de GPT

WormGPT est un LLM malveillant vendu publiquement sur des forums clandestins, prétendant n'avoir aucune restriction éthique. Il est basé sur des modèles open source comme GPT-J 6B et a été entraîné sur une grande quantité de données liées aux logiciels malveillants. Les utilisateurs peuvent obtenir un mois d'accès pour seulement 189 $. Ses abus typiques dans le domaine du chiffrement comprennent :

• Générer des e-mails de phishing réalistes en se faisant passer pour des échanges de chiffrement ou des projets afin d'inciter les utilisateurs à divulguer leurs clés privées.
• Aider les attaquants ayant des capacités techniques limitées à rédiger du code malveillant pour voler des fichiers de portefeuille ou surveiller le presse-papiers.
• Conduire à des escroqueries automatisées, incitant les victimes à participer à de fausses distributions ou projets d'investissement.

DarkBERT : une arme à double tranchant pour le contenu du dark web

DarkBERT est un modèle de langage pré-entraîné spécifiquement sur des données du dark web, conçu à l'origine pour aider les chercheurs et les agences d'application de la loi à comprendre l'écosystème du dark web. Cependant, les informations sensibles qu'il maîtrise, si elles sont abusées, pourraient avoir de graves conséquences :

• Collecter des informations sur les utilisateurs de chiffrement et les équipes de projet, afin de cibler les fraudes sociales de manière précise.
• Copier les stratégies de vol de cryptomonnaies et de blanchiment d'argent matures dans le dark web.

FraudGPT : un outil multifonction pour la fraude en ligne

FraudGPT est prétendument la version améliorée de WormGPT, principalement vendue sur le dark web et les forums de hackers. Son potentiel d'abus dans le domaine du chiffrement inclut :

• Générer des livres blancs et des sites officiels trompeurs, utilisés pour mettre en œuvre de fausses ICO/IDO.
• Génération en masse de pages de phishing imitant des échanges connus.
• Fabrication à grande échelle de faux commentaires, promotion de jetons frauduleux ou dénigrement de projets concurrents.
• Imiter les conversations humaines pour inciter les utilisateurs à divulguer des informations sensibles.

GhostGPT : assistant IA sans contraintes morales

GhostGPT est un robot de chat IA clairement positionné sans restrictions morales. Ses menaces potentielles dans le domaine du chiffrement incluent :

• Générer des e-mails de phishing très réalistes, se faisant passer pour des notifications fausses émises par des échanges majeurs.
• Générer rapidement des contrats intelligents contenant des portes dérobées, utilisés pour des escroqueries Rug Pull ou pour attaquer des protocoles DeFi.
• Créer des logiciels malveillants capables de se transformer, de voler des informations de portefeuille et d'échapper à la détection des logiciels de sécurité.
• Déployer des robots d'escroquerie sur les plateformes sociales pour inciter les utilisateurs à participer à des projets frauduleux.
• Collaborer avec d'autres outils d'IA pour générer des voix de projet falsifiées et mettre en œuvre des escroqueries téléphoniques.

Venice.ai : risques potentiels d'accès sans censure

Venice.ai offre un accès à divers LLM, y compris certains modèles avec des restrictions assouplies. Bien qu'il soit positionné comme une plateforme d'exploration ouverte, il pourrait également être abusé :

• Utiliser des modèles avec moins de restrictions pour générer des modèles de phishing ou des idées d'attaque.
• Abaisser le seuil technique des alertes de "jailbreak", rendant plus facile pour les attaquants d'accéder aux sorties restreintes.
• Accélérer l'itération et l'optimisation des discours d'attaque.

Conclusion

L'émergence des LLM sans restriction marque un nouveau paradigme d'attaques plus complexes, à plus grande échelle et avec des capacités d'automatisation dans le domaine de la cybersécurité. Cela a non seulement abaissé le seuil d'entrée pour les attaques, mais a également introduit de nouvelles menaces plus furtives et plus trompeuses.

Pour relever ce défi, il est nécessaire que toutes les parties de l'écosystème de sécurité collaborent.

1. Augmenter l'investissement dans les technologies de détection et développer des systèmes capables d'identifier et d'intercepter le contenu généré par des LLM malveillants.
2. Promouvoir la construction de la capacité de prévention des jailbreaks des modèles, explorer les mécanismes de watermarking et de traçabilité pour suivre la source de contenus malveillants dans des scénarios clés.
3. Établir des normes éthiques et des mécanismes de régulation solides pour limiter à la source le développement et l'abus de modèles malveillants.

Seule une approche multimodale peut efficacement relever les défis de sécurité posés par les LLM non réglementés et garantir le développement sain de l'industrie du chiffrement.