Tirer parti des grands modèles linguistiques (LLM) pour la sécurité et la confidentialité de l'entreprise

« Une fois qu’une nouvelle technologie vous roule dessus, si vous ne faites pas partie du rouleau compresseur, vous faites partie de la route. » - Stewart Brand

Le monde numérique est vaste et en constante évolution, et au cœur de cette évolution se trouvent les grands modèles de langage (LLM) comme le ChatGPT récemment popularisé. Ils perturbent et révolutionnent potentiellement le monde de l’entreprise. Ils rivalisent pour devenir une sorte de couteau suisse, désireux de prêter leurs capacités à une myriade d’applications commerciales. Cependant, l’intersection des LLM avec la sécurité et la confidentialité des entreprises justifie une plongée plus profonde.

Dans le monde de l’entreprise, les LLM peuvent être des atouts inestimables. Ils sont appliqués et changent la façon dont nous faisons collectivement des affaires dans le service à la clientèle, la communication interne, l’analyse de données, la modélisation prédictive et bien plus encore. Imaginez un collègue numérique inlassablement efficace, complétant et accélérant votre travail. C’est ce qu’un LLM apporte à la table.

Mais le potentiel des LLM s’étend au-delà des gains de productivité. Nous devons maintenant considérer leur rôle dans le renforcement de nos défenses de cybersécurité. (Il y a aussi un côté sombre à considérer, mais nous y reviendrons.)

Les LLM peuvent être formés pour identifier les menaces de sécurité potentielles, agissant ainsi comme une couche de protection supplémentaire. De plus, ce sont des outils fantastiques pour favoriser la sensibilisation à la cybersécurité, capables de simuler des menaces et de fournir des conseils en temps réel.

Pourtant, avec l’adoption des LLM, des préoccupations en matière de protection de la vie privée émergent inévitablement. Ces modèles d’IA peuvent gérer des données commerciales sensibles et, par conséquent, doivent être manipulés avec soin. La clé est de trouver le bon équilibre entre l’utilité et la confidentialité, sans compromettre l’un ou l’autre.

Le bon côté des choses, c’est que nous avons les outils pour maintenir cet équilibre. Des techniques telles que la confidentialité différentielle peuvent garantir que les LLM apprennent des données sans exposer des informations individuelles. De plus, l’utilisation de contrôles d’accès robustes et de pistes d’audit rigoureuses peut aider à prévenir les accès non autorisés et les abus.

Cela commence par la compréhension des capacités et des limites de ces modèles. Ensuite, le processus d’intégration doit être progressif et mesuré, en tenant compte de la sensibilité des différents secteurs d’activité. Certaines applications devraient toujours maintenir la surveillance et la gouvernance humaines : les LLM n’ont pas passé la barre et ne sont pas médecins.

La confidentialité ne devrait jamais passer au second plan lors de la formation des LLM avec des données spécifiques à l’entreprise. Soyez transparent avec les parties prenantes sur le type de données utilisées et l’objectif qui les sous-tend. Enfin, ne lésinez pas sur le suivi et l’affinement des performances et du comportement éthique du LLM au fil du temps. Quelques spécificités à considérer ici:

À l’avenir, l’intégration des LLM dans le paysage des entreprises est une marée qui ne devrait pas s’estomper. Plus tôt nous nous adapterons, mieux nous serons équipés pour relever les défis et saisir les occasions qui en découlent. Les LLM comme ChatGPT sont appelés à jouer un rôle central dans le façonnement des paysages d’entreprise et de sécurité. C’est une ère passionnante dans laquelle nous entrons et, comme pour tout voyage, la préparation est essentielle. Alors, attachez votre ceinture et embrassons cet avenir « dirigé par l’IA » avec un esprit ouvert et un plan sûr.

Un dernier commentaire critique : le génie est sorti de la bouteille, pour ainsi dire, ce qui signifie que les cybercriminels et les États-nations vont militariser et utiliser l’IA et les outils dérivés pour des mesures offensives. La tentation d’interdire purement et simplement ces utilisations doit être évitée car nous devons nous assurer que les testeurs de stylos et les teamers rouges peuvent accéder à ces outils pour s’assurer que nos équipes bleues et nos défenses sont préparées. C’est pourquoi nous avons Kali Linux par exemple. Nous ne pouvons pas paralyser l’association violette avec des interdictions sur l’utilisation des outils LLM et IA, maintenant ou à l’avenir.