68% des employés qui utilisent des outils comme ChatGPT ou d’autres IA génératives le font à l’insu de leurs responsables directs ou sans en informer leur DSI. Tout comme le shadow IT, le shadow IA consiste à utiliser des outils technologiques sans l’approbation de la DSI. En se passant des processus internes d’approbation et de validation, ces collaborateurs introduisent des risques significatifs pour la sécurité de l’entreprise et la gestion du SI. Tandis que les départements IT s’efforcent d’établir des règles de sécurité claires et rigoureuses, le shadow IA gagne de l’ampleur et menace de devenir un défi de taille.

Quelles sont les causes de l’émergence du shadow IA

Facilité d’accès aux technologies

Si le shadow IA se développe si rapidement, c’est en partie grâce à la facilité d’accès aux technologies. Aujourd’hui, il suffit de quelques clics pour que vos employés accèdent à des outils SaaS en ligne. Et ce, sans avoir besoin de passer par les départements IT. Cela facilite non seulement l’usage de ces technologies, mais également l’émergence d’une IA invisible à vos yeux – ceux de la DSI.  La démocratisation de l’IA et des outils open source joue également un rôle clé. De nombreuses plateformes offrent des solutions d’IA génératives accessibles gratuitement ou presque, ce qui permet à tout employé de créer et déployer ses propres IA. Sans contrôle ni supervision, ces initiatives sont là encore susceptibles d’échapper totalement à la gouvernance de la DSI, amplifiant les risques cyber.

Besoin de flexibilité et de rapidité

Le shadow IA est alimenté par le besoin croissant de flexibilité et de rapidité dans les entreprises. Les déploiements des solutions peuvent être lents, les employés partent à la chasse aux outils rapidement déployables, quitte à choisir des options non encadrées.En parallèle, on assiste à l’essor du BYOIA (Bring Your Own Intelligence Artificielle), un phénomène qui voit les collaborateurs introduire leurs propres solutions d’IA génératives au sein de l’entreprise. Cette pratique peut accélérer l’innovation, mais elle présente surtout des risques majeurs pour la sécurité du système d’information.

Manque d’investissement et facteur coût

Reste à considérer que le coût des solutions IA peut représenter un obstacle majeur pour de nombreuses entreprises. Venant s’ajouter au coût des licences utilisateurs, le développement et le déploiement de solutions IA robustes et sécurisées nécessitent des investissements conséquents, qui peuvent s’avérer dissuasifs. Résultat, les collaborateurs comblent le vide avec des outils gratuits, qui passent souvent sous le radar de la DSI. Le manque de visibilité sur le retour sur investissement (ROI) de l’IA générative vient également aggraver cette situation. Beaucoup d’entreprises hésitent à investir dans des solutions IA structurées sans avoir de garantie claire quant aux bénéfices qu’elles en tireront. Ces réticences viennent ainsi retarder leur transformation IA et laissent le champ libre à l’apparition de solutions non contrôlées, et donc au shadow IA.

Manque de sensibilisation et de formation

Le manque de sensibilisation des collaborateurs est sans conteste l’un des talons d’Achille des entreprises. Et de fait, de nombreux collaborateurs n’ont pas connaissance des risques sécuritaires et juridiques que l’usage de solutions d’IAG non contrôlées fait courir à leur entreprise.

S’ajoute l’absence de communication claire autour des politiques de sécurité sur l’utilisation de l’intelligence artificielle. Si les employés ne sont pas correctement informés des règles en vigueur, ils risquent de prendre des initiatives dangereuses, et ainsi de compromettre la sécurité de l’ensemble du système.

Quels sont les risques du shadow IA ?

Risques de sécurité

Ce qui vous préoccupe probablement le plus ? Les risques de sécurité. Avec l’utilisation de l’IA générative, les informations sensibles – données employés, clients, propriété intellectuelle et données confidentielles – peuvent être exposées et provoquer une fuite de données. Les employés compromettent la confidentialité du SI, et la réputation et la crédibilité de l’entreprise peuvent être impactées. Lorsque les employés utilisent des outils d’IA génératives non approuvés par le service IT, ces applications ne sont pas soumises aux mêmes mesures de sécuritéque les systèmes officiellement déployés. Ces outils peuvent représenter des failles de sécurité ou ne pas bénéficier pas de mises à jour régulières et nécessaires à la correction de potentielles vulnérabilités. Ces solutions d’IA peuvent alors devenir des points d’entrée pour des cybercriminels qui cherchent à exploiter des faiblesses dans le réseau.

Risques de conformité

Les risques de conformité sont également considérables, puisque l’utilisation d’outils non autorisés peut facilement entraîner des violations réglementaires. À titre d’exemple, certaines de ces solutions d’IA pourraient ne pas respecter les règles du RGPD et entraîner de lourdes sanctions pour l’entreprise.

Risques opérationnels

Sur le plan opérationnel, l’un des risques les plus immédiats est celui des interférences et redondances. Les IA non intégrées au SI existant peuvent créer des doublons de données, ralentir les processus internes et, in fine, augmenter les coûts. Ces inefficacités opérationnelles représentent des obstacles à la productivité globale de l’entreprise. Les problématiques de gouvernance deviennent plus complexes avec le shadow IA. Le manque de contrôle et de suivi des outils utilisés complique la gestion du SI et peut conduire à un éparpillement des données, voire à une perte de contrôle sur les processus internes.

Comment identifier le shadow IA

Surveillance proactive des réseaux et systèmes

Pour ne pas être pris au dépourvu, la première chose à faire est de surveiller vos réseaux et systèmes. Des solutions de monitoring avancées permettent de suivre les flux de données et ainsi d’identifier les applications non autorisées qui pourraient être utilisées par vos collaborateurs. Une autre méthode efficace consiste à effectuer une analyse des journaux d’activité. En examinant les logs générés par les différents systèmes, vous pouvez déceler des anomalies ou des actions suspectes. L’analyse approfondie de ces journaux peut vous permettre de prendre des mesures correctives avant qu’une faille de sécurité ne devienne critique.

Audits réguliers de sécurité et de conformité

Ensuite, misez sur des audits de sécurité réguliers pour vérifier que vos configurations respectent bien les politiques de sécurité internes. En procédant à des inspections approfondies, vous vous assurez que les systèmes sont correctement protégés contre les intrusions et l’utilisation d’applications non autorisées.Le renforcement du contrôle des identités et des accès permet également de limiter les failles de sécurité et donc de réduire les risques pesant sur votre SI. En surveillant attentivement les droits d’accès, vous réduisez le risque que des applications non sécurisées soient utilisées dans votre environnement (et donc le phénomène de shadow IA).

Utilisation de l’intelligence artificielle pour la détection

À armes égales… L’IA elle-même peut être un outil puissant. En utilisant des modèles prédictifs, vous pouvez identifier les patterns anormaux dans l’utilisation des ressources informatiques afin de mitiger les risques informatiques. Ces modèles sont capables de repérer des anomalies subtiles que les systèmes de surveillance traditionnels pourraient manquer, et vous pouvez ainsi prendre des mesures proactives. Par exemple, si votre outil d’IA générative détecte l’usage d’une API externe d’un outil d’IA non validé par la DSI, elle peut déclencher une alerte.

Shadow IA : mieux vaut prévenir que guérir

Instaurer une gouvernance et des politiques claires

Comme dans toute lutte contre les pratiques non-autorisées, le combat contre le shadow IA et ses risques associés commence par la formalisation et la communication d’une gouvernance stricte et une politique de sécurité claire. Pour cela, renforcez les politiques existantes avec des règles spécifiques à l’usage de l’intelligence artificielle générative. Par exemple, vous pouvez définir des protocoles de validation des nouveaux outils d’IA, assurer que chaque nouvelle technologie respecte les normes de sécurité et de conformité avant son intégration, et établir un suivi continu de ces technologies. Un cadre de conformité robuste est également primordial. La mise en place de protocoles de conformité garantira que toutes les applications utilisées respectent les normes légales et réglementaires. À titre d’illustration : les Opérateurs de Services Essentiels sont par exemple soumis à des normes strictes en matière de cybersécurité. Encouragez une transparence totale autour de l’utilisation des outils IA et centralisez la gestion afin de garantir une supervision adéquate.

Ne pas oublier la sensibilisation et la formation

Au-delà des politiques, la sensibilisation des employés reste un élément clé pour prévenir le shadow IA. En instaurant des programmes de sensibilisation réguliers, vous pouvez éduquer vos équipes sur les risques liés à l’utilisation de l’IA et partager les bonnes pratiques de sécurité.

Mauvaise nouvelle : les menaces évoluent rapidement, et les technologies IA également. Vos équipes doivent avoir les connaissances nécessaires pour gérer ces nouvelles menaces et s’adapter aux dernières innovations. Cela implique des formations régulières sur les nouvelles technologies, mais aussi sur les méthodes de détection de la shadow IA.

Vous en conviendrez : même si l’utilisation de l’intelligence artificielle peut offrir des avantages considérables en termes de productivité et d’efficacité, elle ne doit pas se faire au détriment de la sécurité. ChatGPT, Midjourney, Bard… ces intelligences artificielles génératives sont néanmoins de plus en plus utilisées dans leurs versions non-encadrées par des collaborateurs, qui ne perçoivent pas toujours les risques. Puisqu’il est difficile d’interdire purement et simplement son utilisation, le meilleur moyen de contrôler et sécuriser l’IA générative reste la mise en place d’une politique pour contrôler les usages ; ainsi que des actions visant à sensibiliser les utilisateurs aux différents risques que des usages non-tracés pourraient faire courir à leur organisation.

Par MARCHE Sébastien chez Experteam 

SOC : du concept à la mise en œuvre 

Le sujet de la cybersécurité est désormais une priorité concrète pour l’ensemble des organisations. Dans ce contexte, pour élever au maximum leur niveau de sécurité et accéder à des ressources expertes, un dispositif semble se positionner comme un réel must have : le SOC (Security Opérations Center). Mais comment expliquer ce succès, quel périmètre couvre le SOC et comment fonctionne- t-il ? Les entreprises doivent pouvoir comprendre ses mécanismes pour choisir le bon partenaire.

Les grands principes du SOC 

Concrètement, le SOC a pour objectif de protéger en temps réel le Système d’Information contre des menaces identifiées, de surveiller l’activité du SI et de gérer de bout en bout les incidents. Au cœur de la sécurisation du SI, il agit donc comme une véritable tour de contrôle et permet aux entreprises d’élever significativement leur niveau de cyberprotection. Souvent internalisé dans les grandes entreprises et organisations, il est également accessible pour les PME et PMI en mode externalisé (SOC en Services managés avec logique de souscription mensuelle par exemple). Ce faisant, les petites structures bénéficient également de la possibilité d’accéder à des ressources expertes qu’elles n’auraient pas pu intégrer dans leurs équipes, de surcroit avec des engagements de réactivité sur la détection et la remédiation d’incidents de sécurité.

Le SOC n’est pas qu’une simple question de technologies ou d’outils 

Si le choix de la plateforme technique utilisée est important pour choisir son SOC, elle n’est pas la seule composante à prendre en compte. Le SIEM (Security Information & Event Management) est un outil indispensable au cœur du dispositif, permettant de détecter de potentiels incidents ou anormalités. Agrémenté par des outils spécifiques aux différentes ressources du SI (NDR, Network Detection & Response, EDR, Endpoint Detection & Response etc.), il va faire le tri des événements pour alimenter le travail des analystes et experts Cybersécurité du SOC. La finesse de leur analyse des événements constatés et la compréhension de l‘environnement de leurs clients (techniques, business, etc.) leur permettent de délivrer une qualité de service de premier plan, des alertes et des recommandations pertinentes. La dimension humaine est donc tout aussi stratégique que le volet technologique pour proposer un service SOC performant.

Lancer son projet SOC en adoptant une démarche structurée 

Lors du lancement de son projet, une première phase exploratoire est d’abord nécessaire pour bien connaitre le SI, sa composition, ses serveurs, ses applications, etc. Il est alors possible de mettre en place une organisation sur mesure pour opérer le service au quotidien (surveillance, veille technologique, identifications des faux positifs…). Ce travail préparatoire est l’assurance de prendre les bonnes options et de se familiariser rapidement avec l’environnement IT et l’infrastructure existante. Une fois ces éléments traités, il est possible de lancer et d’opérer le service.

Au niveau organisationnel, au-delà des éventuelles communications directes et en temps réel avec le client en cas d’événements suspects détectés, des reportings périodiques et scans de vulnérabilité doivent être émis pour avoir une vue d’ensemble des activités ayant pu impacter le SI. Cette vue plus « long terme » permet de mieux analyser des points de faiblesse globaux, de prendre de la hauteur sur les événements, de corriger en profondeur certains dispositifs.

Le SOC est donc un dispositif stratégique qui doit être accessible à toutes les entreprises. L’ANSSI inclut d’ailleurs la supervision de la sécurité dans les cinq mesures prioritaires de protection du SI, peu importe le socle (Cloud public, privé, hybride) et la taille (de la TPE aux Grandes Entreprises en passant par les acteurs du service public). On notera aussi que pour les entreprises qui font le choix d’outsourcer leur infrastructure auprès d’un hébergeur et/ou opérateur de Services managés, il peut être pertinent de s’assurer que ce dernier propose aussi un service SOC. Ainsi, maitrisant parfaitement l’infrastructure de son client, il n’en sera que plus pertinent au niveau du service SOC délivré. Cela favorise la transformation des MSP (Managed Services Providers) en MSSP (Managed Security Services Provider).

Par  Clément LEGRAND, Ingénieur Cybersécurité ITS Integra et  Asma HORRICH-SELMI, Analyste Cybersécurité ITS Integra

https://www.itsintegra.com/

Dans un monde où la rapidité et l’efficacité sont devenues des enjeux cruciaux, les entreprises cherchent des moyens de gagner du temps, d’améliorer leur relation client et de booster leurs performances commerciales. Le CRM (Customer Relationship Management) s’impose alors comme un outil incontournable, capable d’automatiser une grande partie des tâches chronophages du quotidien.

Mais jusqu’où peut aller un CRM en termes d’automatisation ? Beaucoup pensent qu’il se limite à la gestion des contacts et au suivi des ventes. En réalité, un CRM moderne va bien au-delà et peut prendre en charge presque toutes les interactions clients, du premier contact à la fidélisation, en passant par la gestion interne des équipes.

Un CRM, bien plus qu’un simple carnet d’adresses numérique

Un CRM ne se contente plus de stocker des contacts, il est devenu un véritable assistant intelligent. Il centralise toutes les données clients, automatise les processus répétitifs et améliore la coordination entre les équipes marketing, commerciales et support client.

Voici un aperçu de tout ce qu’un CRM peut automatiser :

• Gestion des contacts et interactions clients
• Automatisation des ventes et des commandes
• Automatisation du marketing et de la fidélisation
• Automatisation du support et du service client
• Automatisation interne et gestion des équipes

Et ce n’est que le début ! Un CRM moderne continue d’évoluer et d’intégrer toujours plus d’automatisations grâce à l’intelligence artificielle et aux nouvelles technologies. Chaque entreprise peut l’adapter à ses besoins pour optimiser encore davantage ses processus et gagner en productivité.

Pourquoi automatiser avec un CRM ?

L’automatisation via un CRM transforme la manière dont une entreprise interagit avec ses clients et organise ses processus internes. En supprimant les tâches répétitives, elle permet aux équipes de se concentrer sur des missions à forte valeur ajoutée, comme l’amélioration de l’expérience client ou le développement commercial.

Grâce à une gestion centralisée et optimisée, le risque d’erreur est réduit, la communication entre les différents services devient plus fluide et les délais de réponse aux clients s’améliorent considérablement. Une entreprise qui choisit d’automatiser ses processus via un CRM gagne en efficacité et en réactivité, tout en offrant un service plus personnalisé et plus performant.

Dans un marché toujours plus compétitif, ne pas automatiser revient à prendre du retard face aux entreprises qui, elles, optimisent déjà leur gestion client. Adopter un CRM, c’est investir dans une organisation plus agile, plus efficace et capable de répondre aux attentes des clients avec précision et rapidité.

Par Sergio Ficara chez Eureka Solutions 

L’intelligence artificielle s’impose aujourd’hui comme un levier stratégique dans l’industrie. Maintenance prédictive, optimisation des procédés, supervision avancée, aide à la décision : les promesses sont nombreuses. Pourtant, sur le terrain, une réalité s’impose rapidement : l’IA industrielle n’a de valeur que si les données sur lesquelles elle s’appuie sont fiables, continues et correctement contextualisées.

Contrairement à l’IA grand public, nourrie de volumes massifs de données homogènes, l’IA industrielle doit composer avec des environnements complexes, hétérogènes et souvent contraints. Automates anciens, capteurs de générations différentes, protocoles multiples, données bruitées ou incomplètes : le terrain industriel est tout sauf standardisé.

Le premier défi : la donnée, pas l’algorithme

Dans de nombreux projets, l’IA est abordée par le prisme des modèles et des algorithmes. Or, dans l’industrie, le principal défi se situe bien en amont : la collecte et la structuration des données terrain. Il est fondamental de pouvoir dialoguer avec une grande diversité d’équipements, de décoder et normaliser les flux, de garantir la continuité et la cohérence des données, etc.  L’IA industrielle n’est pas une promesse marketing. Sans données fiables, contextualisées et continues, il n’y a tout simplement rien à apprendre ni à prédire.

Interopérabilité et pérennité : des prérequis souvent sous-estimés

Un autre écueil fréquent concerne la dépendance technologique. Trop de projets reposent sur des architectures fermées, pensées pour un usage ponctuel ou un POC, mais incapables d’évoluer dans le temps. Dans l’industrie, les équipements vivent parfois plusieurs décennies. Les protocoles évoluent, les usages changent, les contraintes réglementaires se renforcent. L’IA ne peut être un simple « module » ajouté en bout de chaîne : elle doit s’inscrire dans une architecture ouverte, évolutive et durable. Il faut donc concevoir des briques logicielles conçues pour absorber la diversité protocolaire, garantir l’indépendance vis-à-vis des constructeurs, ou encore fournir une base de données exploitable à long terme.

Une IA industrielle pragmatique, orientée terrain

Loin des discours théoriques, l’IA industrielle performante repose sur un socle invisible, mais essentiel : la maîtrise du terrain. Collecter mieux, comprendre mieux, structurer mieux, avant même de chercher à prédire. Dans ce contexte, l’intelligence artificielle n’est pas une fin en soi, mais un outil au service de la fiabilité, de la performance et de la décision industrielle. À condition, toutefois, de ne jamais oublier une évidence : sans données de qualité, il n’y a pas d’intelligence possible.

Par Benoit VALLET, Ingénieur IA chez TECHNILOG