Pour une PMEPME – Petite et moyenne entreprise (EN : SME – Small and medium-sized enterprise) : organisation dont la taille est généralement définie par le nombre d’employés, et qui n’est pas une “grande entreprise”. ou un OBNL, cela peut être : un système qui accepte ou refuse automatiquement une demande (crédit, inscription, accès à un service), qui attribue une priorité, qui classe des candidatures ou qui propose des recommandations personnalisées à partir d’un profil. La décision “tombée” automatiquement a un impact concret pour la personne (accès, tarif, risque perçu, etc.).

Si ces processus ne sont pas encadrés (transparence, possibilité de contester, validation humaine pour les décisions importantes), on se heurte vite à des enjeux de confiance et de conformité : perception d’injustice (“l’ordinateur a décidé”), biais dans les données ou dans l’algorithme, difficulté à expliquer pourquoi une décision a été prise. Les lois modernes sur la vie privée (RGPD, Loi 25La loi 25 est une loi québécoise qui encadre la protection des renseignements personnels. Elle impose aux entreprises et organismes des règles précises sur la collecte, l’utilisation, la conservation et la communication des données personnelles., etc.) encadrent de plus en plus cette automatisationL’automatisation consiste à faire exécuter automatiquement une tâche ou une suite d’actions par un outil numérique, sans intervention humaine à chaque étape..