Problème épineux de la responsabilité juridique lorsque l'IA cause des dommages

Le ministère de la Justice vient de publier le dossier d'évaluation du projet de décret du gouvernement détaillant certains articles et mesures de mise en œuvre de la loi sur l'intelligence artificielle.

Dans le projet de rapport, le ministère des Sciences et des Technologies a déclaré que la mise en œuvre pratique de l'IA pourrait entraîner de nombreux problèmes tels que les risques éthiques, les préjugés algorithmiques, la violation de la vie privée, la protection des données personnelles, les secrets commerciaux et la discrimination dans l'application de l'IA; le manque de mécanismes de classification et de contrôle des risques des systèmes d'IA; le manque de mécanismes d'inspection, de licence et de surveillance des systèmes d'IA, en particulier les systèmes d'IA à haut risque; les difficultés à tracer la responsabilité lorsque les systèmes d'IA causent des dommages; le manque de mécanismes de coordination efficaces dans la construction et le partage d'une infrastructure de calcul commune pour l'IA;...

Tout cela crée un obstacle majeur à la recherche, au développement, au déploiement et à l'utilisation des systèmes d'intelligence artificielle au Vietnam.

Les autorités compétentes ont identifié un certain nombre de problèmes typiques tels que:

Lacunes dans la gestion, l'exploitation et la protection des données - ressource essentielle de l'IA: la résolution 57-NQ/TW a clairement indiqué qu'il fallait "transformer les données en principaux documents de production" et "développer l'économie des données, le marché des données".

Cependant, la pratique de la collecte, du traitement, du partage et de l'utilisation des données pour la formation des modèles d'IA rencontre de nombreuses difficultés. Les réglementations en vigueur sur la protection des données personnelles, bien qu'elles existent, ne sont pas suffisamment détaillées pour résoudre les problèmes spécifiques de l'IA (par exemple: données agrégées, données anonymes, droit à l'explication). La connexion et le partage de données entre les bases de données nationales et les bases de données sectorielles sont encore lents et ne répondent pas aux exigences du développement de systèmes d'IA à grande échelle.

Il convient de noter le problème du vide de responsabilité juridique lorsque l'IA cause des dommages: C'est l'un des défis juridiques les plus épineux de la pratique. Lorsqu'un système d'IA cause des dommages (par exemple, un véhicule autonome provoque un accident, un logiciel de diagnostic médical donne de mauvais résultats, un système de crédit refuse automatiquement de prêter de manière discriminatoire), qui sera responsable? Le développeur, le fabricant, l'utilisateur ou le système d'IA lui-même? Le droit civil et pénal actuel n'a pas de réponse satisfaisante à ces situations. Cela provoque la panique chez les consommateurs et des risques pour les entreprises.

Il existe également des défis pour la sécurité nationale, l'ordre social et les valeurs morales: Le développement de l'IA pose des risques de sécurité non traditionnels très urgents. La technologie deepfake est utilisée à mauvais escient pour créer de fausses informations, diffamer, escroquer ou provoquer une instabilité politique et sociale,...

Par conséquent, selon le ministère des Sciences et Technologies, il est nécessaire d'élaborer des réglementations détaillées guidant la mise en œuvre de la loi sur l'intelligence artificielle, créant une base solide pour gérer et promouvoir les activités de recherche, de développement, de déploiement et d'utilisation de l'intelligence artificielle au Vietnam.

L'existence d'un système juridique complet sera un levier pour aider le Vietnam à surmonter les défis, à construire une économie de l'IA dynamique et à affirmer sa position de pays doté d'une capacité d'autonomie technologique.

Voir l'original ici