Preocupante problema de la responsabilidad legal cuando la IA causa daños

El Ministerio de Justicia acaba de publicar el expediente de evaluación del proyecto de Decreto del Gobierno que detalla algunos artículos y medidas para implementar la Ley de Inteligencia Artificial.

En el Proyecto de Presentación, el Ministerio de Ciencia y Tecnología dijo que la práctica de la implementación de la IA puede generar muchos problemas como riesgos éticos, prejuicios informáticos, violación de la privacidad, protección de datos personales, secretos comerciales y discriminación en la aplicación de la IA; la falta de un mecanismo para clasificar y controlar los riesgos del sistema de IA; la falta de un mecanismo para inspeccionar, licenciar y supervisar los sistemas de IA, especialmente los sistemas de IA de alto riesgo; dificultades para rastrear la responsabilidad cuando el sistema de IA causa daños; falta de un mecanismo de coordinación eficaz en la construcción y el uso compartido de la infraestructura de computación para la IA;...

Todo esto crea una gran barrera para la investigación, el desarrollo, la implementación y el uso de sistemas de inteligencia artificial en Vietnam.

Las agencias funcionales identifican algunos problemas típicos como:

Deficiencias en la gestión, explotación y protección de datos: un recurso fundamental para la IA: la Resolución 57-NQ/TW ha señalado claramente que "los datos deben convertirse en el principal material de producción" y "desarrollar la economía de datos, el mercado de datos".

Sin embargo, la práctica de recopilar, procesar, compartir y utilizar datos para la formación de modelos de IA enfrenta muchas dificultades. Las regulaciones actuales sobre la protección de datos personales, aunque existen, no son lo suficientemente detalladas como para resolver los problemas específicos de la IA (por ejemplo: datos agregados, datos anónimos, derecho a la interpretación). La conexión y el intercambio de datos entre las bases de datos nacionales y las bases de datos industriales son lentos y no cumplen con los requisitos para el desarrollo de sistemas de IA a gran escala.

Cabe destacar el problema del vacío de responsabilidad legal cuando la IA causa daños: Este es uno de los desafíos legales más dolorosos de la práctica. Cuando un sistema de IA causa daños (por ejemplo: coches autónomos causan accidentes, software de diagnóstico médico da resultados incorrectos, sistema de crédito rechaza automáticamente préstamos de manera discriminatoria), ¿quién será responsable? ¿Desarrollador, fabricante, usuario o el propio sistema de IA? El derecho civil y penal actual no tiene una respuesta satisfactoria a estas situaciones. Esto causa confusión a los consumidores y riesgo para las empresas.

Además, existen desafíos para la seguridad nacional, el orden social y los valores éticos: El desarrollo de la IA plantea peligros de seguridad no tradicionales muy urgentes. La tecnología deepfake se abusa para crear información falsa, difamar, estafar o causar inestabilidad política y social,...

Por lo tanto, según el Ministerio de Ciencia y Tecnología, es necesario desarrollar regulaciones detalladas que guíen la implementación de la Ley de Inteligencia Artificial, creando una base sólida para gestionar y promover las actividades de investigación, desarrollo, implementación y uso de la inteligencia artificial en Vietnam.

Tener un sistema legal integral será un catalizador para ayudar a Vietnam a superar los desafíos, construir una economía de IA dinámica y afirmar la posición de un país con capacidad de autosuficiencia tecnológica.

Ver la versión original aquí