Propuesta de prohibir el abuso de la IA en el sector publico

El abuso de la IA reduce la viabilidad de la ley

En la tarde del 27 de noviembre la Asamblea Nacional discutio el proyecto de Ley de Inteligencia Artificial.

El diputado Pham Trong Nghia (delegacion de Lang Son) dijo que junto con las oportunidades la dependencia excesiva de la inteligencia artificial (IA) reduce la capacidad de pensamiento y la creatividad.

Segun el diputado ha habido opiniones cientificas de que si no se controla bien conducira al riesgo de que 'la persona se convierta en maquina antes de que la maquina se convierta en persona'.

Para el sector publico el abuso de la IA reduce la viabilidad la humanidad y la eficacia de las politicas y leyes. El suministro de informacion y datos sensibles a la IA si no se controla estrictamente puede provocar fugas de datos dañando la seguridad nacional y el orden y la seguridad social con consecuencias impredecibles.

La IA no es neutral. La IA es la herramienta del creador. Hay cosas que los usuarios no saben pero los desarrolladores o los propietarios de la tecnologia lo saben' señalo el delegado.

El diputado señalo que el abuso de la IA puede hacer que la politica publica este siendo 'dirigida' para servir a los fines de los desarrolladores y los propietarios de la tecnologia.

Por lo tanto se propone agregar un articulo al proyecto de ley que regule el comportamiento prohibido que incluye la prohibicion del abuso de la IA en el sector publico.

Se solicita al Gobierno que promulgue pronto regulaciones sobre la responsabilidad al utilizar la IA en el servicio publico y la promulgacion del marco etico de la IA; construya mecanismos sobresalientes para desarrollar la IA vietnamita.

Diseño de un 'corazon' legal y tecnico para la IA

El diputado Tran Van Lam (delegacion de Bac Ninh) dijo que lo mas preocupante no es lo que la IA hace segun las ordenes humanas sino lo que la IA puede hacer cuando esta fuera del control humano.

Segun el delegado las historias de ciencia ficcion sobre la IA dominando a los humanos no son para intimidarnos sino para recordarnos que cualquier progreso artificial puede traicionar los objetivos iniciales si no esta diseñado sobre la base de valores morales correctos desde el principio.

Estos riesgos muestran la urgencia de establecer un marco legal lo suficientemente fuerte como para que la IA se desarrolle en la direccion correcta y sea segura para la sociedad.

Sin embargo para que la ley sea realmente completa y tenga una vision a largo plazo el diputado propuso una adicion clave: 'Considera la IA como un recien nacido humano'.

El diputado propuso que la Asamblea Nacional añada el principio legal en esta ley que es: Todo software de IA que opere en Vietnam ya sea desarrollado por organizaciones nacionales o extranjeras debe estar equipado con una 'Sistema de datos base de personas estandar'.

Esta base de datos debe contener informacion completa para enseñar a la IA a comprender la ley vietnamita; enseñar a la IA los estandares morales culturales y tradicionales de la nacion; enseñar a la IA la capacidad de identificar correctamente - incorrectamente - de acuerdo con los estandares - de acuerdo con los estandares.

Los limites de comportamiento no deben superar las reglas de identificacion de riesgos para los humanos y lo mas importante asegurar que este almacen de datos de plataforma siempre tenga una posicion de prioridad absoluta en la manipulacion del comportamiento de la IA; no se permite que sea manipulado reemplazado o desactivado por ningun otro algoritmo o datos de entrenamiento.

El diputado cree que esta es la 'caja de resonancia' legal y tecnica que garantiza que la IA no se desvie.

Lea el original aqui