El actual debate en Rusia sobre el desarrollo de las IA / Natalia Kasperskaya

Fuente: Canal de Telegram de Natalya Kasperskaya 11 de noviembre, 2028

Ayer asistí a una reunión del Consejo Científico de la Academia Rusa de Ciencias (RAS) sobre «Seguridad de la Información en Sistemas de Inteligencia Artificial», presidida por el académico Igor Anatolyevich Sheremet.

Hubo muchos ponentes interesantes, quienes (incluyéndome a mí) abordaron los riesgos técnicos del uso de sistemas de IA. Sin embargo, me cautivó especialmente una presentación que no era técnica: la de Viktor Borisovich Naumov, Doctor en Derecho. Viktor es quizás el experto más reconocido del país en derecho de las tecnologías de la información. Él y yo participamos en el grupo de trabajo del Senador Kozhin en el Consejo de la Federación, que elaboró ​​su propia versión de un proyecto de ley sobre inteligencia artificial. Ya he escrito sobre este proyecto de ley anteriormente.

En esta ocasión, Viktor Naumov ofreció una presentación detallada sobre el estado de la legislación en materia de IA en nuestro país. Por ejemplo, me sorprendió saber que hace seis años la Federación Rusa adoptó el «Concepto para el Desarrollo de la Regulación de las Relaciones en el Ámbito de la Inteligencia Artificial y las Tecnologías Robóticas hasta 2024».

El concepto fue aprobado por la Orden Gubernamental Rusa n.º 2129-r del 19 de agosto de 2020, que contemplaba el desarrollo y la adopción, para 2024, de una serie de regulaciones que rigieran la IA y la robótica. Como resultado, en 2020 se adoptó un documento que respaldaba regímenes jurídicos experimentales en el ámbito de la innovación digital en la Federación Rusa (Ley Federal n.º 258 del 31 de julio de 2020), y ahí quedó todo. Fue solo este año, seis años después, cuando se adoptó una ley que apoya el desarrollo de tecnologías de IA (Ley Federal n.º 243 del 27 de junio de 2026). En otras palabras, el plan original de regular las relaciones en el ámbito de la IA ha sido sustituido por el apoyo a las tecnologías de IA.

Si bien, además de nuestro proyecto de ley, también existía un proyecto de ley del Ministerio de Desarrollo Digital, «Sobre los fundamentos de la regulación estatal de la aplicación de las tecnologías de IA en la Federación Rusa», este ha desaparecido. También existía un proyecto de ley federal del diputado de la Duma Estatal, Morozov, titulado «Sobre Robótica y Sistemas Autónomos», que fue retirado. Como resultado, solo se mantuvo la ley de apoyo a la IA. Aparentemente, alguien muy poderoso necesitaba apoyo para su IA.

Viktor Borisovich llamó la atención sobre tres características de la Ley Federal 243 aprobada, que muchos ni siquiera habían considerado.

La primera es la definición de IA. Según Naumov, en ninguna otra parte del mundo, en ninguna ley u otro documento, se define la IA con tanta claridad como en nuestra Ley Federal 243.

«La inteligencia artificial es un conjunto de soluciones tecnológicas que permiten imitar las funciones cognitivas humanas… y obtener resultados, al realizar tareas específicas, comparables o superiores a los resultados de la actividad intelectual humana.» «Un modelo fundamental de la IA es un programa para computadoras electrónicas,… diseñado para realizar tareas intelectuales a un nivel comparable o superior a los resultados de la actividad intelectual humana…» (Artículo 3 de la Ley Federal 243).

En otras palabras, la ley postula que la IA es al menos comparable o superior a la actividad humana. Pero la idea misma de la superioridad de las máquinas sobre los humanos es la base del tecnotranshumanismo. «¿Acaso este enfoque no conducirá en última instancia a la minimización de la capacidad de acción humana y al avance de las ideas transhumanistas?», pregunta Viktor Naumov. Y no encuentro ningún argumento que lo contradiga.

La segunda característica de la ley es el Artículo 10, que permite el uso de propiedad intelectual de terceros para el entrenamiento de modelos fundamentales rusos. Según un abogado con muchos años de experiencia en la protección de los derechos de propiedad intelectual en el sector de las TI, esto colapsará no solo el mercado editorial ruso, sino también el mercado del software. ¿Qué pasaría si un fabricante de modelos decidiera repentinamente usar ese software con fines de entrenamiento? Cabe mencionar que ha habido muchas apelaciones sobre este tema: la Unión Rusa del Libro y otras asociaciones de titulares de derechos de autor apelaron al gobierno, al Consejo de la Federación, a la administración presidencial y a la Duma Estatal incluso antes de que se aprobara la ley, señalando que la restricción de los derechos exclusivos se introduce en violación de la Constitución y el Código Civil. Pero todas las solicitudes quedaron sin respuesta. Quizás, con el cambio de Viceprimer Ministro a cargo del desarrollo digital, esta disposición de la ley se reconsidere.

El tercer aspecto se refiere a la seguridad y la confianza. El concepto de IA confiable está ausente de la ley, como sabemos (en este sentido, por cierto, el requisito de uso obligatorio de IA por parte de todas las industrias es extraño). Sin embargo, el Sr. Naumov señaló que los requisitos para la identificación cualitativa de los resultados también son opcionales. Traducido a un lenguaje sencillo, esto significa que la calidad del resultado no es particularmente importante. Haya o no un resultado, lo principal es la implementación. Por cierto, el proyecto de ley que desarrollamos juntos en el grupo de trabajo del Consejo de la Federación incluía un requisito para sistemas confiables, así como una prohibición total del uso de sistemas de IA que pudieran dañar instalaciones críticas.

El Sr. Naumov extrae una conclusión interesante de estos tres aspectos. En términos de la Ley N° 243, los humanos son la parte más débil en la comunicación «tecnología-humano». En derecho jurídico, existe el concepto de «parte más débil», que la ley generalmente protege. Por ejemplo, los accionistas minoritarios en derecho corporativo o una mujer desempleada en un proceso de divorcio. De igual modo, existen prohibiciones sobre la imposición de servicios.

Por lo tanto, afirma el Sr. Naumov, el factor clave debería ser la norma de que, por defecto, una persona no consiente las interacciones digitales. Deberían crearse zonas libres de IA, con identificación y etiquetado obligatorios de todo aquello a lo que se hayan aplicado estas tecnologías.

«El derecho a rechazar la tecnología debería convertirse en un derecho humano y civil universal… y servir tanto al objetivo general de asegurar el antropocentrismo en el mundo digital como a la preservación de los valores humanos que han evolucionado a lo largo de los siglos», escribe Naumov. Yo añadiría que la prioridad de los valores tradicionales está declarada en el Decreto Presidencial N° 809 del 9 de noviembre de 2022, pero la imposición activa de la tecnología contradice directamente este Decreto y los valores tradicionales en general. Desafortunadamente, la ley mencionada también se hizo sin ninguna consideración de estos valores.

Hace un par de semanas, vi por casualidad un prototipo del Plan Nacional para la Implementación de la Inteligencia Artificial hasta 2030. Francamente, se me puso la piel de gallina cuando leí los indicadores que se deben alcanzar para 2030:

– Porcentaje de instituciones de educación superior que utilizan herramientas digitales con IA: 75%;

– Porcentaje de profesores universitarios que utilizan asistentes de IA: 80%;

– Porcentaje de apelaciones ciudadanas a agencias gubernamentales para las cuales se generaron borradores de respuestas utilizando IA: 50%;

— La proporción de vacantes cubiertas mediante IA es del 100%.

— La proporción de registros médicos electrónicos (RME) para los que se generó un perfil digital del paciente mediante una solución de IA es del 95% (RME son registros médicos electrónicos);

— La proporción de estudiantes de 9.º y 11.º grado que utilizan un servicio de IA para planificar su trayectoria de crecimiento personal es del 60%;

— La proporción de profesores que utilizan IA para realizar tareas rutinarias al revisar las pruebas de diagnóstico de los estudiantes es del 60%.

Espero sinceramente que el nuevo liderazgo de la tecnología de la información de nuestro país no adopte este plan, ya que tales requisitos alimentan directamente las ideas transhumanistas sobre las que advirtió Viktor Naumov, que niegan el papel de los humanos, reduciéndolos al nivel de un asistente aburrido, no intelectual y de voluntad débil de la Gran IA Sabia. ¿Por qué necesitamos un mundo donde «Humanidad es una palabra orgullosa», no «Humanidad», sino la inteligencia artificial que crea?

https://t.me/potapov_npp/7029 – zinc

El etiquetado debería ser obligatorio, sí.
La omisión deliberada de etiquetar un producto de IA debería ser criminalizada.

En cuanto a la magnitud de su implementación, puede resultar alarmante, pero ya es inevitable. El ludismo o las referencias a los valores tradicionales no la detendrán. De forma similar a como la cobertura total de internet en los ámbitos mencionados pudo haber asustado a la gente en la primera mitad de la década de 2000. La cuestión reside más bien en cómo cambiarán el Estado y la sociedad una vez alcanzados estos objetivos, que sin duda se alcanzarán en gran medida. Esto se observa claramente en el sistema educativo, donde la implementación masiva de la IA está destruyendo conceptos pedagógicos tradicionales como las tareas, los exámenes exhaustivos y demás, ante nuestros propios ojos. Este es un momento revelador del choque entre las nuevas tecnologías y las estructuras de la sociedad tradicional.