Con sello venezolano: IA criolla a un paso de su código de ética

2026-03-19 - 19:15

Ya habíamos adelantado, en septiembre pasado en esta columna, información sobre la inteligencia artificial (IA) y sobre el trabajo en un Código de Ética para el Desarrollo y Aplicación Responsable de la Inteligencia Artificial, que busca trazar camino en medio de la vorágine algorítmica. Pues bien, desde febrero esto ya es un hecho. Comencemos por entender: ¿para qué es necesario un código de ética? Este establece normas de conducta claras que garantizan honestidad, integridad y respeto dentro de una organización o profesión. En el caso de la IA, una herramienta aún en desarrollo, no solo se debe regular, sino también trabajar sin prisa y con mucha precisión. Este código pone a Venezuela en el mapa de las naciones que adelantan un código de conducta, colocando la integridad humana en primer lugar. Este documento, más que una ley con régimen sancionatorio, se configura como una «brújula moral» para investigadores, desarrolladores e instituciones. El Ministerio de Ciencia y Tecnología, liderado por la bióloga Gabriela Jiménez, lo presentó ante la Comisión de Educación, Salud, Ciencia, Tecnología e Innovación de la Asamblea Nacional como parte de «la alianza legislativa y científica rumbo a la construcción de una IA ética». Según la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo, el mercado global de IA pasará de 189 mil millones de dólares en 2023 a 4,8 billones en 2033. Lamentablemente, este mercado avanza a un paso tan acelerado que los países no logran ponerse de acuerdo en sus regulaciones. La Unión Europea optó por la vía más exigente con su Ley de IA, que entró en vigor en agosto de 2024, mientras que Japón aprobó en 2025 una normativa más flexible, favorable a la innovación. Brasil, por su parte, avanza con su Proyecto de Ley 2338/2023, y la Unión Africana adoptó en 2024 una estrategia continental centrada en la soberanía tecnológica. En este tablero global, Venezuela presentó en febrero de este año, a través del Ministerio del Poder Popular para Ciencia y Tecnología (Mincyt), su propuesta. La ministra Gabriela Jiménez lo expuso ante la Comisión de Educación, Salud, Ciencia, Tecnología e Innovación de la Asamblea Nacional como parte de «la alianza legislativa y científica rumbo a la construcción de una IA ética». Los nueve pilares de una IA con rostro humano El código se estructura en nueve principios fundamentales que merecen ser analizados no solo por su contenido, sino por lo que revelan de una determinada concepción sobre el rol de la tecnología en la sociedad venezolana. Autonomía y no manipulación: Quizás sea uno de los puntos más sensibles en la discusión ética contemporánea. El código establece una frontera clara contra lo que denomina «lavado de cerebro algorítmico», prohibiendo sistemas que utilicen técnicas de manipulación conductual sutil que anulen la capacidad de decisión crítica de los ciudadanos. En un mundo donde las plataformas digitales generan «cámaras de eco y burbujas de filtro que dificultan el consenso y acentúan desequilibrios en el acceso a la verdad», este principio adquiere dimensiones profundamente democráticas. Antropocentrismo y derechos fundamentales: La IA debe ser una herramienta para ampliar las capacidades humanas, nunca para reemplazarlas. El código subraya que la tecnología debe estar supeditada a los derechos consagrados en la Constitución, rechazando criterios de «eficiencia fría» que vulneren la dignidad. No es un detalle menor: coloca a la persona en el centro, en momentos donde el discurso tecnológico tiende a celebrar la automatización incluso a costa de derechos laborales o sociales. Diversidad y no discriminación: Se exige que los sistemas de IA sean justos e inclusivos, con especial protección a grupos vulnerables como mujeres, niños, adolescentes y minorías. El código promueve la diversidad en los equipos de desarrollo, la perspectiva de género y advierte contra la homogeneización cultural o la segmentación de la población en burbujas informativas. La auditoría de algoritmos que gestionen salud, educación o servicios públicos deberá garantizar que no perpetúen discriminaciones históricas. Responsabilidad ambiental: La IA es presentada como aliada frente a la crisis climática, orientando el procesamiento de Big Data hacia la predicción de desastres naturales, la optimización de suelos agrícolas y el monitoreo de la deforestación y fuentes hídricas. Pero también se reconoce el impacto ambiental del entrenamiento de modelos, invitando a una reflexión necesaria sobre la huella ecológica de la tecnología. Seguridad y privacidad: Abordados como derechos fundamentales, estos principios exigen consentimiento informado, transparencia sobre el uso de datos, minimización en la recolección y protección de datos biométricos y médicos. La privacidad no es un añadido, sino «un requisito de diseño» desde la concepción misma de los sistemas. Transparencia y rendición de cuentas: Los sistemas de IA deben ser comprensibles, explicables y auditables. La trazabilidad de decisiones, especialmente en sectores críticos como salud y justicia, se vuelve imperativa. El código introduce además la «contraloría social» como mecanismo para que la ciudadanía supervise y cuestione el funcionamiento de estos sistemas. Ciencia abierta y desarrollo local: Uno de los puntos más estratégicos del documento es la promoción del software libre y los estándares abiertos. En un contexto donde «apenas 100 empresas tienen el 40% del gasto corporativo mundial en I+D, localizado sobre todo en Estados Unidos y China», la apuesta por el código abierto permite al país auditar, modificar y mejorar herramientas sin depender de licencias extranjeras que puedan ser revocadas por decisiones corporativas o sanciones, como ha ocurrido en el presente. Excelencia e innovación: El último principio impulsa la investigación de vanguardia, la formación de talento humano y la colaboración entre academia, industria y gobierno para que la calidad científica camine de la mano con el compromiso ético y el desarrollo nacional. Soberanía tecnológica en tiempos de dependencia El aspecto más revelador del código venezolano es su insistencia en la soberanía tecnológica. En un mercado donde «Estados Unidos y China reúnen cerca del 60% de las patentes de IA y un tercio de las publicaciones globales», y donde «casi el 90% de los modelos notables de 2024 provinieron de la industria, no de las universidades», la preocupación por la dependencia adquiere dimensiones geopolíticas. Venezuela avanza en lo local, en la no dependencia. El código busca que los centros de datos y el conocimiento permanezcan bajo control nacional, asegurando que las decisiones estratégicas del país no dependan de infraestructuras externas. Esta visión se alinea con lo que la ministra Jiménez expresó ante la Asamblea Nacional: «Nuestra comunidad de investigadores, científicas e innovadores enfrenta barreras para acceder a métricas y datos de plataformas privadas, lo que impide crear estrategias basadas en evidencia. ¡Por ello, la Ciencia Abierta debe ser nuestra estrategia concreta de acción e inclusión!», detalló la experta. Lo valioso y visionario del código Sí, como adelantamos, hay países y continentes que adelantan sus códigos. ¿Pero qué hace especial a este? Vamos a desglosarlo y ustedes me darán después su opinión. 1. Pone a las personas primero: En un mundo donde la IA suele desarrollarse con lógica de mercado (maximizar beneficios, engagement o eficiencia), el código venezolano coloca explícitamente la dignidad humana, los derechos fundamentales y la no manipulación como ejes centrales. Eso es éticamente sólido y va en línea con las recomendaciones de la UNESCO. 2. Aborda la dependencia tecnológica: Al promover software libre, ciencia abierta y soberanía de datos, el código reconoce un problema real de América Latina: somos consumidores de tecnología, no creadores. Dependemos de infraestructura y algoritmos diseñados en el Norte Global, con sus sesgos y agendas. Este enfoque es estratégico y necesario. 3. Incluye la perspectiva ambiental: Vincular la IA con la crisis climática, la predicción de desastres y el monitoreo ecológico es especialmente relevante para un país como Venezuela, con gran vulnerabilidad ambiental y riqueza en biodiversidad. No es común ver esto en marcos éticos. 4. Habla de diversidad y no discriminación: Reconocer que los algoritmos pueden perpetuar desigualdades históricas y pedir equipos diversos, perspectiva de género y protección a grupos vulnerables es un paso fundamental. La IA no es neutral, y explicitarlo es un acto de honestidad. ¿Qué puede significar realmente este código? Es una declaración de principios ante organismos multilaterales. En un mundo donde los gigantes tecnológicos dominan la IA, Venezuela se alinea con el Sur Global y con discursos de soberanía tecnológica, como los que promueven Brasil, Sudáfrica o la India. Un marco orientador para investigadores: Para quienes trabajan en universidades y centros de investigación venezolanos, tener un código ético puede ser útil para justificar líneas de investigación, acceder a fondos y formar estudiantes con conciencia crítica, y no abusar de las herramientas. Un punto de partida, no de llegada: Lo importante será si este código se traduce en políticas públicas concretas: formación de talento, inversión en infraestructura, apertura de datos, creación de una agencia reguladora independiente. La pregunta fundamental que plantea este código, y que debería atravesar cualquier debate sobre tecnología en nuestro tiempo, fue formulada con lucidez en un artículo reciente: «La verdadera cuestión es quién fijará primero las reglas de interoperabilidad, responsabilidad y acceso. Si solo lo hacen los mercados dominantes, la ciudadanía llegará tarde. Si lo hacen los Estados, las universidades, los organismos multilaterales y los sistemas nacionales de ciencia y tecnología, la IA podrá desarrollarse con mayor legitimidad, independencia y utilidad social». El código de ética venezolano apuesta por esto. En un mundo donde la tecnología avanza con una estructura oligopolizada de conocimiento, capital y capacidad de cómputo, tener una brújula ética no es un lujo: es una necesidad de supervivencia como sociedad que avanza cada vez más hacia la cohabitación con la IA. En este caso, una nuestra, una con ética, y mientras desarrollamos una, las que se usan acá buscan no solo regularse sino poner al humano y respetar a nuestra sociedad con sello venezolano. Acá dejamos el código para su revisión, su estudio y socialización