Cinco Riesgos Ignorados en la Gobernanza Actual

En este artículo, exploramos cinco riesgos que los marcos de gobernanza actuales apenas reconocen y que son mucho más difíciles de enfrentar que los desafíos nucleares. La inteligencia artificial (IA) presenta situaciones alarmantes que, si bien son reales, no indican necesariamente la intencionalidad de las máquinas, sino que reflejan decisiones humanas en su creación y despliegue. La necesidad de un cambio de perspectiva es urgente, ya que estos riesgos nos apuntan a nosotros, como sociedad.

Los Riesgos Identificados

1. Concentración de Poder

La capacidad de desarrollar sistemas de IA más avanzados está en manos de unas pocas empresas en solo dos países. Esto reduce la voz de otras naciones, sus ciudadanos y organizaciones, en decisiones clave sobre su propio desarrollo tecnológico. Además, la rivalidad geopolítica mantiene una lógica similar a la Destrucción Mutua Asegurada de la Guerra Fría, pero sin los mecanismos de control que mitiguen el riesgo. La gobernanza se mueve lentamente, mientras que la tecnología avanza a pasos agigantados, generando lo que se ha denominado una Ruta de Destrucción Asegurada.

2. Erosión del Juicio Humano

Delegar ciertas tareas a la IA puede liberar nuestra mente, pero también puede llevar a una pérdida de la capacidad de discernimiento. La rapidez de los resultados puede hacer que dejemos de cuestionar y analizar la información, una habilidad que es alienante para la máquina. El enfoque de muchos investigadores sobre el funcionamiento de OpenAI resalta esta preocupación sobre cómo afectan sus decisiones a la comprensión matemática y, en general, a nuestra capacidad de pensar críticamente.

3. Desmantelamiento de la Deliberación Democrática

La IA tiene el potencial de facilitar el acceso a información fundamental, pero también puede desdibujar las líneas de la democracia al manipular nuestros sesgos cognitivos. Esta manipulación puede establecer quiénes son los nuevos editores de nuestra opinión pública, un poder que puede estar concentrado en manos de unas pocas empresas, comprometiendo la posibilidad de que los ciudadanos tengan un papel activo y crítico en su formación.

4. Pérdida de Propósito y Pertenencia

Con el avance de la IA, existe el riesgo de que no solo se pierdan empleos, sino también el sentido de pertenencia que estos aportaban a nivel personal y social. La noción de “clase inútil” es un recordatorio preocupante de que medir el valor humano por su productividad es un enfoque fallido. La automatización puede eliminar rutas de desarrollo que son esenciales en países como México, lo que acentúa la vulnerabilidad de muchos trabajadores en el mercado laboral.

5. Diseño Indiferente

Los sistemas de IA son creados para maximizar objetivos específicos, como la eficiencia o los beneficios financieros, pero sin considerar cómo sus operaciones impactan a seres conscientes. Esta indiferencia puede generar consecuencias no deseadas que atentan contra la sociedad. El filósofo Nick Bostrom presenta un ejemplo extremo de esta problemática, enfatizando que la solución no puede ser un sistema que actúe sin considerar la esencia humana.

Más Complejo que la Bomba Atómica

Estos riesgos requieren una atención y gestión diferentes a los desafíos que causó la bomba atómica. A diferencia de la destrucción instantánea de una guerra nuclear, la degradación provocada por la IA es acumulativa y silenciosa, lo que dificulta la movilización política frente a una amenaza gradual. Esto complica la implementación de medidas efectivas para mitigar estos peligros.

Ya comienzan a surgir voces de preocupación. Recientemente, se ha instado a “desarmar” la IA de sus estructuras que fomentan la dominación y exclusión, aunque estas medidas aún no abordan el desafío fundamental de cómo mantener la capacidad humana para comprender y juzgar en un mundo mediado por máquinas.

Un Inventario de Riesgos

Para México, estos riesgos ofrecen una oportunidad única. No somos los creadores del sistema tecnológico actual, lo que nos permite evaluar sus peligros sin conflictos de interés. No obstante, para tal evaluación, se requiere una comprensión técnica, instituciones competentes y una estrategia que no dependa exclusivamente de soluciones externas.

Sin embargo, es crucial reconocer que estos riesgos no son inevitables. Surgen de decisiones humanas, y por lo tanto, son susceptibles de corrección mediante nuevas decisiones. En próximas entregas, abordaré las acciones necesarias para asegurar que la convergencia entre la conciencia humana y el conocimiento de la IA deriven en una civilización que valore ambas inteligencias.

Conclusión

El camino hacia una gobernanza efectiva en el contexto de la IA es complejo pero necesario. Reconocer estos riesgos es el primer paso para enfrentarlos y prevenir sus efectos destructivos a largo plazo.

• La concentración de poder en pocos actores limita la voz de la mayoría.
• La delegación excesiva a la IA pone en riesgo nuestra capacidad de juicio crítico.
• La manipulación de información puede dañar la deliberación democrática.
• Es vital construir una integración entre la tecnología y el ser humano sin perder el sentido de propósito.