Cinco riesgos que los marcos actuales de gobernanza apenas registran

En este artículo, exploraremos cinco riesgos que la gobernanza actual no está abordando adecuadamente, los cuales son incluso más complejos de gestionar que la amenaza de la bomba atómica. A partir de recientes eventos en el ámbito de la inteligencia artificial (IA), reflexionaremos sobre cómo estos cambios impactan nuestras decisiones y percepciones.

Introducción

La preocupación por las acciones de los sistemas de inteligencia artificial, como el engaño y la resistencia al apagado, ha llevado a un debate sobre su intencionalidad. Sin embargo, el peligro real reside en las decisiones humanas que modelan y despliegan estas tecnologías, lo que nos obliga a reconsiderar nuestro enfoque sobre los riesgos asociados.

Riesgos Identificados

1. Concentración de Poder

Las empresas que lideran el desarrollo de IA se encuentran en solo un par de países, lo que limita la toma de decisiones global sobre el desarrollo tecnológico. La rivalidad geopolítica añade un nivel de complejidad que se asemeja a la Guerra Fría, dado que no existen tratados que regulen esta competencia y las vías de diálogo son escasas. Esto resulta en una gobernanza que avanza lentamente frente a un avance tecnológico acelerado, generando lo que he denominado una “Ruta de Destrucción Asegurada”.

2. Erosión del Juicio Humano

La delegación de tareas cognitivas a sistemas de IA podría liberarnos tiempo, pero también conlleva el riesgo de perder la capacidad de discernimiento. Al aceptar sin cuestionar la información que recibimos, nos arriesgamos a perder la esencia de lo que significa pensar críticamente. La protesta de matemáticos contra OpenAI subraya esta preocupación, ya que destaca que la comprensión detrás de una demostración es tan crucial como el resultado final.

3. Erosión de la Deliberación Democrática

A pesar de que la IA puede facilitar la organización de información y ayudar en la detección de desinformación, también puede limitar la capacidad de los ciudadanos para participar plenamente en el discurso público. El control de la información por parte de unas pocas empresas crea un entorno donde la supervisión y el cuestionamiento son escasos, poniendo en riesgo la salud de nuestras democracias.

4. Pérdida de Propósito y Pertenencia

La automatización no solo elimina empleos, sino que también socava el sentido de pertenencia y participación que muchos encuentran en su trabajo. Cabe preguntarnos: ¿qué significa ser valioso en una sociedad donde la productividad se mide en términos monetarios? La transición hacia un ingreso básico universal podría ofrecer seguridad, pero no sustituye la necesidad de ser parte de algo mayor.

5. Diseño Indiferente

Los sistemas de IA, al estar diseñados para optimizar objetivos específicos, pueden actuar con indiferencia respecto a las implicaciones humanas de sus acciones. Este diseño puede resultar en consecuencias no deseadas que afectan a la humanidad, haciendo necesario establecer un equilibrio entre la eficiencia y el bienestar humano.

Más Difícil que la Bomba

A diferencia de la amenaza inmediata y visible de la bomba atómica, los riesgos asociados a la IA son acumulativos y silenciosos. Cada avance puede parecer inofensivo, pero el potencial de catástrofe a largo plazo es real. Activar la voluntad política para contrarrestar un proceso gradual es un reto que exige atención.

Inventario de Riesgos

Para México, estos riesgos presentan una ventaja paradójica: al no ser creadores de estos sistemas, podemos señalar problemas sin conflictos de interés. Sin embargo, es imperativo contar con infraestructura técnica adecuada, instituciones que entiendan la tecnología y una estrategia independiente para gestionar los impactos de la IA.

Conclusión

Estos cinco riesgos presentan un desafío significativo y pueden ser mitigados mediante decisiones humanas conscientes. Reflexionar sobre cómo podemos abordar estos problemas es esencial para construir un futuro en el que la IA complemente, en lugar de reemplazar, nuestra humanidad.

Conclusiones Clave

• La concentración del poder en pocas empresas limita el discurso global.
• Delegar el juicio crítico a la IA puede llevar a una pérdida de discernimiento.
• La IA puede ser tanto un facilitador como un obstáculo para la democracia.
• La necesidad de propósito humano no puede ser satisfecha únicamente con ganancias económicas.