En 2024, la UNESCO presentó el informe llamado “De qué hablamos cuando hablamos de inteligencia artificial“, donde propone importantes principios éticos al momento de trabajar con la IA:
- Equidad y no discriminación: Se refiere a que las decisiones de los sistemas de IA deben ser justos, es decir, sus decisiones no deben sistemática privilegiar a grupos arbitrarios. Los sesgos algorítmicos son errores repetibles y sistemáticos en un sistema de computadoras que crea resultados injustos.
- Transparencia y explicabilidad: La transparencia se refiere a que los sistemas subyacentes de los sistemas de IA deben ser comprensibles. La explicabilidad alude a la capacidad de la IA de entregar no solamente un resultado, sino una explicación de cómo se llegó a ese resultado.
- Supervisión y decisión humanas: Los sistemas de IA deberían ayudar a las personas a tomar decisiones informadas y mejores, no socavando la autonomía humana.
- Responsabilidad y rendición de cuentas: La IA nunca podrá reemplazar la responsabilidad final de los seres humanos de rendir cuentas. Esto establece que la responsabilidad ética y jurídica recae siempre en personas físicas o personalidades jurídicas.
- Sostenibilidad: Aunque no lo notemos, todas las tecnologías informáticas, incluidas la IA, usan recursos naturales. Para 2027, se estima que la industria IA usará tanta energía como un país pequeño.
Tipos de IA
- IA débil: es el tipo de IA que usamos todos los días en nuestro trabajo, estudios y hogar. Todos los algoritmos que usamos para crear imágenes, canciones, resumir texto y procesar información son, a fin de cuentas, inteligencia artificial débil. Este tipo de inteligencia artificial se enfoca en tareas específicas y es incapaz de realizar tareas fuera del ámbito para el que fue programado.
- IA fuerte: es lo que el Dr. Villalobos denomina como “ciencia ficción”, porque es un concepto teórico que busca replicar la inteligencia humana. Aún no está al alcance de nosotros.
Recomendaciones para el buen uso de la IA