¿Cuáles son los problemas éticos de la inteligencia artificial?
Los principales problemas éticos de la IA se pueden agrupar en siete: sesgo y discriminación, opacidad, privacidad, responsabilidad, desinformación, impacto en el empleo y concentración de poder. Ninguno es teórico: todos tienen casos documentados. Aquí los repasamos uno por uno, con ejemplos verificables, y al final tienes una lista de preguntas para debatir en clase o en tu empresa.
1. Sesgo y discriminación
Un sistema de IA aprende de datos históricos. Si esos datos reflejan desigualdades, el sistema las reproduce y, a veces, las amplifica. Tres casos conocidos:
- Justicia penal: en 2016, ProPublica analizó COMPAS, un algoritmo usado en Estados Unidos para estimar el riesgo de reincidencia, y concluyó que clasificaba erróneamente como de alto riesgo a acusados negros casi el doble de veces que a acusados blancos [1]. El fabricante discutió la metodología, y el debate sigue abierto.
- Contratación: Amazon abandonó una herramienta experimental para filtrar currículos tras descubrir que penalizaba los que incluían la palabra «mujeres», porque había aprendido de una plantilla mayoritariamente masculina [2].
- Reconocimiento facial: el estudio Gender Shades (2018) encontró que tres sistemas comerciales fallaban hasta en un 34,7 % de los casos con mujeres de piel oscura, frente a un máximo del 0,8 % con hombres de piel clara [3].
Por eso se insiste en diversificar las perspectivas en el desarrollo de la IA: equipos y datos más variados detectan antes los fallos que un grupo homogéneo no ve.
2. Opacidad: la caja negra
Muchos modelos son tan complejos que ni sus creadores pueden explicar con detalle por qué dieron una respuesta concreta. Esto es un problema serio cuando la IA influye en un crédito, un diagnóstico o una contratación: si nadie puede explicar la decisión, nadie puede impugnarla bien. Por eso las leyes de protección de datos de Europa, y también de Ecuador, reconocen el derecho a pedir explicaciones sobre decisiones automatizadas.
3. Privacidad
La IA necesita datos, y muchos son personales. Los riesgos van desde entrenar modelos con información recopilada sin consentimiento hasta que un empleado pegue datos de clientes en un chatbot público.
4. Responsabilidad: ¿quién responde si falla?
Si un sistema automatizado perjudica a alguien, ¿la culpa es del desarrollador, de la empresa que lo usa o de quien lo supervisaba? El caso más grave en Europa es el escándalo de las ayudas por hijos en Países Bajos: un sistema de detección de fraude marcó injustamente a miles de familias, muchas de origen migrante, y el Gobierno neerlandés acabó dimitiendo en 2021. Amnistía Internacional documentó el papel del algoritmo en un informe de ese año [4].
5. Desinformación y deepfakes
La IA generativa permite crear textos, audios, imágenes y vídeos falsos casi indistinguibles de los reales, a gran escala y con muy poco coste. Esto afecta a elecciones, reputaciones y estafas por suplantación de voz. Un problema relacionado, menos visible, es que los chatbots tienden a darte la razón: es lo que se conoce como «sycophancy» o complacencia.
6. Empleo
La automatización cambia tareas en profesiones enteras: atención al cliente, traducción, doblaje, diseño, programación. La cuestión ética es quién asume el coste de la transición y si las empresas forman a su gente o simplemente la sustituyen.
7. Concentración de poder
Entrenar los modelos más avanzados cuesta miles de millones, y solo unas pocas empresas pueden hacerlo. Eso concentra en pocas manos decisiones que afectan a millones de personas: qué puede decir un chatbot, qué datos se usan o qué idiomas y culturas quedan mejor representados.
Qué se está haciendo para regularlo
- UNESCO: en noviembre de 2021, sus 193 Estados miembros adoptaron la Recomendación sobre la Ética de la IA, el primer marco mundial en la materia. No es vinculante, pero sirve de referencia para las políticas nacionales [5].
- Unión Europea: el AI Act prohíbe desde febrero de 2025 prácticas como la puntuación social. Una reforma en vigor desde julio de 2026 aplazó las obligaciones para sistemas de alto riesgo, como los usados en contratación, educación o crédito, hasta el 2 de diciembre de 2027 [6]. Tienes el detalle en la guía del AI Act para empresas.
- Ecuador: no tiene ley de IA, pero sí normas aplicables, que resumo en el marco regulatorio de la IA en Ecuador.
Preguntas de ética sobre la inteligencia artificial para debatir
Si buscas preguntas para una clase, un taller o una reunión de equipo, estas funcionan bien porque no tienen una respuesta única:
- ¿Debe una IA tomar decisiones sobre personas (créditos, empleos, ayudas) sin revisión humana?
- Si un algoritmo es más preciso que un humano pero no puede explicar sus decisiones, ¿deberíamos usarlo?
- ¿Quién debe responder cuando una IA causa un daño: quien la crea, quien la vende o quien la usa?
- ¿Es aceptable entrenar una IA con textos, imágenes o voces de personas sin su permiso?
- ¿Tienes derecho a saber que estás hablando con una máquina?
- ¿Debería prohibirse el reconocimiento facial en espacios públicos?
- ¿Una empresa que reemplaza empleados por IA tiene obligaciones con ellos?
- ¿Qué sesgos podría tener una IA entrenada sobre todo con datos de Estados Unidos o Europa al usarse en América Latina?
- ¿Es ético usar IA para hacer deberes, escribir un trabajo o solicitar un empleo?
- ¿Quién debería decidir los valores de un chatbot que usan cientos de millones de personas?
Qué puede hacer una empresa desde hoy
- Hacer un inventario de dónde usa IA y con qué datos.
- Mantener revisión humana en las decisiones que afectan a personas.
- Probar los sistemas con casos de distintos grupos antes de desplegarlos.
- Informar a clientes y empleados cuando interactúan con IA.
- Formar al equipo: la mayoría de los riesgos vienen del uso, no de la tecnología.
Para pasar de los principios a la práctica, sigue con la guía de ética en IA aplicada para empresas.
Fuentes y referencias
Fuentes consultadas el 3 de noviembre de 2026.
- [1] ProPublica: Machine Bias, 23 de mayo de 2016.
- [2] Reuters: Amazon scraps secret AI recruiting tool that showed bias against women, 10 de octubre de 2018.
- [3] Buolamwini y Gebru: Gender Shades, Proceedings of Machine Learning Research, 2018.
- [4] Amnistía Internacional: Xenophobic machines, Dutch child benefit scandal, octubre de 2021.
- [5] UNESCO: Recomendación sobre la ética de la inteligencia artificial, noviembre de 2021.
- [6] The National Law Review: EU Digital Omnibus on AI enters into force, 2026.
