¿Qué es un código ético de IA en una empresa?

Es un documento corto que dice para qué puede usar tu empresa la inteligencia artificial, para qué no, quién responde de cada sistema y cómo se revisan sus decisiones. Sirve para que la ética en la toma de decisiones basada en IA no dependa del criterio de cada empleado. Un buen código cabe en dos o tres páginas y se apoya en marcos reconocidos, no en frases bonitas.

Si buscas una guía más amplia sobre cómo aplicar la ética de la IA en el día a día, tienes la guía de ética en IA aplicada para empresas. Este artículo se centra en el código ético y en cómo decidir.

Los marcos en los que apoyarte

No hace falta inventar los principios. Estos cuatro son públicos y los usan gobiernos y empresas:

MarcoQué aporta
Recomendación de la UNESCO sobre ética de la IA (2021)Principios como proporcionalidad, no discriminación, supervisión humana y transparencia, adoptados por sus Estados miembros [1].
Principios de IA de la OCDE (2019, actualizados en 2024)Cinco principios para una IA fiable, con rendición de cuentas y respeto a los derechos humanos [2].
Marco de gestión de riesgos de IA del NIST (2023)Método práctico en cuatro funciones: gobernar, mapear, medir y gestionar [3].
ISO/IEC 42001 (2023)Norma certificable para un sistema de gestión de IA, al estilo de la ISO 27001 para seguridad [4].

Y una base legal si operas en Europa: el AI Act prohíbe desde febrero de 2025 ciertas prácticas, como la manipulación o la puntuación social. Está explicado en la guía del AI Act. En Ecuador no hay ley de IA, pero sí protección de datos y una estrategia nacional; lo resumo en el marco regulatorio de la IA en Ecuador.

Qué debe incluir tu código ético de IA

  1. Alcance: qué herramientas y sistemas cubre (chatbots, modelos propios, IA dentro de software de terceros).
  2. Usos permitidos, condicionados y prohibidos. Por ejemplo: permitido redactar borradores; condicionado usar datos de clientes; prohibido decidir despidos o rechazar créditos sin revisión humana.
  3. Responsables: cada sistema tiene una persona dueña que responde de él.
  4. Datos: qué datos pueden entrar en una herramienta de IA y cuáles nunca.
  5. Transparencia: cuándo se avisa a clientes y empleados de que interviene una IA.
  6. Revisión de sesgos antes de usar un sistema que afecte a personas, y cada cierto tiempo después.
  7. Canal de quejas y corrección: cómo alguien puede pedir que una persona revise una decisión.
  8. Incidentes: qué hacer si un sistema falla, filtra datos o discrimina.

Cómo decidir con ética: tener en cuenta a todos los afectados

Un principio básico de la ética empresarial es no favorecer el punto de vista de un grupo de interés sin tener en cuenta a todos los actores involucrados. Con IA esto es aún más importante, porque un sistema optimiza lo que le pidas, y suele pedirlo un solo grupo (el área que paga el proyecto).

Antes de aprobar un uso de IA, responde por escrito:

  • ¿A quién afecta esta decisión? Clientes, empleados, proveedores, personas que ni siquiera son clientes.
  • ¿Quién gana y quién podría salir perjudicado?
  • ¿Hemos escuchado a los afectados, o solo a quien propone el proyecto?
  • ¿Podemos explicar la decisión a una persona perjudicada sin avergonzarnos?
  • ¿Qué pasa si el sistema se equivoca? ¿Quién lo detecta y cómo se repara?

Dos casos reales que conviene conocer

  • El reclutador de Amazon. En 2018 Reuters reveló que Amazon había abandonado una herramienta experimental de selección porque penalizaba currículums con la palabra «mujeres»: había aprendido de diez años de contrataciones mayoritariamente masculinas [5]. Moraleja: los datos históricos arrastran los sesgos del pasado.
  • La Apple Card. En 2019 hubo denuncias públicas de que daba menos crédito a mujeres. El Departamento de Servicios Financieros de Nueva York investigó y en 2021 concluyó que no había discriminación ilegal, aunque criticó la falta de transparencia con los clientes [6]. Moraleja: aunque el sistema sea correcto, si no sabes explicarlo, pierdes la confianza.

El artículo original incluía ejemplos sin nombre («una plataforma de ventas en línea», «un banco que…») presentados como casos reales. No he podido verificarlos y los he sustituido por estos dos, documentados.

Cómo empezar esta semana

  1. Haz un inventario de las herramientas de IA que ya se usan en tu empresa, también las que nadie aprobó.
  2. Clasifícalas por riesgo: ¿afectan a decisiones sobre personas?
  3. Redacta la primera versión del código con los ocho puntos de arriba.
  4. Nombra un responsable y fija una revisión cada seis meses.

Yo lo resumo así: un código ético de IA vale lo que vale la primera vez que alguien lo usa para decir «esto no lo hacemos».

Fuentes y referencias

Fuentes consultadas el 3 de noviembre de 2026.

  1. [1] UNESCO: Recomendación sobre la ética de la inteligencia artificial, noviembre de 2021.
  2. [2] OCDE: AI Principles, 2019, actualizados en mayo de 2024.
  3. [3] NIST: AI Risk Management Framework, enero de 2023.
  4. [4] ISO: ISO/IEC 42001:2023 Sistemas de gestión de IA, diciembre de 2023.
  5. [5] Reuters: Amazon scraps secret AI recruiting tool that showed bias against women, 10 de octubre de 2018.
  6. [6] NYDFS: DFS Issues Findings on the Apple Card and Its Underwriter Goldman Sachs Bank, 23 de marzo de 2021.