Ética en la inteligencia artificial: por qué los algoritmos no son neutrales

Hace unos días estuve en Milenio, en el espacio Multiverso Milenio, para una entrevista con el periodista Ricardo Raphael, grabada en las oficinas de TikTok México, que giró en torno a una pregunta que parece técnica y en realidad es política, cultural y ética: ¿por qué insistimos en tratar a la inteligencia artificial como si fuera un oráculo imparcial?

El título del programa lo decía sin rodeos: Ética e inteligencia artificial: el mito de la neutralidad en los algoritmos. No fui a vender una herramienta ni a predecir el fin del trabajo. Fui a desarmar una idea peligrosa: que basta con preguntarle a un modelo para obtener una respuesta objetiva, limpia, sin intereses detrás.

No es el oráculo de Delfos

Arrancamos con esa analogía porque resume el error de mucha gente. En la Grecia antigua se consultaba al oráculo asumiendo que la voz era sagrada. Hoy le pedimos a un chatbot que decida, que opine, que seleccione, que resuma la realidad. Y olvidamos que esa voz tiene hilos.

Esos hilos no son misteriosos. Los pone quien entrena el modelo, quien limpia los datos, quien define qué queda dentro y qué se descarta, quien financia el desarrollo y quien regula, o deja de regular, su uso. Si alimentamos estos sistemas con prejuicios, omisiones y visiones sesgadas del mundo, la máquina no se vuelve sabia: se vuelve un espejo más rápido y más difícil de auditar.

La responsabilidad que nadie quiere firmar

Una parte de la conversación se fue al hueco legal y moral que todavía no está resuelto. La inteligencia artificial ya toma, o ayuda a tomar, decisiones que afectan a millones de personas en segundos: salud, crédito, seguridad, educación, acceso a información. Si un algoritmo discrimina, desinforma, viola derechos o causa daño, ¿quién responde?

¿El desarrollador? ¿La empresa que lo comercializa? ¿La institución que lo implementa? ¿El usuario que lo usa sin leer una sola condición? Todavía no hay un consenso internacional claro. A eso se suma otro problema: muchos modelos son opacos. No siempre es fácil entender cómo llegaron a una conclusión, y sin esa transparencia es casi imposible corregir el error a tiempo.

Sobre este hueco he escrito antes, cuando se discutía el marco legal en México: la IA pide derechos, un llamado urgente a la regulación en México.

Los sesgos no nacen en la máquina

Insistí en algo que a veces se cuenta mal. El sesgo no es un fallo mágico del silicio. Es un producto humano. Cada sistema tiene dueño, visión de negocio y un corpus de datos que alguien eligió, estructuró y etiquetó. Si esa sociedad, o ese equipo, arrastra estereotipos, la IA los reproduce con una autoridad que parece técnica.

Por eso, cuando le pedimos a un modelo que elija al mejor candidato o que describa a un grupo, lo que suele devolver no es la verdad del mundo: es el sedimento de los datos con los que lo educaron. La inteligencia artificial no desciende de los dioses. Es extensión nuestra. Si somos parciales, ella también lo será, solo que a otra escala.

Y no es un problema teórico. Cuando una empresa entrena modelos con la actividad de sus propios empleados, como documenté en el caso de Meta, la pregunta de quién eligió ese corpus deja de ser abstracta.

Tres regiones, tres éticas

También hablamos de algo que no cabe en un manifiesto único: el desarrollo de la IA no es el mismo en todas partes, porque los valores previos no son los mismos.

En China se prioriza con fuerza lo colectivo y la seguridad del Estado. La vigilancia masiva se encaja en una narrativa de protección del conjunto, no solo de amenaza al individuo. En Europa el acento está en la persona, la privacidad y los límites estrictos, y esa cautela puede frenar la velocidad de innovación; Europa lo sabe. En Estados Unidos el centro de gravedad suele ser la innovación comercial y, en paralelo, la seguridad. Las reglas se acomodan al objetivo de cada sistema más que a un principio único.

No presenté esos modelos como caricaturas de buenos y malos. Los presenté como evidencia de por qué es ingenuo esperar una sola ética global de un día para otro. Quien diseña la herramienta diseña, en parte, el tipo de sociedad que esa herramienta refuerza.

Lo gratis casi nunca es gratis

Otra parte de la entrevista fue deliberadamente práctica. Cuando un usuario interactúa con una inteligencia artificial, ¿qué criterio ético debería tener en la cabeza?

El primero es de sentido común y casi nadie lo aplica: si el producto es gratuito, es muy probable que el usuario sea parte del intercambio. Los datos que entregamos, preguntas, documentos, hábitos, información sensible, pueden alimentar otros fines de la empresa. En los planes de pago suele existir más control, pero incluso ahí la privacidad no siempre viene activada por defecto. Hay que configurarla. En cuentas empresariales el modelo de negocio cambia y la protección suele ir incluida; en el uso cotidiano, no.

Mi recomendación en el programa fue simple: si vas a compartir información delicada, es mejor pagar un poco y revisar la configuración que entregar todo a cambio de no gastar. La ética en la inteligencia artificial no empieza en la ONU. Empieza en lo que cada persona acepta escribirle a una caja de texto.

Un marco moral, y el reloj geopolítico

En la conversación también apareció un referente que sale del laboratorio y entra al terreno de los principios: la encíclica Magnifica Humanitas del papa León XIV, del 15 de mayo de 2026, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Sirve, al menos, para recordar que el debate no es solo de eficiencia. Es de dignidad, de límite y de qué tipo de humanidad queremos amplificar con estas herramientas.

Al mismo tiempo, hay que ser honestos con el ritmo de las instituciones. Los organismos internacionales se mueven lento. La competencia entre potencias, las aplicaciones médicas valiosas y los riesgos, armamento autónomo, fraude, desinformación a escala, se mueven rápido. Un código ético global es deseable; no es, por ahora, el mecanismo que está gobernando el tablero.

Los usuarios no votamos el diseño, pero sí el uso

Cerramos con una idea que me importa especialmente. La mayoría de quienes usamos estas plataformas no nos sentamos en la mesa donde se decide el modelo, el filtro o la prioridad del laboratorio. No votamos el desarrollo. Sí votamos, todos los días, con la pregunta que hacemos, con el dato que entregamos y con la credulidad con la que recibimos la respuesta.

Por eso acepté la invitación de Milenio y de Ricardo Raphael. No para anunciar que la inteligencia artificial es buena o mala, sino para decir algo más sobrio: no le pidamos neutralidad mágica. Pidamos transparencia, límites, responsabilidad y un uso menos ingenuo. La máquina no nos va a salvar de nosotros mismos. Tampoco tiene por qué convertirnos en clientes distraídos de un oráculo que nunca lo fue.

Terminando la entrevista: algoritmos y comercio agéntico

Un agregado, porque fueron dos cosas distintas. La entrevista con Milenio terminó, y después me quedé reunido con directores de TikTok México. Ahí la conversación se movió a otro terreno: los algoritmos vistos desde dentro, y el comercio agéntico.

El comercio agéntico es, para mí, la siguiente pregunta grande del comercio digital, y casi nadie la está haciendo todavía en México. Durante veinte años optimizamos todo para que un humano viera, deseara y comprara. ¿Qué pasa cuando quien recorre el catálogo, compara opciones y decide ya no es una persona sino un agente que actúa por ella? Cambia el escaparate, cambia la publicidad, cambia qué significa recomendar algo y cambia a quién hay que convencer.

No voy a contar lo que se dijo en esa mesa, porque no me corresponde. Sí digo lo que me llevé, y conecta con todo lo anterior: quien construye estas plataformas sabe perfectamente que un algoritmo es una cadena de decisiones humanas, no un fenómeno natural. Los únicos que seguimos hablando de neutralidad somos los de afuera.

Preguntas frecuentes

¿Qué es la ética en la inteligencia artificial?

Es el conjunto de criterios que definen cómo se construyen y se usan estos sistemas: qué datos los entrenan, quién decide qué queda dentro y qué se descarta, qué tan transparente es su funcionamiento y quién responde cuando causan un daño. No es un tema exclusivo de filósofos ni de reguladores: cada decisión técnica es también una decisión de valores.

¿Por qué se dice que los algoritmos no son neutrales?

Porque todo modelo se entrena con datos que alguien eligió, estructuró y etiquetó, dentro de una empresa con una visión de negocio y en un marco legal concreto. Si ese conjunto arrastra estereotipos u omisiones, el modelo los reproduce y además les da apariencia de objetividad técnica.

¿Qué es el comercio agéntico?

Es la compra en la que quien navega, compara y decide no es una persona sino un agente de inteligencia artificial que actúa en su nombre. Obliga a repensar el escaparate, la publicidad y la recomendación, porque el destinatario del mensaje deja de ser un humano distraído y pasa a ser un sistema que compara con criterios explícitos.

¿Quién es responsable cuando una inteligencia artificial causa un daño?

Hoy no hay un consenso internacional. La responsabilidad puede recaer en quien desarrolla el modelo, en quien lo comercializa, en la institución que lo implementa o en el usuario que lo aplica sin control. El problema se agrava con los modelos opacos, donde no siempre se puede reconstruir cómo se llegó a una decisión.

¿Es seguro usar herramientas de IA gratuitas?

Depende de qué le escribas. En los productos gratuitos suele ser el usuario quien forma parte del intercambio, y los datos que entregas pueden alimentar otros fines de la empresa. Si vas a compartir información delicada, conviene un plan de pago y, sobre todo, revisar la configuración de privacidad, que casi nunca viene activada por defecto.

¿Por qué no existe una ética global de la inteligencia artificial?

Porque los valores previos de cada región son distintos. China prioriza lo colectivo y la seguridad del Estado, Europa la persona y la privacidad con límites estrictos, y Estados Unidos la innovación comercial junto con la seguridad. Un código único es deseable, pero los organismos internacionales avanzan más lento que la tecnología y que la competencia entre potencias.

Sobre mí

Soy Wario Duckerman, conferencista de inteligencia artificial y CEO de Brita Inteligencia Artificial. Llevo más de doce años desarrollando IA y fui miembro del Comité de Regulación de IA de la Industria Audiovisual de México. Doy conferencias magistrales y sesiones a puerta cerrada sobre inteligencia artificial aplicada al negocio, y sobre sus límites, para empresas, foros y consejos de administración en México y América Latina.

Si esta conversación le sirve a tu organización, escríbeme aquí o conoce más sobre mi trayectoria.