¿Cómo toma decisiones la IA? No es como crees.

La IA no toma decisiones como nosotros. La mayoría de los sistemas reciben datos de entrada, los procesan mediante una función fija aprendida durante el entrenamiento y generan una puntuación. Luego, comprueban si esa puntuación supera un umbral preestablecido. No hay ponderación de opciones, ni deliberación, ni juicio. Comprender esta diferencia cambia a quién debemos responsabilizar cuando el resultado de un algoritmo nos afecta.

CONCLUSIONES CLAVE

• La mayoría de los sistemas de IA no deliberan ni sopesan las opciones como lo hacen los humanos. Muchos calculan una puntuación numérica a partir de los datos de entrada y la comparan con un umbral preestablecido por la persona.
• Llamar salida algorítmica a “"decisión"” De forma discreta, transfiere la responsabilidad moral y legal de los seres humanos que construyeron e implementaron el sistema al propio sistema.
• Una encuesta realizada en 2023 a investigadores de IA reveló que solo el 20 por ciento cree probable que para 2028 los usuarios puedan conocer las verdaderas razones detrás del resultado de un sistema de IA.
• Tanto el artículo 22 del RGPD como la Ley de IA de la UE exigen explicaciones para las decisiones automatizadas que afectan a las personas, pero el 60 por ciento de los modelos de producción siguen siendo prácticamente inexplicables.
• Comprender el mecanismo detrás “Decisiones de IA” cambia a quién responsabilizas cuando el resultado de un algoritmo te afecta.

¿Cómo toma decisiones la IA?

La mayoría de los sistemas de IA no toman decisiones en el mismo sentido en que uno decide qué comer. Un clasificador toma datos de entrada, los procesa mediante parámetros aprendidos durante el entrenamiento y produce un número. Un modelo de aprobación de préstamos no evalúa tus circunstancias como lo haría un agente de crédito. Convierte tus datos en una puntuación y verifica si esa puntuación supera un límite establecido.

Un algoritmo de contratación no decide rechazarte de la misma manera que lo hace un gerente de contratación. Calcula un número y lo compara con un umbral establecido por otra persona. El rechazo es real. “"decisión,"” En el sentido humano de sopesar razones y elegir, es una metáfora. Y las metáforas realizan un trabajo silencioso pero muy valioso.

Esa metáfora no es neutral. Influye en cómo hablamos de rendición de cuentas, cómo diseñamos las regulaciones y cuán cómodos nos sentimos al delegar decisiones trascendentales en sistemas que no fueron creados para elegir de la manera en que nosotros lo hacemos.

¿Qué está sucediendo realmente dentro? “"Decisión"”?

En los sistemas de clasificación, el mecanismo consiste en la comparación de patrones con ponderaciones aprendidas y un umbral, no en el razonamiento.
Durante el entrenamiento, un modelo ajusta millones de parámetros internos para minimizar los errores en los datos de ejemplo. Cada parámetro refleja una pequeña relación estadística entre las entradas y los resultados. Al introducir nuevos datos en un clasificador entrenado, este multiplica las entradas por esos parámetros y genera una puntuación. Dicha puntuación supera o no un umbral.

Esta descripción del umbral se ajusta perfectamente a los clasificadores: detección de fraude, calificación crediticia, selección de personal. Sin embargo, no se ajusta tan bien a los sistemas generativos, como los grandes modelos de lenguaje, que producen resultados token a token mediante un proceso iterativo condicionado por la estrategia de decodificación, en lugar de una única comprobación de puntuación y umbral. La idea fundamental se mantiene en ambos casos: no existe ningún paso en el que el sistema sopese las alternativas como lo haría una persona. El mecanismo específico simplemente difiere según la arquitectura.

¿Por qué seguimos llamándolo decisión?

Aquí el lenguaje cumple una función real, y no de forma inocente.

Cuando decimos un algoritmo “"decidido"” Al denegar su préstamo, implícitamente ubicamos la agencia dentro del sistema. Este planteamiento facilita la aceptación del resultado y dificulta preguntar quién estableció el umbral, quién seleccionó los datos de entrenamiento y quién decidió que este sistema estaba listo para implementarse. El lenguaje de la decisión oculta una cadena de decisiones humanas tras una sola palabra que suena como si la máquina hubiera tomado la decisión.

Esto no es una cuestión de semántica. El artículo 22 del RGPD otorga Las personas tienen derecho a una explicación cuando se toma una decisión. “únicamente por medios automatizados”. Ese lenguaje normativo trata al algoritmo como el que toma las decisiones, lo que influye en a quién sienten las empresas que deben dar explicaciones y cómo elaboran esa explicación.

¿Pueden los sistemas de IA explicar realmente sus propios resultados?

En general, no, y las investigaciones al respecto son más preocupantes de lo que sugiere la mayoría de los medios de comunicación.

A Encuesta de 2023 a investigadores de IA Se preguntó si los sistemas de IA de última generación en 2028 serían capaces de explicar de forma veraz e inteligible las verdaderas razones detrás de sus resultados. Solo el 20 % respondió afirmativamente. Las técnicas actuales, como las puntuaciones de importancia de las características, las visualizaciones de atención y las explicaciones contrafactuales, describen las correlaciones en las que se basa el modelo. No revelan nada que se asemeje a una razón como la que ofrecería un humano al explicar una decisión.

Esa brecha entre las técnicas de explicabilidad y la explicación genuina es donde la mayoría de los esfuerzos por rendir cuentas en IA se estancan actualmente. Se puede generar una explicación plausible sobre qué características de entrada fueron más importantes. Si esa explicación refleja lo que realmente sucedió dentro del modelo, o si es en sí misma una aproximación superpuesta, es una cuestión técnica abierta.

¿Dónde importa esto realmente?

Las apuestas aumentan drásticamente una vez que “Decisiones de IA” comienzan a afectar la vida de las personas de maneras que no pueden apelar.

La calificación crediticia, los procesos de selección de personal, la fijación de precios de los seguros y la moderación de contenido funcionan cada vez más con sistemas cuya lógica interna ni siquiera sus creadores pueden rastrear por completo. Los reguladores han comenzado a responder directamente a esta brecha. La Ley de IA de la UE exige Documentación de transparencia para sistemas de alto riesgo, con obligaciones independientes para sistemas de alto riesgo propuestas provisionalmente para aplicarse a más tardar el 2 de diciembre de 2027, pendiente de aprobación formal. La ley SB 26-189 de Colorado exige que quienes implementan tecnología de toma de decisiones automatizada cubierta divulguen cómo esta tecnología influye en las decisiones, y el cumplimiento comienza el 1 de enero de 2027.

Estas reglas presuponen un responsable de la toma de decisiones que puede ser responsabilizado. Lo que realmente regulan es una función de puntuación y a los humanos que la configuraron, lo cual es más difícil de legislar con claridad que la “"decisión"” El encuadre sugiere.

¿Quién es realmente responsable cuando...? “"Decisión"” ¿Sale mal?

No el algoritmo, porque el algoritmo no fue diseñado para elegir nada en el sentido humano.

La responsabilidad recae en quienes seleccionaron los datos de entrenamiento, establecieron el umbral, determinaron la tasa de error aceptable y aprobaron el sistema para su implementación. Cuando un algoritmo de contratación descarta sistemáticamente a candidatos cualificados con un perfil determinado, la solución no consiste en pedirle al algoritmo que reconsidere su decisión, sino en examinar los datos de entrenamiento, el umbral y a las personas que dieron su aprobación.

Algunos científicos informáticos se opondrían aquí, y con razón: en un sentido técnico, un clasificador sí selecciona una clase sobre otra, y un agente de aprendizaje por refuerzo sí selecciona una acción sobre otra. Esos son usos legítimos de “"decisión"” En informática, ese sentido operacional no capta el peso moral y deliberativo que la palabra conlleva en su uso cotidiano, el sentido que importa cuando nos preguntamos quién es responsable del resultado. La escala y la complejidad arquitectónica no resuelven esa brecha. Un cálculo más intrincado sigue siendo un cálculo, no una decisión.

Preguntas frecuentes

P: ¿La IA realmente piensa antes de tomar una decisión?

No en el sentido humano. La mayoría de los sistemas de IA calculan un resultado a partir de una función fija aprendida durante el entrenamiento, sin deliberación ni evaluación de alternativas. Lo que parece pensamiento es, en realidad, la comparación de patrones con relaciones estadísticas en los datos de entrenamiento, ejecutada siempre de la misma manera.

P: ¿Puedo obtener una explicación sobre una decisión de IA que me afecta?

Según el artículo 22 del RGPD, en la UE usted tiene derecho a una explicación de las decisiones tomadas exclusivamente por medios automatizados. En la práctica, la explicación que recibe describe qué factores de entrada se correlacionaron con el resultado, no la lógica interna real del sistema, ya que la mayoría de los modelos de producción siguen siendo difíciles de interpretar completamente incluso para sus propios desarrolladores.

P: ¿Quién es el responsable cuando un sistema de IA toma una mala decisión?

Las personas que construyeron, entrenaron e implementaron el sistema fueron quienes seleccionaron los datos de entrenamiento, establecieron los umbrales de error aceptables y aprobaron su uso. El sistema no puede asumir responsabilidad moral porque no fue diseñado para sopesar los argumentos como lo hace una persona.

P: ¿Serán capaces algún día los sistemas de IA de explicar verdaderamente sus decisiones?

Existe incertidumbre, y la comunidad de expertos no se muestra optimista. Una encuesta realizada en 2023 a investigadores de IA reveló que solo el 20 % consideraba probable que para 2028 los usuarios conocieran las verdaderas razones detrás de los resultados de un sistema de IA. Las técnicas de explicabilidad actuales se aproximan a las razones en lugar de revelarlas directamente.

La IA no toma decisiones como lo hacemos nosotros. La mayoría de los sistemas calculan puntuaciones y las comparan con umbrales establecidos, probados y aprobados por personas. Cada vez que decimos que un algoritmo "tomó una decisión", le atribuimos implícitamente una responsabilidad que corresponde a quienes lo crearon, y esa transferencia de responsabilidad es precisamente la brecha de rendición de cuentas que los reguladores se esfuerzan por cerrar.