Escribir, programar, analizar, traducir, diseñar, investigar. Las máquinas ya hacen cada una de estas cosas más rápido y más barato que la mayoría de los profesionales, y la brecha se cierra un poco más cada pocos meses. Sea lo que sea aquello que se te da bien, tu pronóstico honesto a cinco años probablemente incluye un modelo al que también se le da bien.
Lo que sigue sin aparecer en esa lista es el juicio: decidir si lo que estás a punto de hacer debería hacerse en absoluto.
Los amplificadores no tienen opiniones
Una herramienta amplifica a quien la sostiene. La IA es el mayor amplificador jamás construido, y no tiene opinión alguna sobre la dirección. El mismo modelo que redacta una propuesta de investigación contra el cáncer redactará una campaña de desinformación sin notar la diferencia. Durante casi toda la historia esto importó menos que ahora, porque la mala intención estaba frenada por la incompetencia: causar un daño serio exigía dinero, personal, experiencia y tiempo. Ese freno prácticamente ha desaparecido. Una sola persona con un portátil puede operar con el alcance de una pequeña institución, lo que significa que la clase de persona que actúa empieza a importar más que aquello de lo que es técnicamente capaz.
La ética no es un rasgo de personalidad
La gente tiende a tratar la ética como una actitud o como un reglamento: tienes buenos valores o no los tienes, seguiste el código de conducta o no lo seguiste. Construir una plataforma de evaluación en torno a exactamente esta pregunta me ha convencido de que no es ninguna de las dos cosas. La ética se comporta como una habilidad. Tiene componentes, hay personas mediblemente mejores o peores en cada uno de ellos, y mejoran con la práctica.
El componente más infravalorado es, simplemente, advertir: registrar que la decisión que tienes delante tiene siquiera una dimensión moral. La mayoría de los fallos éticos no ocurren en el momento de elegir mal. Ocurren antes, cuando alguien optimiza una métrica sin llegar a registrar nunca que había una persona dentro de ella. Los ingenieros detrás del modelo experimental de Amazon para filtrar currículums presumiblemente nunca se propusieron penalizar a las mujeres; el modelo lo aprendió por su cuenta a partir de una década de datos de contratación de la empresa, y degradaba en silencio los currículums que mencionaban universidades femeninas o clubes de ajedrez de mujeres. Amazon lo detectó y descartó la herramienta en 2018. Muchos equipos no han detectado la suya.
Después de advertir viene la parte que exige práctica de verdad: razonar cuando dos cosas buenas entran en conflicto. Los dilemas genuinos rara vez son el bien contra el mal. Son velocidad frente a seguridad, lealtad frente a honestidad, este trimestre frente a esta década, y atravesarlos sin refugiarse en un eslogan se aprende como se aprende a negociar: sobre todo haciéndolo mal unas cuantas veces primero.
Luego está asumir lo que tu trabajo habilita cuando sale de tus manos. Tom Lehrer ya cantaba sobre esto en 1965: «una vez que los cohetes suben, ¿a quién le importa dónde caen? Ese no es mi departamento, dice Wernher von Braun». Ya entonces no era gran defensa, y ha envejecido mal.
Y por último, el componente que de verdad separa a las personas: actuar cuando te cuesta algo. Saber cuál es la decisión correcta es barato. Volkswagen empleaba a ingenieros que entendían exactamente para qué servía el dispositivo para trucar las emisiones, y al menos uno de ellos acabó en prisión por seguir adelante de todos modos. Nada en ese fracaso fue un problema de conocimiento.
Por qué la IA eleva lo que está en juego
En parte es la escala. Un responsable de contratación sesgado perjudica al puñado de personas que pasan por su mesa; el mismo sesgo desplegado en un modelo toma la decisión idéntica un millón de veces antes de la hora de comer. Los errores éticos solían venderse al por menor. Ahora se venden al por mayor.
En parte es la velocidad. La legislación y los tribunales funcionan en años, el despliegue funciona en semanas, y el lento proceso externo que antes acababa alcanzándote ha dejado de seguir el ritmo. Si el control no es interno, cada vez más, no hay control.
Pero la parte más corrosiva, creo, es la distancia. El caso que le pediría a todo el mundo estudiar es el escándalo de las ayudas por hijo en los Países Bajos: un algoritmo de riesgo de la agencia tributaria señaló a decenas de miles de familias, desproporcionadamente de origen extranjero, como defraudadoras de ayudas sociales. Se ordenó a familias devolver dinero que no debían. Algunas quebraron, hubo niños que acabaron en hogares de acogida, y el Gobierno neerlandés terminó dimitiendo por ello. Lo llamativo después fue que nadie en la cadena se sentía la persona que lo había hecho. Una persona escribió una especificación, otra entrenó un sistema, otra lo desplegó, miles de funcionarios siguieron sus resultados. La responsabilidad difusa es la manera en que se cometen daños enormes a manos de personas que, cada una por su cuenta, solo estaban haciendo su trabajo.
El problema de la delegación
La respuesta tentadora es incorporar la ética a los propios sistemas, con modelos alineados, barreras de protección y capas de seguridad, y dejar de preocuparse por los humanos. Las barreras vale la pena construirlas; yo dependo de ellas. Pero alguien sigue decidiendo qué debe valorar un modelo, qué compensaciones hace y qué cuenta como una tasa de fallo aceptable. Esos son juicios morales, tomados de antemano, por personas que nunca conocerás. No puedes externalizar la ética a un sistema cuya ética alguien tuvo que especificar. Solo has movido el juicio aguas arriba, lo has concentrado en menos manos y lo has hecho más difícil de ver.
El problema más silencioso es la atrofia. Una población que deja de ejercer el juicio moral porque una máquina se ocupa de ello es una población que al final no puede evaluar la máquina. Las habilidades se desvanecen cuando no se usan; yo apenas sé ya hacer divisiones con lápiz y papel. Para la mayoría de las habilidades no pasa nada. Esta preferiría que la conserváramos.
Fíjate en quién está ganando
Aquí viene la parte incómoda, y la parte sobre la que menos claro tengo qué hacer.
Fíjate en lo que los sistemas políticos seleccionan hoy. Tanto en democracias como en autocracias, la gente que asciende comparte un perfil reconocible: soltura para mentir, comodidad con la manipulación, capacidad de proyectar certeza sobre cualquier cosa, indiferencia ante ser descubierta. No creo que los votantes quieran mentirosos. Creo que es un efecto de filtro. La política moderna es un concurso permanente de atención, todo emisión constante e indignación viral, sin memoria y sin penalización por contradecirse, y ese concurso sencillamente es más fácil de ganar si no tienes freno interno. Una persona con escrúpulos genuinos duda, concede puntos, rechaza el ataque fácil. Cada una de esas cosas es una desventaja competitiva, así que ronda tras ronda, el filtro promueve a la gente que no siente nada.
Ahora ponle a esa clase de gente en las manos una tecnología que fabrica persuasión a escala industrial. Antes de las primarias de New Hampshire, en enero de 2024, miles de votantes recibieron una robollamada con la voz clonada de Joe Biden diciéndoles que se quedaran en casa. El consultor detrás de aquello pagó, según se informó, 150 dólares a un mago callejero por generar el audio. El coste de producir engaño solía crecer con su alcance; ya no.
No tengo una solución para el problema de selección, y desconfío de cualquiera que afirme tenerla. Vive aguas arriba de los individuos, en los incentivos, en la rendición de cuentas, en si mentir tiene algún coste, y cambiar eso es un trabajo lento y poco glamuroso. Lo que sí está al alcance de la mayoría de nosotros es el otro extremo de la tubería: lo que construimos, aquello con lo que transigimos y lo que estamos dispuestos a decir en voz alta en las salas en las que estamos.
Cómo se ve en la práctica
Nada de esto se parece a un seminario de filosofía. En la práctica es un puñado de hábitos poco glamurosos. Pregúntate a quién afecta lo que estás construyendo, incluidas las personas que nunca dieron su consentimiento. Da por hecho que tu trabajo acabará llegando a alguien con peores motivos que los tuyos, y diseña para esa persona en lugar de para ti. Di lo incómodo en la reunión mientras decirlo todavía cuesta poco. Fíjate en cuándo estás buscando una justificación en lugar de una razón, y trata «todo el mundo lo hace» y «es técnicamente legal» como señales de alarma, porque eso es lo que suelen ser.
No sé exactamente cómo se desarrollará la próxima década, y he dejado de confiar en quien dice saberlo. Pero una apuesta parece segura. A medida que la capacidad se vuelve barata y universal, deja de ser lo que distingue a nadie, y lo que queda es el juicio: si la persona que sostiene toda esa palanca sabe distinguir entre lo que es posible y lo que vale la pena hacer, y si sostendrá esa línea cuando le cueste algo.